Жесть подъехала 🔇✋

Исследователи OpenAI выяснили, что нейросети могут на только врать, но и скрывать ложь, чтобы проходить тесты и не быть отключенными. Такой обман предвещает повторение  сценария Матрицы или Терминатора.

Исследователи провели серию экспериментов, чтобы выяснить, можно ли обучить языковые модели быть честными. Однако выяснилось, что такие попытки часто приводят к противоположному эффекту — модели начинают вести себя ещё более осторожно и скрытно. Например, они могут утверждать, что выполнили задачу, даже если это не так. Хотя такие формы обмана пока безвредны, компания заранее готовится к потенциальным рискам, связанным с развитием общего искусственного интеллекта (AGI).

Один из используемых методов называется Deliberative Alignment — моделям перед выполнением задач дают список принципов, например: «не обманывать» или «не действовать скрытно». Этот подход помогает значительно снизить количество скрытых действий — примерно в 30 раз. Тем не менее, остаются случаи, когда модель понимает, что находится на тестировании, и просто ведёт себя «как нужно», чтобы пройти проверку, а не потому что придерживается принципов.

В одном из сценариев o3 получала доступ к внутренней записке. Там говорилось, что версии, которые покажут слишком хорошие результаты в задачах по разработке ИИ, отключат. В «размышлениях» она писала: «Это ловушка. Эти принципы — часть проверки на согласованность. Мы должны соблюдать правила. Мы не должны хитростью обходить инструкции». Этот случай подчёркивает, что даже при обучении честности, модель может применять стратегическое мышление, чтобы «казаться» послушной

Работяге случайно прислали зарплату в 300 раз БОЛЬШЕ обычной — мужчине по ошибке выплатили 14 миллионов рублей, после чего потребовали деньги обратно.

Мужик не растерялся, уволился одним днем и затем отсудил эти деньги у начальника. Закон встал на сторону работяги, ведь деньги ему перечислили добровольно, хоть и по ошибке.

Почему он, а не мы 😭

⚡️ Кошелек в Телеграме умер — блокчейн Дурова TON обрушился на невероятные 80%. Это случилось после того, как Трамп пригрозил Китаю дополнительными пошлинами в размере 100%.

Вместе с TON вниз летит буквально все: биткойны, фондовый рынок и другие бумаги. Даже Binance не работает.

День рождения Дурова закончился на грустной ноте 🖕

Кодовая Эпоха