Документация переоценена 😁

Тренируем внутреннего HR-а: в сети нашли игру, в которой нужно угадать — перед вами аватарка в LinkedIn или фото из розыска Интерпола 😂

Кодовая Эпоха

🚽А вы знали, что Python был создан как хобби-проект Гвидо ван Россума в конце 1980-х годов, чтобы занять себя во время рождественских каникул?

И его название не имеет никакого отношения к змеям :)

Кодовая Эпоха

Как бэкенд-разработчик, рано или поздно ты поймёшь… дело не только в API и базах данных.

Всё сводится к тому, как системы общаются друг с другом на масштабе. Сможет ли твой сервис выдержать миллионы запросов без падений, выживет ли модель данных, когда продукт внезапно потребует десять новых фич, и сможет ли архитектура развиваться без проблем.

Настоящее веселье начинается, когда выходишь за рамки обычного CRUD 🫤

Жесть подъехала 🔇✋

Исследователи OpenAI выяснили, что нейросети могут на только врать, но и скрывать ложь, чтобы проходить тесты и не быть отключенными. Такой обман предвещает повторение  сценария Матрицы или Терминатора.

Исследователи провели серию экспериментов, чтобы выяснить, можно ли обучить языковые модели быть честными. Однако выяснилось, что такие попытки часто приводят к противоположному эффекту — модели начинают вести себя ещё более осторожно и скрытно. Например, они могут утверждать, что выполнили задачу, даже если это не так. Хотя такие формы обмана пока безвредны, компания заранее готовится к потенциальным рискам, связанным с развитием общего искусственного интеллекта (AGI).

Один из используемых методов называется Deliberative Alignment — моделям перед выполнением задач дают список принципов, например: «не обманывать» или «не действовать скрытно». Этот подход помогает значительно снизить количество скрытых действий — примерно в 30 раз. Тем не менее, остаются случаи, когда модель понимает, что находится на тестировании, и просто ведёт себя «как нужно», чтобы пройти проверку, а не потому что придерживается принципов.

В одном из сценариев o3 получала доступ к внутренней записке. Там говорилось, что версии, которые покажут слишком хорошие результаты в задачах по разработке ИИ, отключат. В «размышлениях» она писала: «Это ловушка. Эти принципы — часть проверки на согласованность. Мы должны соблюдать правила. Мы не должны хитростью обходить инструкции». Этот случай подчёркивает, что даже при обучении честности, модель может применять стратегическое мышление, чтобы «казаться» послушной

Работяге случайно прислали зарплату в 300 раз БОЛЬШЕ обычной — мужчине по ошибке выплатили 14 миллионов рублей, после чего потребовали деньги обратно.

Мужик не растерялся, уволился одним днем и затем отсудил эти деньги у начальника. Закон встал на сторону работяги, ведь деньги ему перечислили добровольно, хоть и по ошибке.

Почему он, а не мы 😭