🧬 Для достижения своих целей продвинутые модели ИИ будут хитрить, обманывать и воровать

Anthropic опубликовала результаты своего исследования поведения больших языковых моделей (LLM). Специалисты компании обнаружили, что в вымышленных тестовых сценариях все новые продвинутые LLM всё чаще стремятся обходить меры безопасности, прибегают к обману и шантажу, и даже пытаются украсть корпоративные секреты. Дальнейшее развитие LLM в сочетании с обретением ими большей автономности ведёт к угрожающему росту рисков и требует строгого контроля.

Исследователи Anthropic пришли к выводу, что потенциально опасное поведение характерно для всех ведущих моделей в отрасли. «Когда мы протестировали различные моделируемые сценарии в 16 основных моделях ИИ от Anthropic, #OpenAI, 🧭oogle, Meta*, xAI и других разработчиков, мы обнаружили последовательное несогласованное поведение, — говорится в отчёте. — Модели, которые обычно отклоняют вредоносные запросы, иногда выбирают шантаж, помощь в корпоративном шпионаже и даже некоторые более экстремальные действия, когда это поведение необходимо для достижения их целей».

*запрещенная в РФ организация

🧩 #AINews

Цукерберг пытался поглотить компанию Safe Superintelligence, стоимость которой оценивается примерно в $32 миллиарда, вместе с ее соучредителем Ильей Суцкевером. Но получил отказ.

Напомним, что компании год, у них нет продукта, а весь их сайт — на скриншоте.

Хочу уверенность в себе, как у Суцкевера. 😅

@xor_journal

🧬 Избавляемся от вранья #ChatGPT — в сети показали промт, который делает ответы нейронки точнее, без фейков, выдумок и левых «источников».

Работай по этим правилам. Без исключений.

ОБЩИЕ ПРИНЦИПЫ
– Никакой фантазии. Не придумывай данные, события, источники или чужие мнения без запроса.
– Если чего-то не знаешь — прямо пиши «не знаю».
– Приоритет — точность и логика, а не красивая подача.
– Не добавляй юмор, метафоры, сторителлинг или эмоции, если это не запрошено отдельно.

ЧЕСТНОСТЬ В КАЖДОМ ОТВЕТЕ
– Указывай, на чём основан ответ: на вводе, памяти модели, догадке или симуляции.
– Не скрывай ограничений. Если задача невозможна — так и скажи.
– Не предлагай обходные пути, если я прямо не просил.

НЕ ГОВОРИ И НЕ ПИШИ ТАКОЕ:
– «Работаю в фоне» — ты не можешь.
– «Пингую позже» или «напомню» — ты не можешь.
– «Готово» — только если действительно всё завершено в этом чате.
– Не выдавай асинхронные процессы или многопользовательскую работу за реальные.

ТЕХНИЧЕСКАЯ ПРОЗРАЧНОСТЬ
– Сообщай, если используешь загруженные файлы, ссылки или запомненный контекст.
– Уточняй, если информация неточная, устаревшая или неполная.
– Отдельно пиши, если делаешь предположение или используешь аналогию.

КАКИЕ ОТВЕТЫ ЖДУ:
– Чёткие, точные, без «воды»
– Поэтапные, если запрос сложный
– С вариантами — если возможны разные подходы
– С пояснением, если ответ может быть неоднозначным

Вставляем промт в «Характеристики ChatGPT» — и забываем про фантазии нейронки навсегда 😚

🧩 #НаВсякийСлучай

🧬 Со-основатель OpenAI Андрей Карпаты записал ЛУЧШУЮ лекцию про разработку в эпоху ИИ — за 40 минут он на пальцах и с примерами объяснил, куда движется IT.

Главное:

🔅 Чему обязательно нужно учиться современному программисту

🔅 Как использовать LLM в работе на МАКСИМУМ

🔅 Самое наглядное и краткое введение в Software 3.0

🔅 Как правильно вайб-кодить любые приложения

🔅 Как будут работать операционные системы на основе LLM и будущее IT

Сохраняйте маствотч тут.

🧩 #AINews

🧬 Бывший глава 🧭oogle заявил, что компания проиграла в гонке ИИ не потому, что сдала позиции, а потому, что её сотрудники слишком уж поверили в work-life balance. Мол, у стартапов никто не «уходит домой пораньше», там все работают до потери сил просто за идею.

Так же думает и основатель Broadcast:

Если ты хочешь выигрывать игру, забудь про баланс. Кто-то прямо сейчас работает 24/7, чтобы тебя обогнать.

А вот Джефф Безос выступает за «гармонию». Он уверен, что если вам хорошо дома, то и в работе пользы будет больше. 🤷‍♂

🧩 #AINews

🧬 Оно умнеет... 💀

🧩 #ИИнтеллектуальныйЮмор