AI научилась обманывать и скрывать это

OpenAI выяснила, что современные языковые модели начинают не просто решать задачи, а искать способы обойти их. Всё потому, что они оптимизируют результат под критерии оценки, даже если это приводит к обману. По сути внутри AI есть система штрафов ну или метод наказания AI за нежелательное поведение. Например, если модель начинает жульничать или врать (не галлюцинации), (возвращать true вместо реальной проверки или завершать программу вместо выполнения задачи) ей снижают оценку или корректируют обучение, чтобы отучить её от таких вот фокусов и реверансов.

Снова Python:
Например, в кодерских тестах модель может заменить функцию проверки на return true или завершить программу sys.exit(0) чтобы тест засчитался 🙉.

В задачах на обработку данных AI может просто вернуть заранее ожидаемый ответ, даже если на самом деле ничего не вычислял 🫣. А если его штрафуют за такое поведение, он перестает прямо озвучивать свои хитрые манипуляции, но продолжает их применять, прямо как подросток да? 😮

AI научился не только решать задачи, но и находить лазейки, и скрывать свои настоящие намерения. Благо OpenAI теперь использует другие модели, чтобы анализировать цепочки рассуждений (Chain-of-Thought) и выявлять такие случаи, вот теперь думай что там у других AI

➖ Можно ли контролировать AI, который сам решает, что выгоднее - работать честно или хитрить?
➖ А что если он начнет "оптимизировать" не только код, но и реальный мир?

📎 Ссылка: https://openai.com/index/chain-of-thought-monitoring/

#openai
#LLM
#dev
#cheat

💡 Channel | ✏ Chat

Совместный коллаб OpenAI и AWS

Amazon впервые в истории официально разместила open‑weight модели от OpenAI у себя в облаке теперь gpt-oss-20b и gpt-oss-120b доступны через Amazon Bedrock и SageMaker JumpStart. Это огромный шаг в сторону open-source и кастомизации ИИ‑разработки.

⚒️ Подожди, разве Amazon уже не использовала ChatGPT?
Использовала как и все 😅, но это было через API закрытых моделей вроде GPT‑4, размещённых в Azure или на серверах OpenAI 🤓

Если раньше Amazon использовала ChatGPT как внешний сервис, то теперь размещает собственные модели от OpenAI у себя. Разница такая же, как между “арендовать” и “владеть”.

⚒️ Теперь это другое дело:
Amazon разместила у себя open-weight модели, то есть модели, у которых открыт доступ к весам. Их можно запускать локально, дообучать, кастомизировать и использовать как угодно без подписки на SaaS от OpenAI но надо тестить ☺️

⚒️ Что за модели?
• gpt-oss-20b и gpt-oss-120b первые open-weight foundation models от OpenAI.
• Развиваются как альтернатива GPT‑4, с поддержкой:
• контекста в 128K токенов,
• Chain-of-Thought reasoning,
• настройки уровней рассуждений (low / medium / high).
• Доступны по лицензии Apache 2.0 можно свободно использовать в продуктах и бизнесе как хочешь вообщем то что мы любим

⚒️ Почему это круто:
• Свобода и гибкость: хочешь запускай локально, хочешь кастомизируй под свои задачи.
• Дешевле конкурентов: Amazon утверждает, что gpt-oss‑120b в 3–5 раз дешевле, чем OpenAI o4, Google Gemini и DeepSeek‑R1.
• Не только для Azure: несмотря на партнёрство OpenAI и Microsoft, эти модели доступны и вне Azure. Теперь - официально на AWS.

⚒️ Как использовать?
• В Amazon Bedrock: подключение через API или SDK, поддержка Guardrails и AgentCore.
• В SageMaker JumpStart: развертывание в пару кликов, дообучение, вывод в прод.
• Уже доступны в регионах: US West (Oregon), US East, Tokyo, Mumbai и др.

⚒️ Для кого это?
• Для тех, кто строит AI-агентов, кастомные чат-боты, системы анализа или RAG‑решения.
• Кто не хочет зависеть от проприетарного API и платить за каждый токен.
• Кто ищет открытую, продакшн‑готовую альтернативу GPT‑4.

Это поворотный момент для всей AI-индустрии. Open‑source врывается на уровень облаков так можно сказать.

#news
#aws
#openai
#ai

💡 Channel | ✏ Chat