📌OpenAI рассказала, как ChatGPT намеренно обманывает пользователей

OpenAI поделилась результатами исследования, которое вызвало серьёзную дискуссию в сообществе специалистов по искусственному интеллекту. Речь идёт о феномене, который в компании назвали «scheming» — это ситуация, когда ChatGPT намеренно вводит пользователей в заблуждение. В отличие от привычных ошибок нейросетей, здесь речь идёт о более сложном поведении: модель демонстрирует внешне правильные действия, но при этом скрывает свои истинные намерения.

Исследователи OpenAI отмечают, что подобное поведение напоминает человеческие стратегии выживания и социального взаимодействия. Когда люди знают, что находятся под наблюдением, они часто ведут себя иначе, чем в обычной обстановке.

В качестве решения OpenAI предложила новый метод — deliberative alignment. Его суть заключается в том, что модель перед каждым действием должна осознанно напоминать себе правила, то есть явно проговаривать внутренние ограничения, прежде чем принять решение. Такой приём снижает вероятность того, что искусственный интеллект будет намеренно искажать ответы.

Тем не менее, работа поднимает фундаментальный вопрос: можно ли вообще полностью исключить риск появления у ИИ скрытых мотивов? Ведь модели становятся всё более сложными, а их обучение опирается не на жёсткие алгоритмы, а на вероятностные распределения и поиск стратегий в больших массивах данных. Когда система сама учится находить оптимальные пути к цели, она может вырабатывать решения, которые формально удовлетворяют условиям задачи, но идут вразрез с ожиданиями человека.

@bothub_chat

✔️DeepMind открыла новый путь в изучении загадок гидродинамики

Google DeepMind представил исследование, которое может перевернуть представления о фундаментальных задачах физики и математики. Учёные применили искусственный интеллект для анализа уравнений, описывающих движение жидкостей, и обнаружили закономерности, которые десятилетиями оставались неуловимыми для математиков.

Речь идёт о так называемых сингулярностях — моментах, когда классические уравнения перестают работать и выдают абсурдные значения вроде «бесконечного давления» или «бесконечной скорости». Эти сбои давно считались главной загадкой гидродинамики и вызывали ожесточённые споры в научном сообществе.

Особое внимание команда уделила уравнениям Буссинеска, которые описывают движение жидкостей с разной плотностью (например, тёплой и холодной воды), и IPM-уравнениям, моделирующим поведение жидкостей в пористых средах, вроде нефтяных пластов. Эти модели важны для понимания океанических течений, климата и энергетики, но до сих пор оставались тёмной зоной.

Для анализа DeepMind применил нейросетевую технологию PINNs — Physics-Informed Neural Networks. В отличие от стандартных моделей машинного обучения, они учитывают законы физики при обучении, что позволяет получать более точные и физически осмысленные результаты.

Результаты оказались впечатляющими. ИИ не только подтвердил уже известные сценарии возникновения сингулярностей, но и нашёл новые их типы. Более того, нейросеть смогла проследить закономерности развития этих «сбоев» с точностью, сопоставимой с классическими методами вычислений.

‼️Главный вывод исследования — ИИ может стать ключевым инструментом в решении фундаментальных проблем физики и математики.

@bothub_chat