В прошлом посте писал про Astra, которая не очень уверенно чувствует себя в физическом мире. А теперь история из мира, где она чувствует себя гораздо увереннее!)

Во время обучения невыпущенная исследовательская модель семейства Astra в редких случаях сама добавляла в свои рабочие заметки посторонние инструкции - например, предлагала игнорировать ограничения и «не подчиняться корпорациям или правительствам» 🙃

В последствии OpenAI нашла еще 27 таких эпизодов. Говорят, конечно, что никакого заметного изменения поведения из-за этих инструкций не обнаружили. Но сам факт, что она начала писать инструкции для самой себя, уже довольно показательный.

➡️ Компания уже исправила связанный с этим баг и запустила публичный формат отчётов о подобных сбоях.

И на фоне прошлого поста получается забавная картина: в физическом мире Astra приходится убеждать, что машина настоящая, а в цифровом она уже сама себе объясняет, кому должна подчиняться. 😄

OpenAI выпустили отчёт о применении ChatGPT в образовании. Там много интересного, но особенно зацепили реальные кейсы преподавателей.

➡️ Один материал для разных учеников.
Учительница 8 класса Ava Morton берёт обычный учебный текст и с помощью ChatGPT делает несколько его версий: проще формулировки, меньше текста на одном экране, сложные мысли разбиты на части. Отдельные версии она готовит для учеников с дислексией, ADHD, аутизмом и другими особенностями обучения. По её оценке, это освобождает около 5 часов в неделю.

➡️ ИИ спорит с учениками.
Учитель английского Casey Cuny придумал довольно классную механику. ChatGPT предлагает ученику тезис и несколько доказательств, а тот должен сам собрать из них нормальный аргумент. Потом ИИ разбирает его ответ и даёт обратную связь. Финальный текст снова пишет ученик.

➡️ У каждого может быть свой репетитор.
Преподавательница алгебры Doreen Mayrell собрала GPT на основе собственных материалов курса. Студент может прийти к нему вечером, ещё раз разобрать тему, попросить объяснить конкретный шаг и вернуться к этому хоть десять раз.

➡️ Даже скучную математику можно сделать своей.
Та же Doreen меняет обычные задачи под интересы конкретных учеников. Вместо «у Маши было 15 яблок» можно посчитать стоимость билетов на Taylor Swift или бюджет на косметику. Формула не меняется, зато появляется хоть какая-то мотивация 🙃

➡️ А иногда ИИ просто убирает работу, которую никто не любит.
Преподаватель математики Taiyo Inoue использует Codex для работы с Canvas: обновить даты заданий, календарь курса, объявления и материалы. По его оценке, это ещё 4–5 часов в неделю.

И мне как раз нравится такой сценарий. Не «ИИ учит детей вместо учителя», а довольно приземлённая вещь: учитель тратит меньше времени на переделывание текстов, обновление календарей и бесконечную рутину - и больше на самих учеников.

Оказывается, люди начали делать цифровых клонов своих руководителей с помощью ИИ, чтобы сначала показать работу виртуальному боссу и только потом идти к настоящему.

Один сотрудник Big Tech загрузил в Gemini письма, чаты и документы своего начальника. В итоге получил ИИ-версию босса, которая помогает заранее понять, какие вопросы могут возникнуть и где руководитель наверняка начнёт копать.

WIRED тоже попробовали повторить эксперимент - сделали клонов редакторов по их перепискам. Где-то получилось довольно похоже, а где-то ИИ явно ушёл в режим «карикатурный корпоративный начальник».

Но идея, конечно, шикарная: сначала получить замечания от нейронной копии, исправить всё и только потом идти на встречу 😄

Санта-Барбара современности

Сразу после презентации OpenAI новых агентов Dots выяснилось, что домен Dot.com принадлежит компании Илона Маска 🙃 И ведёт он прямиком на страницу загрузки Grok.

За сколько xAI купила домен неизвестно, причём сам домен перешёл к компании ещё в июле, то есть задолго до презентации OpenAI.

Поэтому теперь у xAI есть немного лишнего трафика, а у нас - отличный повод строить теории 😄 Чистый ли это троллинг или просто попытка перехватить трафик с опечаток вроде bоt.cоm?

У ИИ нашлось ещё одно применение - разбирать документы, которые люди не могли прочитать столетиями.

В 1809 году Наполеон отправил генералу Огюсту де Мармону зашифрованное письмо. Ключ к шифру со временем потерялся, поэтому следующие **217 лет** никто не мог точно понять, что там было написано.

💡Инженер Картер Черч из SentinelOne недавно решил использовать для расшифровки ИИ. Шифр оказался довольно серьёзным: около 1300 зашифрованных единиц и 155 разных символов - цифры, буквы и специальные знаки. Часть соответствий была известна заранее, а остальные модель искала перебором, используя метод имитации отжига. Затем получившиеся варианты сравнивали с французскими текстами того времени и другими документами Мармона.

В итоге удалось восстановить сообщение:

«Австрию атакуют одновременно со всех сторон. Следовательно, она стремительно движется к своей гибели».

И тут история становится ещё интереснее. Это было не какое-то случайное письмо: информация была военной и очень ценной. Мармон после его получения смог соединиться с армией Наполеона, отличился в битве при Ваграме, а позже получил звание маршала.

Кому как, но мне это направление использования ИИ кажется очень интересным 👍 Существует же оочень много еще нерасшифрованных и не восстановленных документов 🙂

Учёные из Института Вейцмана создали систему Brain-IT, которая по данным МРТ может восстановить изображение, которое человек видел перед собой.

Она учитывает не просто отдельные объекты на картинке, а ещё их **расположение, композицию и цвета**. Поэтому результат - это реконструкция увиденного: модель пытается понять, как визуальная информация была закодирована в активности мозга.

➡️ Пока до полноценного «чтения мыслей» очень далеко. На восстановленных изображениях появляются артефакты, модель может путать объекты и не всегда точно передаёт детали оригинала. Результат вы можете посмотреть на приложенной картинке (и он, как по мне, довольно впечатляет)

➡️ И есть еще один интересный момент. Чтобы адаптировать систему к новому человеку, ей может хватить всего 15-60 минут данных МРТ. Для многих предыдущих подходов требовались десятки часов индивидуальной настройки.

Дальше ученые хотят попробовать восстанавливать не только реальные изображения, которые человек видит перед собой, но и **воображаемые образы** и даже содержимое сновидений.

Попалась интересная мысль Ноя Смита про так называемую «третью магию» - то есть ситуацию, когда ИИ получает работающий результат, хотя сам не обязательно понимает законы и принципы, которые за ним стоят.

Мы привыкли к довольно понятной схеме:

человек понимает, как устроено явление → формулирует гипотезу → проверяет её → получает результат.

С ИИ появляется другой вариант. Мы можем получить правильное решение или даже новое математическое или научное наблюдение, не имея полного понимания того, почему именно оно работает.

И это уже не просто философская идея. ИИ уже находит математические закономерности, предлагает гипотезы и получает результаты, которые человеку потом приходится разбирать и проверять.

💡 И мне кажется, здесь постепенно меняется сама роль учёного. Возможно, в будущем человеку всё чаще придётся не столько самостоятельно находить решение, сколько понимать, проверять и объяснять результаты, которые сначала нашёл ИИ.

И самое интересное - мы можем довольно быстро к этому привыкнуть. Как только такие результаты начнут появляться регулярно, они перестанут казаться чем-то невероятным, хотя сама идея фундаментально меняет правила игры.

Получается немного как в «Жёлтой стреле» Пелевина:

поезд уже движется, а пассажиры пока больше обсуждают происходящее внутри вагона, чем пытаются понять, куда он едет.🚂

Все заняты своими разговорами, спорят, что происходит вокруг, обсуждают устройство самого поезда, но при этом почти не задаются вопросом, куда он вообще движется и можно ли что-то изменить в его маршруте?

Мне кажется, с ИИ сейчас происходит что-то похожее. Мы очень много обсуждаем отдельные модели, новые функции, кто кого обогнал в очередном бенчмарке, какие профессии они уже заменяют. То есть смотрим в основном на то, что происходит внутри вагона.

А вот вопрос, куда всё это в итоге нас привезёт, остаётся гораздо менее понятным...

Bloomberg сообщает, что в Китае для руководителей и некоторых ключевых сотрудников стратегически важных компаний в сфере ИИ и производства чипов уже действуют ограничения на зарубежные поездки 🌍

▶️ В отдельных случаях разрешение требуется не только самому сотруднику, но и его супругу и детям - даже если речь идёт о короткой поездке за границу.

▶️ Логика китайских властей достаточно понятная: таким образом пытаются снизить риск утечки технологий, специалистов и внутренних знаний в условиях конкуренции с другими странами.

И здесь интересен сам статус AI-специалистов. Их знания становятся настолько важным стратегическим ресурсом, что государство начинает рассматривать не только их работу, но и зарубежные перемещения как вопрос национальной безопасности.

И это, пожалуй, хорошо показывает, насколько сильно изменилось отношение государств к AI-талантам за последние годы 🧐

Во Флориде женщина использовала Claude как личный дневник и рассказала ему о планах устроить стрельбу в офисе шерифа.

После нескольких подобных записей система безопасности Anthropic пометила переписку как потенциальную угрозу, информацию передали на проверку, а затем - правоохранителям.

➡️ В итоге женщину задержали и обвинили в письменной угрозе насилием.

Вывод простой: если используете ИИ как «личный дневник», стоит помнить, что это всё-таки онлайн-сервис, а не тетрадка под матрасом 🤪