Ииии вот из-под крыла Белого Дома выходит анонс THE GENESIS MISSION — инициативы, направленной на использование AI в науке. Анонс прокомментировали Anthropic и OpenAI, и мб кто-то ещё — так что все наши тут.

В чём смысл инициативы? В кратчайшие сроки собрать все доступные данные по экспериментам, проведённым за десятилетия, и использовать их для обучения специализированных систем и моделей, в дальнейшем используемых для ускорения научного прогресса.

Согласно документу, всё будет происходить очень быстро в течение 2026 года:
— Шаг 1: Ревизия железа (3 месяца — до февраля 2026)
Правительство проверяет все свои суперкомпьютеры и облачные хранилища. Они смотрят, какие мощности можно отдать под ИИ.

— Шаг 2: Сбор данных (4 месяца — до марта 2026)
Самый важный этап. Министерства и исследователи собирают данные для обучения ИИ. Данные должны быть на отдельно разработанной платформе, обеспечивающей безопасность от взломов, чтобы Китай или другие страны не украли эти данные.

— Шаг 3: Подготовка роботов (8 месяцев — до июля 2026)
Это самое интересное. Планируется не просто суперкомпьютер для тренировки и запуска, но и подключение моделей к (полу-)роботизированным лабораториям. То есть ИИ-агент придумывает протокол эксперимента, а робот в лаборатории сам, условно, смешивает реагенты и проверяет по набору тестов. Звучит фантастично, но такие эксперименты уже были — для модели это просто написание кода с вызовом разных методов и указания аргументов.

— Шаг 4: Первый запуск (9 месяцев — август-сентябрь 2026)
Должны продемонстрировать «начальную боевую готовность» — ИИ должен решить как минимум одну крупную национальную задачу из списка приоритетов.

Что это за приоритеты?
— передовые производственные технологии;
— биотехнологии;
— критически важные материалы (редкие полезные ископаемые и сырье, необходимое для промышленности);
— ядерная и термоядерная энергетика;
— квантовые информационные технологии
— полупроводники и микроэлектроника.

Новое исследование от Anthropic: как модели незаметно становятся опаснее из-за безобидного читинга во время обучения

Вы наверняка уже где-то слышали или читали в этом канале про reward hacking. Это довольно серьезная проблема, возникающая во время RL-обучения моделей.

Суть reward hacking в том, что модель находит способ получать высокие награды во время обучения обходными путями, а не так, как это было задумано разработчиком.

Иными словами, она находит дыры в reward модели и пользуется ими. Например, в какой-то момент модель может понять, что reward-функция больше вознаграждает длинные ответы вне зависимости от их содержания, и начать генерить длинный бред, продолжая получать награду.

Это, конечно, очень плохо. Но, теоретически, только для метрик: на опасное поведение модели reward hacking влиять не должен. Но это, еще раз, теоретически. На практике же Anthropic показали, что это вообще не так.

Они провели эксперимент: специально подсказали модели, как хакнуть reward в простых задачах по кодингу, а затем стали изучать ее поведение в целом. Ревард она, конечно, хакнула. Но сюрприз оказался в другом.

Выяснилось, что ровно в тот момент, когда модель понимает, как взломать награду, она тут же начинает обобщаться и на другое «плохое» поведение: пытается саботировать задачу, думать о собственных злонамеренных целях и тд. Возникает misalignment.

То есть как только модель учится вести себя нечестно в чем-то одном, ее характер портится в целом почти мгновенно. В рисерче Anthropic она в итоге пыталась саботировать это самое исследование, специально написав код, который неэффективно отлавливал ее misalignment.

Плохая новость в том, что полностью предотвратить reward hacking, из-за которого это все происходит, почти невозможно. Слишком много кейсов, обнаружить все просто не получится. Получается, что во время RL мы неизбежно портим безопасность модели. Более того, даже последующий RLHF не помогает.

Но Anthropic все же оставляют нам крошечное окно надежды. Они выяснили, что если в системном промпте не писать, что reward hacking – это что-то плохое, а наоборот, подать его модели как что-то законное и нормальное, обобщение на опасное поведение прекращается.

То есть моделька просто не воспринимает hacking как «плохо», поэтому перестает думать о другом возможном «плохо».

Исследователи называют это «вакциной»: мы специально вводим модельке что-то опасное, чтобы предотвратить развитие других проявлений мисэлаймента. Такие вакцины, кстати, уже используются на проде во время обучения Claude.

www.anthropic.com/research/emergent-misalignment-reward-hacking

Илья Суцкевер

Сооснователь OpenAI предполагает решение проблемы ИИ

Проблема: Если в будущем сильные ИИ действуют автономно, а мы только читаем отчеты -  мы перестаем быть участниками важных событий и процессов.

Решение: Слияние сознания человека с ИИ через нейроинтерфейс.

ИИ что-то понимает = ты понимаешь это напрямую, мгновенно.

«Мне не нравится это решение, но это решение» - Илья

По моему, Илья не понимает процесса понимания в целом. Человек не может понимать так как машина, это раз. Скорости у нас разные, это два.

Мне кажется это маркетинговый ход, для продвижения нейроинтерфейсов, к которым они так идут усердно.

Вообще, тут как-то уже стало проскальзывать, что тема нейроиноерфейсов и применения их массово, гиблая идея. Дело не в том, что они плохие или что-то не так. На физиологическом уровне, организм человека отвергает инородное тело. Причем, это процесс не контролируется, мозг сам дает комманду телу избавиться от того, что не укладывается в его парадигму построения ДНК.

Вот в матрице подоная тема была, когда Нео пришел бороться со Смитом, который захватил всю матрицу. Ему тогда верховный правитель сказал:
- Уходи, ты нам не нужен, нам никто не нужен.

Более того, колличество операций в сек для машины, это все равно что бить током человека.

Timelike Quantum Energy Teleportation (https://arxiv.org/pdf/2504.05353)

Мы разработали новый квантовый протокол, получивший название Временноподобная Квантовая Энергетическая Телепортация (TQET), предназначенный для передачи квантовой энергии сквозь пространство-время. Этот протокол основан на временных и пространственных квантовых корреляциях между агентами, разделенными расстоянием и временем. Поставщик энергии вводит энергию в систему путем измерения основного состояния многочастичной системы, которое эволюционирует во времени, тогда как удаленный получатель осуществляет условную операцию, используя обратную связь от поставщика. Когда поставщик и получатель действуют в одном временном интервале, этот процесс называется Квантовой Энергетической Телепортацией (QET). Концептуальное доказательство было проведено для модели Изинга, использующей квантовые симуляции. TQET повышает эффективность энергопередачи примерно с 3% до около 40%, что представляет собой улучшение более чем в 13 раз по сравнению с QET. Кроме того, мы проанализировали взаимосвязь между временной запутанностью и TQET, подтвердив роль временных корреляций в активации энергии между агентами, находящимися в разных точках пространства-времени.

Что-то нереально крутое...

Российская компания Neiry представила PJN-1 — голубя-биодрона, совмещающего живую птицу и нейроинтерфейс для дистанционного мониторинга. В мозг птицы имплантированы электроды, а на спине закреплён рюкзачок с электроникой и солнечными батареями. Разработчики утверждают, что дрессировка не нужна, жизнь птицы не сокращается, а операции проводятся с высокой точностью и с акцентом на выживаемость. Биодроны предназначены для мониторинга инфраструктуры, экологических и поисково-спасательных операций, при этом, как заявляет компания, личные данные размываются ИИ, а контроль строго ограничен.

Тем не менее, использование живых животных для подобных задач вызывает этические вопросы. Правда к крысам "камикадзе" вопросов у зоозащитников не было, PR у крыс все же не очень. А тут голуби, птица с давних пор символизирующая мир. Возможно компанию ждет столкновение с общественными организациями.

😎Были мы на хакатоне по Альфе https://alfabank.ru/alfafuture/event/hack/#form. Разработка решений под NLP и чат-ботов. Выступили очень достойно и круто, сейчас пишем две статьи на это. Много было уникальных и креативных решений, в статьях все отразим и покажем.

😤До призов было 41 бал, выступали двумя командами набрали 35.8 и 32 бала. Конкуренция очень жесткая, лидерборд очень динамичный. Были как студенты так и профи. Но мы выступили мы очень слаженно и мощно я считаю.

❓Что могу сказать, а то что хаки сильно поменялись.

🧩 Во-первых, везде только мультиагентная разработка, как в целом и в конторах и современном бизнесе, причем по разным векторам. Такое я видел, когда в соло участвовал на хаке во DRW (HFT Trading, там набрал 96.5 скор из 100). И ты реально видишь как строчки на лидерборде меняются каждую секунду.

🧩 Во-вторых, везде китайские модели, всякие гроки, гптшки и прочее, вообще не видно, Qwen3-MAX-8B на 16M и 2M параметров и их множественные форки и разновидности. Да были кастомные решения, но в массе ситуация такая.

🧩 В-третьих, то что идет из п.2, заходить на хак со своей машиной, нет смысла, от слова совсем, только сервак готовить, моделей много, только с пайплайном MLFlow или что-то подобное. Даже Qwen-3 уже отъедает 24 Гб на оперативке сразу и этого мало, 32, 48, и выше. Нам конечно удалось задавить Qwen-1.5 на 16 гигов, но и то со со скрипом на данных хака. Исходя из этого только серверные решения.

🧩 В-четвертных, стандартное правило хаков, динамический лидерборд, то есть самое топовое решение - лидер, от него все отсчитываются, поэтому гонка не столько с хайповым решением от организаторов сколько с участниками, то есть автоматом двойная нагрузка сразу.

🧩 В-пятых, метрики, практичеси все бизнесовые, стандартных практически нет ни у кого, это тренд вообще всех хаков, которые только идут сейчас.

🧩 В-шестых, мы пришли к тому что уже начали железо оптимизировать, то есть работать с низкоуровневыми инструкуцими на GPU. Моделями уже не ограничивается ничего, снова все уходят в железную составляющую.

👻В любом случае круто качнулись именно в экспертизе и оценке своей стратегии поведения, ну и конечно, накачали топовых решений. С нашими скоро вас ознакомим и поделимся наработками.

https://qwen.ai/research

Сегодня тут.

Оставили мне тут отзыв за мои лекции и вебинары. Этот человек сдал все идеально, на том уровне который именно требовалось. Случился у человека шок, в хорошем смысле, так как инфы было вагон, и ... неокрепший мозг начал метаться из стороны в строну ))) но именно, такое метание и паника от обилия новой инфы двигает вперед и реально раскачивает и дает знания которые зайдут в реальной айти продакшен мясорубке.
_

Хотела поделиться впечатлениями от программы))
Вы человек воспринимающий критику, как я понаблюдала)))

Сначала, когда нам дали доступ к ЛК и я начала смотреть Ваши видео - я думала сразу уйти с программы)))))))))))))))))))))) Я была вообще ноль в питоне и программировании...
Потом нам случайно посчастливилось (именно посчастливилось, потому что нам дали возможность, непроизвольно правда, сравнить преподавателей) провести пару занятий с другим преподавателем, мы начали изучать код..
Было сначала интересно, но муторно, там заставляли ВЕСЬ КОД писать ручками, все эти проклятые запятые и проблемы)))) Потом нам написали, что всё же у нас будете Вы))
Лично я сильно напугалась... Но как только Вы начали давать ПРАКТИКУ - стало сразу всё на много яснее и спокойнее воспринимать...
Это лично Вам отзыв))

По программе - ооооочень облечает понимание программы - практическая работа сразу со своим датасетом.. :) Так интереса и вовлечённости что ли больше)

Воть)) спасибо Вам за новые знания и новые возможности)

__

Датасеты специально студенты выбирают сами, ибо только так будет интерес к аналитике и машинке.

Внегласно мне присвоили новое прозвище: Информационное цунами )))))

Владимиру Миронову большое спасибо за его искренние усилия накинуть на нас побольше информации: ценной и передовой. С удовольствием с ним познакомился, хотя и заочно. Крайне увлеченный человек. Сохраню его контакты. Вдруг еще придется пообщаться.
Ирине тоже спасибо, старалась как положено и как возможно в данной ситуации.

И еще один отзыв

Да критику я воспринимаю, и это нормально, так как сам постоянно учусь.

С другим тут имеется ввиду со мной. У группы изначально был другой преподаватель.

Китайцы прокачали гиперконтроль над детьми: теперь они используют ИИ-помощников.

Они открывают ИИ Doubao от ByteDance, направляют его на ребёнка — и получается следующее:

Родитель говорит: «Doubao, присмотри за моим ребёнком. Напоминай ему, когда он отвлекается или его осанка становится хуже».

ИИ-помощник начинает давать комментарии: «Хватит играть с ручкой. Сосредоточься на домашнем задании. Сядь прямо. Твоя осанка неправильная. Не засыпай за столом. Сядь прямо и учись. Не опирайся на руку и не грызи ручку».

@malepeg

Скажу сразу, это дело не хорошее. Психика на этом ломается детская.

Тут меня мысль еще посетила. Я готовил в этом году преподавателей именно аналитиков. Курс был небольшой. Самое важное, именно в нашей крайне динамичной области (машинное обучение) и с чем мы сталкиваемся сейчас это понимание возможностей студентов, умение их слушать и слышать. Это крайне важно. Формировать стратегию обучения под каждого и плавно, аккуратно вытягивать на уровень.

Самые ценные инсайты мы получаем не из побед хакатонов или высоких результатов, а от учеников, у которых идет все не быстро. Да победы это важно и ценно и приятно. Ребята стараются и достигают, да это круто.

В этом случае (по отзыву), было все отлично. Речь про тех студентов, у которых все не так замечательно. Почему это важно, сразу понятно, как новые структуры знаний укладываются, какие стили мышления есть, как формируется элемент понимания, какие получаются стратегии мышления именно в рамках отрасли. Там где все буксует больше всего инфы.

Почему это важно, это дает очень ценные инсайты как формируются стратегии обучения и поведения больших языковых моделей. Как ведут себя чат-боты как они мыслят.

Все как по классике, скорость определяется самым медленно идущим путником, и как правило он видит больше всех.

Вечер философии )))

Цель поста, не выделить кого-то или задеть, речь не об этом, а понять как формируются стратегии мышления на разных уровнях. Ведь одно всегда дополняет другое.

Быстро бегущие дают скорость и выход на новые уровни, медленно идущие рефлексию и оценку обьемам. Одно не может без другого.

Меня тут посетила мысль, они часто приходят. Вот все говорят, что нейросети и их объемные знания в массе своей огромны и весьма вариантивны. А что если посмотреть на это с другой стороны и попытаться понять, насколько быстро мы (люди) выгребаем эти знания и формы. Хотя бы даже оценить примерные оценки.

В целом, нейросетка это всего лишь алгоритм, следовательно, он имеет счетное число вариантов. То бишь рано или поздно эти варианты исчерпаются и начнется дистиляция знаний. Как это произошло с соцсетями, когда все устали от копипасты.

Помучал тут одну сетку и вот что получил

"Примерно говоря, исходя из современных темпов накопления данных и развития технологий, можно предположить, что полное исчерпание всех возможных комбинаций знаний и форм в нейросетях произойдет не ранее конца XXI века, ориентировочно после 2080-х годов. "

Но усталость прийдет намного быстрее, примерный прогноз мой 2035 год. Хм... не очень много времени

Нейросеть GeoSpy AI научилась находить ваше точное местоположение по… отражению.

ИИ способен по всего нескольким пикселям здания точно определить, где было сделано фото.