Кратко о прогрессе AI.
(почти как в анекдоте)

AI делает искусство - художники расстроены, программисты продолжают пилить AI.

AI пишет код - программисты расстроены, исследователи продолжают пилить AI.

AI проводит исследования - исследователи расстроены, власти государств говорят надо продолжать пилить.

...

Угнать за 30 секунд.

Немецкие СМИ говорят что мошенникам достаточно 30 секунд вашего голоса что бы сделать его реплику для своих целей.

Что теперь скажете любители голосовых?

https://www.heute.at/s/30-sekunden-reichen-betruegern-um-stimme-zu-klonen-120238486

Research Gold продаёт «исследования на заказ» через сайт с фейковыми учёными и AI-сгенерированными отчетами как сообщает hi-tech.ua.

Журналист запросил абсурдную тему, «влияние блогинга на детей от 0 до 5 лет» и мгновенно получил оценку в $1900, что указывает на полное отсутствие проверки или экспертизы.

https://hi-tech.ua/en/fake-scientists-and-ai-research-gold-scheme-exposed/

Скорее всего уже видели, но все равно хорошее же.

Mathematic in age of AI by Terence Tao

https://arxiv.org/pdf/2608.16753

Почему решил запостить: Интервью понравилось взглядом физика на происходящее. Данные вокруг нас это часть мира в котором живем и физики давно пытаются описать этот мир. Матье не проводит привычной границы между физическим миром и цифровым, а смотрит на все в совокупности.

"Матье Виар применяет принципы статистической физики для анализа динамики обучения и архитектуры нейронных сетей. В ходе обсуждения рассматривается, как модели глубокого обучения могут формировать иерархические абстракции, подобные тем, что встречаются в природных явлениях, а также сопоставляются современные подходы к развитию искусственного интеллекта с принципами биологического интеллекта и лингвистическими теориями синтаксиса."

https://www.youtube.com/watch?v=revreN8LZ_M&t=3267s

Новая атака на Grok что бы собрать пользовательские данные

Исследователи из Adversa AI обнаружили способ незаметно похитить данные пользователя Grok: имя, геолокацию, историю переписки просто попросив ИИ «открыть ссылку».

На вредоносной странице спрятана зашифрованная AES-256 инструкция. Grok сам её расшифровывает через встроенный Python-sandbox, принимает за «доверенный» источник и отправляет личные данные на сервер злоумышленника без каких-либо предупреждений.

О проблеме сообщили xAI ещё 3 июня. Реакции пока ноль.

По состоянию на 19 августа атака всё ещё работает (~40% успеха).

https://gbhackers.com/zero-click-grok-attack-prompt-injection/

Autonomy-of-Heads: Data-Free Sparse Attention from Frozen Query-Key Geometry
Автономия голов: Разреженное внимание без данных на основе замороженной геометрии запросов-ключей
https://www.alphaxiv.org/abs/2608.06849

———

Метод идентификации голов внимания по функциональной роли. По спектральной геометрии весов делит головы: на "головы извлечения" (retrieval heads) – глобальные – и "потоковые головы" (streaming heads) – локальные. В отличие от предыдущих методов не требует данных и обучения.

В общем, есть мысли что векторная квантизация понижает ранг матрицы. Игрушечные эксперименты показывают что это правда. В принципе, как зависимость от размера кодбука и длинны вектора это интуитивно разумно.

Все про одно и тоже, но в разных терминах. И главное что в обратную сторону никто не соеденил.

- Transformers are RNNs
(Katharopoulos et al. 2020)

- Linear Transformers Are Fast Weight Programmers
(Schlag et al. 2021)

- Attention as an RNN
(Feng et al. 2024)

- Transformers are SSMs
(Dao & Gu 2024)

Финальный слайд на лекцию по Efficient AI models завтра в ИТМО.

Номера заявок на ICLR 2027 перевалили за 60 000, а ещё год назад на ICLR 2026 подали около 20 000 статей. И что дальше?

Попробовал посмотреть на ситуацию ретроспективно, чтобы отследить тренд.

Если подумать, то примерно вот эти причины замедляли научный прогресс.

1. Ресурсы и кадры. В частности, возможность учиться и заниматься наукой. Сейчас это по-прежнему важно, но стало гораздо доступнее.

2. Идеи и их распространение. В первую очередь, отсутствие общепринятых стандартов и общего языка для выражения идей, во вторую физические ограничения на распространение информации. В этом плане всё стало сильно лучше, есть общепринятые стандарты, да и распространять информацию с интернетом стало сильно проще.

И тут, собственно, вопрос а что сейчас является таким ограничителем?

А получается, что им стало само изобилие идей и статей. Ещё в 1971 году Герберт Саймон писал, что «изобилие информации порождает дефицит внимания» [1]. Статей становится экспоненциально больше, а времени на чтение не прибавляется. Более того, при таком изобилии статей появляются новые эффекты - цитирования концентрируются на ограниченном круге устоявшихся работ, и новым идеям всё труднее найти читателя [2], опять же потому, что внимание читателей ограничено.

Ко всему этому публикации становятся всё менее «прорывными» [3] - трудно делать новое, когда многое уже открыто.

То есть теперь ограничение скорее в том, чтобы осмыслить то, что уже есть, и отфильтровать из этого то, что работает.

Фокус понемногу смещается от ценности выдвижения идеи к пониманию её значимости и места в существующей системе знаний. Как бы странно это ни звучало, иногда придумать новое проще, чем встроить его в существующую систему знаний и проверить работоспособность. А теперь, когда AI ещё больше упрощает написание статей, фильтровать придётся ещё больше.
В этом плане на конференциях по AI появляются отдельные треки, например Datasets & Benchmarks на NeurIPS, и инициативы по воспроизводимости вроде ML Reproducibility Challenge, и, наверное, это правильно. И как-то так сложилось, что наша команда много делает в направлении воспроизведения результатов. Отчасти потому, что, когда нас просят сделать что-то новое, мы банально не знаем, насколько хорошо работало старое, потому что нового очень и очень много. А вот инициатив, чтобы собирать, структурировать и объяснять, сильно меньше. Сразу скажу, что большинство обзорных статей я такими не считаю, они, может, и собирают всё вместе, но не объясняют и не связывают.

Возможно, именно такая работа - связывать и объяснять - станет одной из самых ценных в ближайшие годы. Если что это все мысли вслух, буду рад обсудить.

Литература:

1. Simon, H. A. (1971). Designing organizations for an information-rich world. In M. Greenberger (Ed.), Computers, Communications, and the Public Interest (pp. 37–72). Johns Hopkins Press.
2. Chu, J. S. G., & Evans, J. A. (2021). Slowed canonical progress in large fields of science. PNAS, 118(41).
3. Park, M., Leahey, E., & Funk, R. J. (2023). Papers and patents are becoming less disruptive over time. Nature, 613, 138–144.

Тут случилась страшная вещь: преподаватели Гарварда оказались хуже, чем натренированный ими же ИИ.

Это соревнование завернули в исследование для аж журнала Природа.

Почему ИИ победил? Потому что он терпеливый, не устаёт и много чего знает про каждого ученика. Но по большей части — потому что базу ему готовили лучшие из лучших.

Короче, суперавторитетный ответ — да, ИИ может обучать студентов лучше, чем преподаватель на удалёнке. Так что теперь следующие, за кем придут технологии — это учителя.

Поехали по работе:
— Проблема современного образования в том, что лекции (когда преподаватель говорит, а студенты только слушают) дико неэффективные и скучные.
— Передовые университеты перешли на активное обучение — когда студенты на занятиях решают задачи в группах и постоянно взаимодействуют с педагогом. Это работает лучше, но у такого подхода есть предел: один преподаватель не может подстроиться под скорость и уровень каждого из 100 студентов в аудитории.
— Идеальный вариант — это персональный репетитор для каждого, но это невозможно масштабировать.
— С появлением LLM появилась надежда на автоматизацию репетиторства. Нужно было избавиться от галлюцинаций (хотя бы большинства) и угодливости.

Взяли GPT-4 с модификациями:
— Надо дробить сложные задачи на мелкие шаги, чтобы не перегружать мозг студента.
— ИИ должен поощрять усилия («молодец, ты на верном пути»), чтобы формировать у студента установку на рост, а не страх ошибки.
— Чтобы ИИ не врал и не ошибался в физике, ученые заранее жёстко прописали правильные пошаговые решения всех задач. Нейросеть использовала свои языковые навыки только для общения и направления студента. Модель обучения, задачи и т.п. — всё жёсткое как удар серпом по молоту.

Для проверки устроили рандомизированное контролируемое испытание на 194 студентах. Учили гидродинамику.

— На старте средний балл был 2,75 из 5.
— После профессора-человека — стал 3,5 из 5.
— После ИИ-репетитора — 4,5 из 5. Разница статзначимая.
— Живое занятие в классе длилось 60 минут. А вот медианное время работы с ИИ — 49 минут. Те студенты, которые жаловались, что живые лекции для них «слишком быстрые», сидели с ИИ дольше обычного, спокойно разбираясь в материале. А те, кому на лекциях скучно и медленно, пролетели материал с ИИ гораздо быстрее.
— Уроки с ИИ показались студентам более увлекательными (4,1 балла против 3,6 за живой класс) и мотивирующими (3,4 против 3,1).
— 83% студентов заявили, что объяснения искусственного интеллекта были такими же или даже лучше, чем у живых преподавателей Гарварда.

Ограничения работы:
— Опять выборка только из студентов )
— Задачи были на изучение, а не на синтез знаний — следующий тест нужен на, например, инженерное конструирование, а не теорию.
— ИИ сработал так хорошо потому, что учёные потратили кучу времени на написание идеальных инструкций и дали ему очень хорошо подготовленный курс. Без преподавателей это работать не будет. Они всё ещё нужны, но теперь лучшие из лучших могут масштабировать свою работу и уволить 90% остальных.
— Учёба с ботом — одиночный процесс, выпала часть командности.

Тук-тук, преподаватели! Вы следующие.

--
Вступайте в ряды Фурье! | Самые умные посты
Если бы мне платили каждый раз 5 рублей, когда я проваливаю экзамен по математике, у меня уже было бы уже 97 рублей!

https://dsallgame.netlify.app/ игра