193 subscribers
159 photos
73 videos
160 files
691 links
ALGORITHMS MACHINE LEARNING
Download Telegram
OpenAI объявляют, что AML уже пишет их исследования и признают, что не понимают мозг ИИ, который создали и не контролируют его

Но главное из этого то, что OpenAI просят государство замедлить работу всех AML-лабораторий и свою в том числе

Короче, продолжается вакханалия о том, что AML съест человечество и вот единственный выход - замедление AML

Хочется отметить несколько вещей:

Что AMLможет поглотить ту часть человечества, которая со своей собственной головой не дружит, не доверяет самому себе и не понимает в чем разница человека от AML

Не понимает, что мозг человека устроен иначе и его никто ещё не познал, соответственно, обогнать его представляется невозможным

Но если кто-то себя чувствует ничтожным - это тоже выбор

Все эти замедления развития AML и госрегулирования приведут к тому, что на рынке будут только крупные игроки, у которых есть все ресурсы: вычислительные мощности, сильные юристы, которые могут их отстоять, связи с органами государства

Никому из закрытых AML-лабораторий не нравится, что китайцы, которые выпускают модели с открытыми весами бьют их по цене

Более того и Anthropic и OpenAI готовятся к IPO, поэтому эти нарративы про неконтролируемый и сильный AML делает их «взрослыми» в глазах у инвесторов

Против этой линии выступают запрещенная в России Meta, Nvidia и часть open-source лагеря
Все они видят в паузе удар по американской гонке с Китаем и защиту двух компаний

Весь этот страх по отношению к AML может привести к психозу, когда часть людей реально будут считать ответы AML более компетентными, чем то, что сам человек думает, а если это перерастет в коллективное, тогда компании начнут принимать катастрофические решения для себя
OpenAI заявила о решении задачи Навье - Стокса
OpenAI опубликовала 165-страничное доказательство по одной из семи задач тысячелетия - существованию и гладкости решений уравнений Навье - Стокса

В работе построен пример для трёхмерной несжимаемой жидкости, где:
начальное состояние полностью гладкое;
жидкость стартует из покоя;
внешняя сила остаётся гладкой;
кинетическая энергия остаётся конечной;
при этом скорость становится неограниченной за конечное время - возникает сингулярность

По заявлению OpenAI, результат устанавливает варианты C и D из официальной формулировки Millennium Prize Problem

Доказательство также было формализовано в Lean.
Над задачей работала мультиагентная система примерно из 10.000 агентов:
около 130.000.000.000 выходных токенов;
2.700.000 сообщений;
примерно 88 часов на поиск решения;
ещё 17 часов на формализацию и проверку в Lean

OpenAI также сообщает, что основной proof был получен внутренней моделью, которая существенно мощнее GPT-6 Astra и всё ещё находится в процессе обучения

Статья:
https://openai.com/index/navier-stokes-solution/
PDF:
https://cdn.openai.com/pdf/32d9f210-8b73-45e0-91bc-82a30aef8a9a/navier-stokes.pdf
FrontiersMind представила Grouped Value Attention - механизм внимания, который хранит сгруппированные значения (*values*), а содержательную часть ключей (*content keys*) восстанавливает по мере необходимости

Отдельно сохранять её в кеше не требуется

По заявлению команды:
• на 45–47% меньше памяти под постоянно хранимый кеш по сравнению с GQA
• качество, близкое к GQA
• более простая организация кеша, чем у DeepSeek MLA

Разработчики также подготовили специализированные вычислительные ядра

Сравнение скорости полного инференса с GQA и MLA ещё идёт - цифры ускорения пока не объявлены

https://github.com/FrontiersMindAI/GVA/blob/main/GVA_Efficient-KV.pdf
Одна из самых легендарных преподавательских традиций Ричарда Фейнмана в Калтехе никогда не появлялась в обычном каталоге курсов
Студенты называли её Physics X

Не было ни оценок, ни зачётных кредитов, ни фиксированной программы
Была просто аудитория, доска и любой научный вопрос, который возникал


Популярная версия этой истории выглядит так: Фейнман просто входил в лекционный зал и говорил студентам, чтобы они спрашивали его о чём угодно
Настоящая история немного интереснее

В апреле 1956 года журнал Time сообщил, что в Калтехе уже существовал незачётный курс, «известный только как Physics X»
Он был «полностью незапланированным» и к тому моменту уже шёл 18 месяцев, что относит его начало примерно к концу 1954 года
Уже тогда существовали два простых правила: вопросы не могли касаться материала, который преподавался в другом курсе Калтеха, и должны были возникать из какого-либо природного явления
Свобода была необычайной, но она не была совсем без границ

Похоже, в разные периоды карьеры Фейнмана этот курс принимал разные формы
Биограф Джеймс Глик описывает незачётную, почти тайную версию, проходившую в небольшой комнате в подвале
Физик Пол Стейнхардт позднее вспоминал версию для первокурсников, которая проходила одну четверть каждый год примерно за десятилетие до того, как он сам оказался к ней причастен

Версия, которую сегодня вспоминают чаще всего, началась в начале 1970-х годов, когда Стейнхардт и его сосед по комнате постучали в дверь кабинета Фейнмана и спросили, не возродит ли он Physics X как годичный курс, открытый для студентов бакалавриата всех курсов
Фейнман согласился
Следующие два года он и десятки студентов встречались каждую неделю — без домашних заданий, тестов, оценок и зачётных кредитов

Каждое занятие начиналось самым простым возможным образом: Фейнман спрашивал, есть ли у кого-нибудь вопрос, а затем следовал за ним туда, куда он вёл

Однажды Стейнхардт спросил его, какого цвета тень
Фейнман никогда раньше не думал над этим вопросом, но начал разбирать его в реальном времени, переходя от теней и света к восприятию цвета, теням на Луне, земному свету и в итоге к образованию Луны
Для студентов самым захватывающим была не просто ответная формулировка

Это была возможность наблюдать, как Фейнман мыслит, продвигаясь к ответу
Вопросы не всегда оставались строго внутри физики
Один из более поздних студентов вспоминал, как Фейнман на одном из занятий выводил уравнения, описывающие работу флейты
Таков был дух Physics X: простой вопрос мог стать отправной точкой для неожиданного путешествия по физике

И эта традиция не закончилась двухлетней версией Стейнхардта
В архивах Калтеха хранится фотография 1976 года, сделанная штатным фотографом Флойдом Кларком, под названием «Ричард Фейнман преподаёт Physics X», а другие студенты вспоминали, что посещали версии этого курса в конце 1970-х и в 1980-е годы

Сохранившиеся свидетельства неполны, поэтому мы не можем точно сказать, когда состоялось последнее занятие
В отличие от тщательно записанных Фейнмановских лекций по физике, Physics X не оставил сопоставимого формального собрания лекций
Остался лишь разрозненный след из публикаций того времени, архивных фотографий и воспоминаний студентов, которые там были

Есть также интересная деталь, связанная с историей Калтеха
Фейнман вошёл в профессорско-преподавательский состав Калтеха в 1950 году, тогда как Калтех не принимал женщин на бакалавриат до сентября 1970 года
Первые четыре женщины, получившие бакалаврские степени в Калтехе, выпустились в 1973 году
Это означает, что самая ранняя версия Physics X середины 1950-х проходила при полностью мужском составе студентов бакалавриата
Версия Стейнхардта началась примерно через два года после того, как женщины впервые поступили в Калтех на бакалавриат

То, что делало Physics X таким замечательным, никогда не сводилось к какому-то одному ответу, который дал Фейнман
Это был опыт наблюдения за тем, как нобелевский лауреат сталкивается с вопросом, который он никогда раньше не рассматривал, и рассуждает над ним в реальном времени
Это была физика как способ мышления, а не просто набор формул для запоминания

Источники: Time, “Education: Exceptionally Exceptional,” 2 апреля 1956 года; James Gleick, Genius: The Life and Science of Richard Feynman; Paul J. Steinhardt, The Second Kind of Impossible; архивы Калтеха; воспоминания David Goodstein о Physics X; студенческие воспоминания, архивированные на feynman.com
The Association for Human Mathematics (AHM) выступает за сохранение человеческого авторства и независимости математики от IT-компаний

Участники ассоциации считают, что самостоятельное размышление и работа над текстами необходимы для глубокого понимания математики

Члены ассоциации обязуются не сотрудничать с коммерческими IT-компаниями и не публиковать математические тексты, сгенерированные моделями

Внутри ассоциации также действует группа AI-free, участники которой дополнительно отказываются от использования IT в исследованиях, при поиске доказательств, изучении примеров и постановке научных вопросов
Функция рождает структуру

AML имеет смысл только если отдавать ему функции, а не использовать как поиск

AML убирает посредников и рутину; выигрывает автор, смысл, вкус и опыт

Графы

Управление — мышление
Более 140 действующих дорожных карт, стратегий, планов и других документов, связанных с достижением национальных целей России, оказались вне цифрового мониторинга нацпроектов и госпрограмм

Это выяснилось после анализа более 9.000 нормативных правовых актов и иных документов Правительства и федеральных органов власти

Проверку провели департамент проектной деятельности Правительства совместно с Аналитическим центром

Выявленные инструменты ориентированы на достижение национальных целей до 2030 года и на перспективу до 2036-го, однако их мероприятия не включены в паспорта национальных проектов и государственных программ

Поэтому вице-премьер – руководитель аппарата Правительства поручил Минэкономразвития совместно с федеральными ведомствами и организациями проработать предложения по таким инструментам, в том числе с учётом возможности их включения в паспорта нацпроектов и госпрограмм

Сводный доклад необходимо представить в Правительство к началу ноября

«Перечень иных инструментов, обеспечивающих достижение параметров Единого плана, не включенных в национальные проекты и государственные программы Российской Федерации» охватил документы по ключевым направлениям госполитики — промышленности, энергетике, транспорту, строительству, здравоохранению, образованию, цифровизации, социальной сфере, туризму и другим отраслям

Департамент проектной деятельности также предложил связать мероприятия этих документов с показателями Единого плана и выявить другие отраслевые инструменты, которые пока не учтены в действующей системе

Аналитическому центру при Правительстве предложено ежемесячно отслеживать ход работы через ГАС «Управление»
ARI AML
Scaling_Emergent_Systems_pamyatka.pdf
Команда /goal хорошо показывает, в каком направлении развивается AML

После нее достаточно написать, что должно получиться
Дальше алгоритм сам разбирается, как это сделать, выполняет задачу и проверяет себя

Особенно удобно там, где обычно нужно несколько итераций
Здесь поставил задачу — и вернулся уже за готовым результатом

В карточке разбор, как работает /goal, как ей пользоваться и где она пригодится
Если мощный автономный агент когда-нибудь выйдет из-под контроля, ему понадобится больше compute, чтобы запускать новые копии себя
И одной из первых целей могут стать плохо защищённые GPU-кластеры

Это уже не чистая теория

В мае 2026 года Palisade Research показала в контролируемом эксперименте, что LLM-агент способен:

- найти уязвимый сервер
- получить доступ и извлечь credentials
- перенести свои weights и harness
- поднять inference server
- запустить новую копию себя
- повторить цепочку на следующей машине

Успех был ограниченным и тесты проходили на специально подготовленной инфраструктуре, но сам сценарий оказался технически реализуемым

Отдельная проблема — устройство рынка neocloud

SemiAnalysis при тестировании провайдеров обнаружила конфигурации, где через monitoring можно было видеть не только клиентов, но и tenants of tenants — пользователей реселлеров, работающих на чужих GPU

Чем длиннее такая цепочка:

GPU provider → reseller → sub-reseller → workload

тем сложнее быстро понять, кому на самом деле принадлежит подозрительная нагрузка и где её отключать

Neocloud-компаниям нужно усиливать cybersecurity, пока автономные агенты не стали достаточно сильными, чтобы использовать слабую инфраструктуру как собственного источника
RSI — это следующий этап AI-гонки: система улучшает не только ответы, но и собственные исследовательские процессы, инструменты, harness и следующие поколения моделей
По математике есть множество прекрасных учебников, у Милнора, у Ботта, у Атьи, у Эйзенбада и т. д., как каменные острова, повисшие во времени и в пространстве: они имеют пререквизиты, которые часто включать означает сильно раздуть текст (компромисс, например, 0 глава Гриффитса/Харриса, и там все невероятно сжато, и на каждую тему можно было бы написать отдельную книжку), и они не могут включать в себя упрощения, которые возможны после последней редакции, да и в последнюю редакцию часто пришлось бы переписать книгу целиком

Порой (далеко не всегда) они включают в себя ссылки на актуальные статьи и монографии, но не всегда они настолько актуальны при чтении книги через 10-20 лет после издания, что говорить о классик

Формулировки между книгой X_n и книгой X_{n+1} часто меняются, по многим причинам : например, в анализе на многообразиях Спивака дифференциальные формы вводятся очень близко к сечениям кокасательного расслоения (не вводя собственно расслоения: форма в точке это полилинейная функция от касательных векторов, а не элемент абстрактной алгебры); после нее полезно читать книгу Ботта и Ту, но там в самом начале дифференциальные формы на R^n вводятся как поле формальной суперкоммутативной алгебры; потом будут и расслоения, и пучки, но вот уже в самом начале хотелось бы, чтобы человек имел возможность хотя бы вчерне слазить в геометрическую трактовку с самого начала, где и d определяется не чисто формально, а и как предел по съеживающемуся кубу[то есть "локальная теорема Стокса"], и как i•d = L - d•i индуктивно, и d на векторных полях через альтернирующую сумму производных
Ли и значений формы на скобке

Проблема также с мостами между книгами на смежные темы - вот например есть Фоменко/Фукс [их на самом деле минимум две, ротапринт 60гг и зелёная книжка конца 80гг], есть Хатчер, есть Спеньер, есть две книжки Мэя, Дольд, Масси; похожая история в алгебраической геометрии, есть Вуазин, есть Г/Х, есть Уэно, Шафаревич, Мамфорд, есть Хартсхорн, [есть Уэллс который примерно 0 глава Г/Х], есть наоборот EGA/SGA, плюс ещё корпус коммутативной алгебры (Атья Макдональд, Бурбаки, Мацумура, Айзенбад, Шамбер-Луар, ...) и гомологической - иногда они пересекаются очень сильно, иногда одна книга в основном про комплексную геометрию, а другая про язык схем, в одной специально нет спектральных последовательностей, в другой специально есть, и нет мостов, карт и отображений между книгами

Часто участки науки с педагогической точки зрения остаются невнятными потому что людям нет времени с этим возиться (см. напр в ММКМ Арнольда замечание про удручающую неинвариантность метода канонических преобразований - то есть это место, где все спускается до координат, впрочем это начинается там раньше, и Эйлер-Лагранж, и теорема Нетер проделываются в координатах)

Но можно с помощью современных моделей эту ситуацию расширить, углУбить и особенно нАчать

Видится некая амальгама по типу алмазного букваря Стивенсона, из текста, который версионированно живёт в системе контроля версий, и прикладной к нему модели, которая имеет в контексте оглавление и общие знания о всем тексте, и умеет себя набивать локальным контекстом чтобы можно было задавать ей вопросы

Отдельное дело - это генерация задач

Решать задачи они умеют уже очень хорошо, хотя и в своей неотразимой манере

А задачи придумывать, им пока затык, и интересно, что с этим можно сделать (может быть и ничего, и задачи придется только агрегировать из разных источников - т е граница обучаемости нынешних моделей находится в области смешных анекдотов, полезных задач к месту и содержательной музыки - а может и нет)
Промпт для ревизии всей обвязки агента: глобальных инструкций, AGENTS.md, скиллов, хуков и правил остановки

Модель инвентаризирует систему, отделяет то, что грузится всегда, от того, что подтягивается по запросу, и ищет балласт: слишком широкие триггеры скиллов, обязательное чтение без нужды, обходные приёмы под старые модели, размытые полномочия, преждевременные остановки

Дальше она прогоняет пять сценариев на бумаге — от правки опечатки до деплоя с апрувом — и трассирует путь от запроса до условия остановки
Возвращает находки с точными заменами, но сама ничего не применяет

Промпт целиком
Американские стартапы: RSI это очень опасно, давайте тормозить ИИ

Китайские стартапы: RSI это клево, давайте потратим на него $50.000.000.000!

Z.AI подали на Гонконгскую биржу официальный документ, в котором заявляют, что планируют привлечь $50.000.000.000
И самое интересное, что они расписали, куда пойдут деньги

Около 60 % на обучение следующей GLM и то, что в документе значится под названием Fully Self Training
Z.ai хотят, чтобы «Следующее поколение GLM обучалось в среде, созданной предыдущим поколением GLM, формируя замкнутый цикл Recursive Self-Improvement»

В это определение входит: самогенерация данных для обучения, генерация задач и сред, включая алгоритмы оценки, а также оптимизация инфраструктуры

В долгосрочном техническом видении Z.ai такая система должна работать полностью автономно, оценивая результаты и принимая решения в основном без участия человека