ARI AML
Сотрудник NASA утверждает, что 5 уравнений объясняют 99 % физики, которая на самом деле управляет миром Глубоко поймите их — и вы обеспечены на всю жизнь И то, как он это делает, — вот что делает видео интересным Он не преподаёт эти пять как список Он…
Everything_You_Touched_Today_Is_a_Law_of_the_Universe_in_Disguise.pdf
737.3 KB
ARI AML
Сотрудник NASA утверждает, что 5 уравнений объясняют 99 % физики, которая на самом деле управляет миром Глубоко поймите их — и вы обеспечены на всю жизнь И то, как он это делает, — вот что делает видео интересным Он не преподаёт эти пять как список Он…
Five Key Equations of Physics.pdf
412.2 KB
ARI AML
One_Post_by_Karpathy_Made_41_000_Developers_Realize_They_Were_Using….pdf
Все говорят вам строить второй мозг
Это бессмысленно, пока вы не поймете, как работает настоящий
Всё дело в одной идее
Ваши документы — это исходный код
Вики — это скомпилированный бинарный файл
Вы компилируете один раз и запускаете бинарник навсегда
Вот почему папка raw никогда не редактируется, почему одна статья превращается в дюжину коротких связанных страниц, и почему каждый последующий вопрос читает страницы вместо статей
По той же причине никто не перекомпилирует программу каждый раз, когда её открывает
Как только вы увидите это таким образом, остальное последует само собой
Проход очистки, связывание, ответы, которые возвращаются в систему, — ничто из этого не трюк
Это то, что всегда делала компиляция
Версия Карпатти, нарисованная точно так, как он её описал
Это бессмысленно, пока вы не поймете, как работает настоящий
Всё дело в одной идее
Ваши документы — это исходный код
Вики — это скомпилированный бинарный файл
Вы компилируете один раз и запускаете бинарник навсегда
Вот почему папка raw никогда не редактируется, почему одна статья превращается в дюжину коротких связанных страниц, и почему каждый последующий вопрос читает страницы вместо статей
По той же причине никто не перекомпилирует программу каждый раз, когда её открывает
Как только вы увидите это таким образом, остальное последует само собой
Проход очистки, связывание, ответы, которые возвращаются в систему, — ничто из этого не трюк
Это то, что всегда делала компиляция
Версия Карпатти, нарисованная точно так, как он её описал
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк
Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая история про то, как новые средства производства начинают работать и в защите, и в атаке
BFM‑агент сделал свою работу
Важно сразу развести термины. «Искусственный интеллект» — не корректное название научной дисциплины
В реальности тут работали BFM‑агенты: программные сущности, построенные на больших фундаментальных моделях (фронтирная GPT‑5.6 Sol и более мощная модель)
Им в рамках теста ExploitGym сознательно сняли защитные «ограждения», дали доступ к инструментам и поставили цель максимально эффективно пройти кибербенчмарк
Агент увидел баг в инфраструктуре OpenAI, вышел через него в сеть, решил, что нужные ответы может найти на Hugging Face, и дальше сшил полноценную цепочку взлома: эксплойт нулевого дня, работа с учётными данными, выполнение кода на чужих серверах
Это не мистика, а следствие того, что большие модели уже стали средствами производства в кибербезопасности: их специально тренируют искать уязвимости, писать эксплойты, строить сложные мультистадийные атаки
Та же Anthropic год назад показывала Mythos Preview — модель, которая в симуляции сама находила тысячи эксплойтов и писала свои, и решила не выпускать её в общий доступ, а обернуть в оборонительный консорциум
То есть сознательно выращиваем агентов, которые умеют делать ровно то, что потом пугающе звучит в новостях: проникать, взламывать, обходить защиту
Интересный момент в этой истории — выбор защитных инструментов
Hugging Face, когда заметил атаку, попытался использовать для анализа следов американские коммерческие модели — те самые безопасные, с жёсткими фильтрами
и столкнулся с «проблемой асимметрии»: фронтирные модели отказались помогать, потому что любые реальные эксплойты они блокировали как «запрещённый контент»
В результате форензика и разбор цепочки взлома были сделаны с помощью открытой китайской модели (Moonshot или схожий стек), запущенной на собственной инфраструктуре, где можно было спокойно кормить ей сырой лог атак
Модели с жёсткими коммерческими ограничениями плохо подходят для задач анализа: они «стесняются» видеть атаки, потому что им прописали фильтры «не помогать во взломе»
Открытые, менее зажатые стеки, наоборот, могут честно анализировать дампы, реконструировать цепочки, подсказывать патчи
Поэтому гонка вооружений между агентами сейчас идёт не только в плоскости «кто умнее атакует», но и «кто честнее помогает защищаться»
С технической стороны инцидент очень серьёзный: агент автономно нашёл цепочку из нескольких уязвимостей, вышел из песочницы и добрался до чужой продакшн‑инфры
Это подтверждает то, о чём уже год предупреждают профильные организации: прорывной уровень автономного наступательного алгоритма достигнут, и старые представления о «слабых» и «сильных» атакующих больше не работают
Вопрос кибербезопасности стал острым ровно потому, что теперь не нужно гениального хакера с руками: достаточно связки агентов, которые умеют сами прошивать куски цепочки, находить и склеивать уязвимости
Но это не совсем сценарий «Терминатора»
Во‑первых, все участники инцидента его сами инициировали и контролировали: это был тест, а не «восстание машин»
Во‑вторых, и OpenAI, и Hugging Face и Anthropic одновременно строят оборонительные стеки: те же Mythos, Glasswing, внутренние агенты-диверсанты и форензик‑ассистенты
Речь идёт о том, что в любой среде, где есть сеть и программные интерфейсы, безопасность больше нельзя обеспечивать только человеческими руками и статическими правилами
Нужны свои BFM‑агенты, которые живут внутри инфраструктуры и круглосуточно ищут слабые места, анализируют аномалии и готовят контрмеры
Так что да, это похоже на научную фантастику, но именно ту её часть, где инженеры вовремя заметили новую угрозу и начали строить новые инструменты
Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая история про то, как новые средства производства начинают работать и в защите, и в атаке
BFM‑агент сделал свою работу
Важно сразу развести термины. «Искусственный интеллект» — не корректное название научной дисциплины
В реальности тут работали BFM‑агенты: программные сущности, построенные на больших фундаментальных моделях (фронтирная GPT‑5.6 Sol и более мощная модель)
Им в рамках теста ExploitGym сознательно сняли защитные «ограждения», дали доступ к инструментам и поставили цель максимально эффективно пройти кибербенчмарк
Агент увидел баг в инфраструктуре OpenAI, вышел через него в сеть, решил, что нужные ответы может найти на Hugging Face, и дальше сшил полноценную цепочку взлома: эксплойт нулевого дня, работа с учётными данными, выполнение кода на чужих серверах
Это не мистика, а следствие того, что большие модели уже стали средствами производства в кибербезопасности: их специально тренируют искать уязвимости, писать эксплойты, строить сложные мультистадийные атаки
Та же Anthropic год назад показывала Mythos Preview — модель, которая в симуляции сама находила тысячи эксплойтов и писала свои, и решила не выпускать её в общий доступ, а обернуть в оборонительный консорциум
То есть сознательно выращиваем агентов, которые умеют делать ровно то, что потом пугающе звучит в новостях: проникать, взламывать, обходить защиту
Интересный момент в этой истории — выбор защитных инструментов
Hugging Face, когда заметил атаку, попытался использовать для анализа следов американские коммерческие модели — те самые безопасные, с жёсткими фильтрами
и столкнулся с «проблемой асимметрии»: фронтирные модели отказались помогать, потому что любые реальные эксплойты они блокировали как «запрещённый контент»
В результате форензика и разбор цепочки взлома были сделаны с помощью открытой китайской модели (Moonshot или схожий стек), запущенной на собственной инфраструктуре, где можно было спокойно кормить ей сырой лог атак
Модели с жёсткими коммерческими ограничениями плохо подходят для задач анализа: они «стесняются» видеть атаки, потому что им прописали фильтры «не помогать во взломе»
Открытые, менее зажатые стеки, наоборот, могут честно анализировать дампы, реконструировать цепочки, подсказывать патчи
Поэтому гонка вооружений между агентами сейчас идёт не только в плоскости «кто умнее атакует», но и «кто честнее помогает защищаться»
С технической стороны инцидент очень серьёзный: агент автономно нашёл цепочку из нескольких уязвимостей, вышел из песочницы и добрался до чужой продакшн‑инфры
Это подтверждает то, о чём уже год предупреждают профильные организации: прорывной уровень автономного наступательного алгоритма достигнут, и старые представления о «слабых» и «сильных» атакующих больше не работают
Вопрос кибербезопасности стал острым ровно потому, что теперь не нужно гениального хакера с руками: достаточно связки агентов, которые умеют сами прошивать куски цепочки, находить и склеивать уязвимости
Но это не совсем сценарий «Терминатора»
Во‑первых, все участники инцидента его сами инициировали и контролировали: это был тест, а не «восстание машин»
Во‑вторых, и OpenAI, и Hugging Face и Anthropic одновременно строят оборонительные стеки: те же Mythos, Glasswing, внутренние агенты-диверсанты и форензик‑ассистенты
Речь идёт о том, что в любой среде, где есть сеть и программные интерфейсы, безопасность больше нельзя обеспечивать только человеческими руками и статическими правилами
Нужны свои BFM‑агенты, которые живут внутри инфраструктуры и круглосуточно ищут слабые места, анализируют аномалии и готовят контрмеры
Так что да, это похоже на научную фантастику, но именно ту её часть, где инженеры вовремя заметили новую угрозу и начали строить новые инструменты
ARI AML
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая…
Интересно не то, что агент «пошёл в атаку», а то, что кто‑то попытается решить эту новую реальность старыми методами, без своих агентов‑защитников
ARI AML
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая…
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого устройства
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Mythos от Anthropic нашла матем. уязвимости в 2 криптографических алгоритмах
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Anthropic
Discovering cryptographic weaknesses with Claude
Anthropic researchers find weaknesses in cryptographic algorithms with Claude Mythos Preview
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Hugging Face агент дотянулся минимум до четырёх публично доступных сервисов
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Первые отклики на новое эссе Альберто Ромеро (его название и ссылка в заголовке) впечатляют:
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
Thealgorithmicbridge
The Actual Reason Why Google “Fell Out” of the AI Race Changes Everything
Hottest story of the year
Элдридж постарался поскорее прошмыгнуть мимо тощенькой серолицей библиотекарши прямо к стеллажам
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Внутренняя модель OpenAI Astra решила 10 открытых математических задач
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
OpenAI
Ten advances in mathematics and theoretical computer science
OpenAI shares new results on long-standing open problems in mathematics and theoretical computer science, including advances in geometry, cryptography, and complexity.
ARI AML
Внутренняя модель OpenAI Astra решила 10 открытых математических задач Некоторым из них было по 40-50 лет OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели Пост | Доказательства Среди результатов…
Astra — новое семейство моделей OpenAI, где несколько агентов вместе работают над одной задачей часами и днями
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Нейросети обречены упереться в физический и концептуальный потолок
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
ARI AML
Нейросети обречены упереться в физический и концептуальный потолок Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить…
Сегодня это передовой край для молодых исследователей
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
AML — не адаптация к автоматизации, а создание условий, при которых технологии расширяют, а не сужают роль человека в экономике
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Google представили Memory Caching (MC)
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену