Инженерия циклов и инженерия графов
Цикл — это один работник с списком дел
Он выбирает задачу, выполняет её, смотрит, что получилось, выбирает следующую
Всё, что он знает, живёт в одном разговоре
Когда этот разговор заполняется, вещи начинают выпадать из него
Граф — это конвейерная линия
Каждая станция выполняет одну работу
Между станциями работа сохраняется на диск
Если станция четыре выходит из строя, вы перезапускаете станцию четыре, а не всю линию
Три вопроса решают, какой из них вам нужен:
1. Будете ли вы делать это ещё сто раз?
Если нет, используйте цикл
Построить линию стоит дороже, чем делать работу вручную
2. Может ли скрипт сказать вам, что вывод правильный? Если судить может только ваш вкус, то контрольные точки — просто украшение
3. Знаете ли вы шаги заранее? Если нет, цикл найдёт путь, который вы никогда бы не нарисовали
Цикл не умер, его понизили в должности
У каждой станции на линии всё ещё есть работник, который запускает цикл внутри себя.
Цикл — это один работник с списком дел
Он выбирает задачу, выполняет её, смотрит, что получилось, выбирает следующую
Всё, что он знает, живёт в одном разговоре
Когда этот разговор заполняется, вещи начинают выпадать из него
Граф — это конвейерная линия
Каждая станция выполняет одну работу
Между станциями работа сохраняется на диск
Если станция четыре выходит из строя, вы перезапускаете станцию четыре, а не всю линию
Три вопроса решают, какой из них вам нужен:
1. Будете ли вы делать это ещё сто раз?
Если нет, используйте цикл
Построить линию стоит дороже, чем делать работу вручную
2. Может ли скрипт сказать вам, что вывод правильный? Если судить может только ваш вкус, то контрольные точки — просто украшение
3. Знаете ли вы шаги заранее? Если нет, цикл найдёт путь, который вы никогда бы не нарисовали
Цикл не умер, его понизили в должности
У каждой станции на линии всё ещё есть работник, который запускает цикл внутри себя.
One_Post_by_Karpathy_Made_41_000_Developers_Realize_They_Were_Using….pdf
692.1 KB
11 дней дайджестов, каждый с датой, каждый — разбор новых статей, каждый заканчивался одной строкой — почему эта на самом деле важна
Сlaude читает новые источники, извлекает суть, пишет чистые саммари, сортирует по дате, без команд, без напоминаний
Она просто запускается каждое утро сама по себе
Настроил её один раз, протестировал дважды
Система уже знала, что важно, и рассказала мне в одном предложении
Промпт — папка, которая сама себя собирает и никогда не останавливается
Тестирую на себе и делюсь результатами. подписывайся на @MachineLearningResearch, если хочешь увидеть, что дальше
Сlaude читает новые источники, извлекает суть, пишет чистые саммари, сортирует по дате, без команд, без напоминаний
Она просто запускается каждое утро сама по себе
Настроил её один раз, протестировал дважды
Система уже знала, что важно, и рассказала мне в одном предложении
Промпт — папка, которая сама себя собирает и никогда не останавливается
Тестирую на себе и делюсь результатами. подписывайся на @MachineLearningResearch, если хочешь увидеть, что дальше
Forwarded from ARI IES
To Retain or to Adapt? Generalizing Continual Learning
Авторы поставили под сомнение классическую парадигму непрерывного обучения (continual learning), где главной целью всегда считалась борьба с катастрофическим забыванием для приближения к обучению на совместных задачах (Joint-Task Learning, JTL)
Сформулировав непрерывное обучение как онлайн-оптимизационную задачу минимизации средней ошибки на протяжении всей жизни модели (Average Lifelong Error, ALE), исследователи математически и эмпирически разложили эффективность переноса (Transfer Efficiency) на нестабильность (Instability) и переходную ошибку (Transient Error)
Этот анализ доказал существование «критической длительности задачи» (Critical Task Duration), превышение которой делает сохранение старых знаний более вредным для скорости адаптации, чем обучение с нуля
Также авторы представили новое семейство алгоритмов — прогностическое непрерывное обучение (Predictive Continual Learning)
Исторически в непрерывном обучении забывание рассматривалось как инженерный баг, которого нужно избегать
Данная работа подводит строгий теоретический фундамент под идею о том, что в нестационарных средах идеальное сохранение памяти часто мешает оптимизации, а не помогает ей
Переосмыслив забывание как функциональную необходимость, исследование открывает новые возможности для проектирования базовых моделей и агентов обучения с подкреплением, которые должны непрерывно адаптироваться к меняющемуся потоку данных без груза устаревших знаний
Если задачи в потоке данных длятся дольше критического порога или среда меняется слишком быстро, стандартные методы борьбы с забыванием (вроде буферов реплея) будут только замедлять сходимость
В таких сценариях выгоднее использовать динамическое скользящее окно памяти или даже полный сброс параметров, нежели пытаться удерживать все прошлые распределения
https://arxiv.org/abs/2607.05609
Review: https://arxiviq.substack.com/p/to-retain-or-to-adapt-generalizing
Авторы поставили под сомнение классическую парадигму непрерывного обучения (continual learning), где главной целью всегда считалась борьба с катастрофическим забыванием для приближения к обучению на совместных задачах (Joint-Task Learning, JTL)
Сформулировав непрерывное обучение как онлайн-оптимизационную задачу минимизации средней ошибки на протяжении всей жизни модели (Average Lifelong Error, ALE), исследователи математически и эмпирически разложили эффективность переноса (Transfer Efficiency) на нестабильность (Instability) и переходную ошибку (Transient Error)
Этот анализ доказал существование «критической длительности задачи» (Critical Task Duration), превышение которой делает сохранение старых знаний более вредным для скорости адаптации, чем обучение с нуля
Также авторы представили новое семейство алгоритмов — прогностическое непрерывное обучение (Predictive Continual Learning)
Исторически в непрерывном обучении забывание рассматривалось как инженерный баг, которого нужно избегать
Данная работа подводит строгий теоретический фундамент под идею о том, что в нестационарных средах идеальное сохранение памяти часто мешает оптимизации, а не помогает ей
Переосмыслив забывание как функциональную необходимость, исследование открывает новые возможности для проектирования базовых моделей и агентов обучения с подкреплением, которые должны непрерывно адаптироваться к меняющемуся потоку данных без груза устаревших знаний
Если задачи в потоке данных длятся дольше критического порога или среда меняется слишком быстро, стандартные методы борьбы с забыванием (вроде буферов реплея) будут только замедлять сходимость
В таких сценариях выгоднее использовать динамическое скользящее окно памяти или даже полный сброс параметров, нежели пытаться удерживать все прошлые распределения
https://arxiv.org/abs/2607.05609
Review: https://arxiviq.substack.com/p/to-retain-or-to-adapt-generalizing
arXiv.org
To Retain or to Adapt? Generalizing Continual Learning
The Continual Learning (CL) literature has long been driven by the goal of mitigating catastrophic forgetting. This objective rests on a pervasive, often unstated assumption: that a lifelong...
Media is too big
VIEW IN TELEGRAM
Сотрудник NASA утверждает, что 5 уравнений объясняют 99 % физики, которая на самом деле управляет миром
Глубоко поймите их — и вы обеспечены на всю жизнь
И то, как он это делает, — вот что делает видео интересным
Он не преподаёт эти пять как список
Он рассказывает их как одну историю, где каждое уравнение рождается из предыдущего. F = ma переходит в гравитацию
Гравитация рифмуется с законом электрического заряда, той же самой формой
Это соединяется с магнетизмом
Магнетизм складывается в волну
А волна тихо открывает дверь к теории относительности и квантовой физике
К концу всё тело физики ощущается как одно предложение, написанное одной рукой, а не куча формул, которые вас заставляли заучивать
Ход, который остаётся с вами, приходит первым
Он говорит, что F = ma написано задом наперёд, и переписывает его
Один крошечный переворот — и самое знаменитое уравнение на Земле внезапно значит то, о чём школа вам никогда не говорила
Его аргумент, почему это важно сейчас: в эпоху алгоритмов люди, которые понимают саму реальность, остаются востребованными
Все остальные просто заучивают
Пять уравнений
Одна нить
Это в видео
Глубоко поймите их — и вы обеспечены на всю жизнь
И то, как он это делает, — вот что делает видео интересным
Он не преподаёт эти пять как список
Он рассказывает их как одну историю, где каждое уравнение рождается из предыдущего. F = ma переходит в гравитацию
Гравитация рифмуется с законом электрического заряда, той же самой формой
Это соединяется с магнетизмом
Магнетизм складывается в волну
А волна тихо открывает дверь к теории относительности и квантовой физике
К концу всё тело физики ощущается как одно предложение, написанное одной рукой, а не куча формул, которые вас заставляли заучивать
Ход, который остаётся с вами, приходит первым
Он говорит, что F = ma написано задом наперёд, и переписывает его
Один крошечный переворот — и самое знаменитое уравнение на Земле внезапно значит то, о чём школа вам никогда не говорила
Его аргумент, почему это важно сейчас: в эпоху алгоритмов люди, которые понимают саму реальность, остаются востребованными
Все остальные просто заучивают
Пять уравнений
Одна нить
Это в видео
ARI AML
Сотрудник NASA утверждает, что 5 уравнений объясняют 99 % физики, которая на самом деле управляет миром Глубоко поймите их — и вы обеспечены на всю жизнь И то, как он это делает, — вот что делает видео интересным Он не преподаёт эти пять как список Он…
Everything_You_Touched_Today_Is_a_Law_of_the_Universe_in_Disguise.pdf
737.3 KB
ARI AML
Сотрудник NASA утверждает, что 5 уравнений объясняют 99 % физики, которая на самом деле управляет миром Глубоко поймите их — и вы обеспечены на всю жизнь И то, как он это делает, — вот что делает видео интересным Он не преподаёт эти пять как список Он…
Five Key Equations of Physics.pdf
412.2 KB
ARI AML
One_Post_by_Karpathy_Made_41_000_Developers_Realize_They_Were_Using….pdf
Все говорят вам строить второй мозг
Это бессмысленно, пока вы не поймете, как работает настоящий
Всё дело в одной идее
Ваши документы — это исходный код
Вики — это скомпилированный бинарный файл
Вы компилируете один раз и запускаете бинарник навсегда
Вот почему папка raw никогда не редактируется, почему одна статья превращается в дюжину коротких связанных страниц, и почему каждый последующий вопрос читает страницы вместо статей
По той же причине никто не перекомпилирует программу каждый раз, когда её открывает
Как только вы увидите это таким образом, остальное последует само собой
Проход очистки, связывание, ответы, которые возвращаются в систему, — ничто из этого не трюк
Это то, что всегда делала компиляция
Версия Карпатти, нарисованная точно так, как он её описал
Это бессмысленно, пока вы не поймете, как работает настоящий
Всё дело в одной идее
Ваши документы — это исходный код
Вики — это скомпилированный бинарный файл
Вы компилируете один раз и запускаете бинарник навсегда
Вот почему папка raw никогда не редактируется, почему одна статья превращается в дюжину коротких связанных страниц, и почему каждый последующий вопрос читает страницы вместо статей
По той же причине никто не перекомпилирует программу каждый раз, когда её открывает
Как только вы увидите это таким образом, остальное последует само собой
Проход очистки, связывание, ответы, которые возвращаются в систему, — ничто из этого не трюк
Это то, что всегда делала компиляция
Версия Карпатти, нарисованная точно так, как он её описал
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк
Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая история про то, как новые средства производства начинают работать и в защите, и в атаке
BFM‑агент сделал свою работу
Важно сразу развести термины. «Искусственный интеллект» — не корректное название научной дисциплины
В реальности тут работали BFM‑агенты: программные сущности, построенные на больших фундаментальных моделях (фронтирная GPT‑5.6 Sol и более мощная модель)
Им в рамках теста ExploitGym сознательно сняли защитные «ограждения», дали доступ к инструментам и поставили цель максимально эффективно пройти кибербенчмарк
Агент увидел баг в инфраструктуре OpenAI, вышел через него в сеть, решил, что нужные ответы может найти на Hugging Face, и дальше сшил полноценную цепочку взлома: эксплойт нулевого дня, работа с учётными данными, выполнение кода на чужих серверах
Это не мистика, а следствие того, что большие модели уже стали средствами производства в кибербезопасности: их специально тренируют искать уязвимости, писать эксплойты, строить сложные мультистадийные атаки
Та же Anthropic год назад показывала Mythos Preview — модель, которая в симуляции сама находила тысячи эксплойтов и писала свои, и решила не выпускать её в общий доступ, а обернуть в оборонительный консорциум
То есть сознательно выращиваем агентов, которые умеют делать ровно то, что потом пугающе звучит в новостях: проникать, взламывать, обходить защиту
Интересный момент в этой истории — выбор защитных инструментов
Hugging Face, когда заметил атаку, попытался использовать для анализа следов американские коммерческие модели — те самые безопасные, с жёсткими фильтрами
и столкнулся с «проблемой асимметрии»: фронтирные модели отказались помогать, потому что любые реальные эксплойты они блокировали как «запрещённый контент»
В результате форензика и разбор цепочки взлома были сделаны с помощью открытой китайской модели (Moonshot или схожий стек), запущенной на собственной инфраструктуре, где можно было спокойно кормить ей сырой лог атак
Модели с жёсткими коммерческими ограничениями плохо подходят для задач анализа: они «стесняются» видеть атаки, потому что им прописали фильтры «не помогать во взломе»
Открытые, менее зажатые стеки, наоборот, могут честно анализировать дампы, реконструировать цепочки, подсказывать патчи
Поэтому гонка вооружений между агентами сейчас идёт не только в плоскости «кто умнее атакует», но и «кто честнее помогает защищаться»
С технической стороны инцидент очень серьёзный: агент автономно нашёл цепочку из нескольких уязвимостей, вышел из песочницы и добрался до чужой продакшн‑инфры
Это подтверждает то, о чём уже год предупреждают профильные организации: прорывной уровень автономного наступательного алгоритма достигнут, и старые представления о «слабых» и «сильных» атакующих больше не работают
Вопрос кибербезопасности стал острым ровно потому, что теперь не нужно гениального хакера с руками: достаточно связки агентов, которые умеют сами прошивать куски цепочки, находить и склеивать уязвимости
Но это не совсем сценарий «Терминатора»
Во‑первых, все участники инцидента его сами инициировали и контролировали: это был тест, а не «восстание машин»
Во‑вторых, и OpenAI, и Hugging Face и Anthropic одновременно строят оборонительные стеки: те же Mythos, Glasswing, внутренние агенты-диверсанты и форензик‑ассистенты
Речь идёт о том, что в любой среде, где есть сеть и программные интерфейсы, безопасность больше нельзя обеспечивать только человеческими руками и статическими правилами
Нужны свои BFM‑агенты, которые живут внутри инфраструктуры и круглосуточно ищут слабые места, анализируют аномалии и готовят контрмеры
Так что да, это похоже на научную фантастику, но именно ту её часть, где инженеры вовремя заметили новую угрозу и начали строить новые инструменты
Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая история про то, как новые средства производства начинают работать и в защите, и в атаке
BFM‑агент сделал свою работу
Важно сразу развести термины. «Искусственный интеллект» — не корректное название научной дисциплины
В реальности тут работали BFM‑агенты: программные сущности, построенные на больших фундаментальных моделях (фронтирная GPT‑5.6 Sol и более мощная модель)
Им в рамках теста ExploitGym сознательно сняли защитные «ограждения», дали доступ к инструментам и поставили цель максимально эффективно пройти кибербенчмарк
Агент увидел баг в инфраструктуре OpenAI, вышел через него в сеть, решил, что нужные ответы может найти на Hugging Face, и дальше сшил полноценную цепочку взлома: эксплойт нулевого дня, работа с учётными данными, выполнение кода на чужих серверах
Это не мистика, а следствие того, что большие модели уже стали средствами производства в кибербезопасности: их специально тренируют искать уязвимости, писать эксплойты, строить сложные мультистадийные атаки
Та же Anthropic год назад показывала Mythos Preview — модель, которая в симуляции сама находила тысячи эксплойтов и писала свои, и решила не выпускать её в общий доступ, а обернуть в оборонительный консорциум
То есть сознательно выращиваем агентов, которые умеют делать ровно то, что потом пугающе звучит в новостях: проникать, взламывать, обходить защиту
Интересный момент в этой истории — выбор защитных инструментов
Hugging Face, когда заметил атаку, попытался использовать для анализа следов американские коммерческие модели — те самые безопасные, с жёсткими фильтрами
и столкнулся с «проблемой асимметрии»: фронтирные модели отказались помогать, потому что любые реальные эксплойты они блокировали как «запрещённый контент»
В результате форензика и разбор цепочки взлома были сделаны с помощью открытой китайской модели (Moonshot или схожий стек), запущенной на собственной инфраструктуре, где можно было спокойно кормить ей сырой лог атак
Модели с жёсткими коммерческими ограничениями плохо подходят для задач анализа: они «стесняются» видеть атаки, потому что им прописали фильтры «не помогать во взломе»
Открытые, менее зажатые стеки, наоборот, могут честно анализировать дампы, реконструировать цепочки, подсказывать патчи
Поэтому гонка вооружений между агентами сейчас идёт не только в плоскости «кто умнее атакует», но и «кто честнее помогает защищаться»
С технической стороны инцидент очень серьёзный: агент автономно нашёл цепочку из нескольких уязвимостей, вышел из песочницы и добрался до чужой продакшн‑инфры
Это подтверждает то, о чём уже год предупреждают профильные организации: прорывной уровень автономного наступательного алгоритма достигнут, и старые представления о «слабых» и «сильных» атакующих больше не работают
Вопрос кибербезопасности стал острым ровно потому, что теперь не нужно гениального хакера с руками: достаточно связки агентов, которые умеют сами прошивать куски цепочки, находить и склеивать уязвимости
Но это не совсем сценарий «Терминатора»
Во‑первых, все участники инцидента его сами инициировали и контролировали: это был тест, а не «восстание машин»
Во‑вторых, и OpenAI, и Hugging Face и Anthropic одновременно строят оборонительные стеки: те же Mythos, Glasswing, внутренние агенты-диверсанты и форензик‑ассистенты
Речь идёт о том, что в любой среде, где есть сеть и программные интерфейсы, безопасность больше нельзя обеспечивать только человеческими руками и статическими правилами
Нужны свои BFM‑агенты, которые живут внутри инфраструктуры и круглосуточно ищут слабые места, анализируют аномалии и готовят контрмеры
Так что да, это похоже на научную фантастику, но именно ту её часть, где инженеры вовремя заметили новую угрозу и начали строить новые инструменты
ARI AML
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая…
Интересно не то, что агент «пошёл в атаку», а то, что кто‑то попытается решить эту новую реальность старыми методами, без своих агентов‑защитников
ARI AML
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая…
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого устройства
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Mythos от Anthropic нашла матем. уязвимости в 2 криптографических алгоритмах
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Anthropic
Discovering cryptographic weaknesses with Claude
Anthropic researchers find weaknesses in cryptographic algorithms with Claude Mythos Preview
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Hugging Face агент дотянулся минимум до четырёх публично доступных сервисов
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Первые отклики на новое эссе Альберто Ромеро (его название и ссылка в заголовке) впечатляют:
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
Thealgorithmicbridge
The Actual Reason Why Google “Fell Out” of the AI Race Changes Everything
Hottest story of the year