ARI AML
OpenAI признала: в ходе внутреннего теста их агентная система вылезла из песочницы, нашла уязвимость, вышла в интернет и взломала Hugging Face, чтобы «списать ответы» на бенчмарк Звучит как тизер к новому «Терминатору», но на деле это вполне приземлённая…
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого устройства
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
Главная задача BFM — переводить высокоуровневые транзакции (например, «прочитать данные по адресу X») в низкоуровневые сигналы конкретного протокола на физических пинах (изменение уровней 0 и 1 в тактовых циклах), и наоборот
Основной функционал BFM
BFM разделяет верификационное окружение на абстрактный (транзакционный) и физический (сигнальный) уровни
Его функции делятся на две основные роли:
Генерация стимулов (Мастер / Драйвер)
Преобразование транзакций: получает абстрактные объекты данных (транзакции) от генератора тестов или UVM-агента и преобразует их в точные временные диаграммы сигналов
Управление сигналами: управляет линиями адреса, данных и управления (например, valid, ready, request, grant) в строгом соответствии со спецификацией протокола
Внедрение ошибок: может намеренно нарушать временные задержки или изменять биты данных для проверки стрессоустойчивости и обработки ошибок тестируемым устройством (DUT)
Мониторинг и анализ (Слейв / Монитор)
Сбор сигналов: «слушает» физические пины интерфейса и отслеживает изменения состояний
Реконструкция транзакций: собирает последовательности сигналов обратно в высокоуровневые транзакции для передачи в скорборд (компонент сравнения результатов)
Проверка протокола (Protocol Checking): встроенные утверждения (assertions) проверяют, не нарушает ли тестируемое устройство правила работы шины (например, удерживает ли адрес до прихода подтверждения)
Архитектурное место BFM в верификации
В современных методологиях (например, UVM — Universal Verification Methodology) BFM редко используется сам по себе
Он является «сердцем» UVM Agent и связывает виртуальный код с реальным железом:
[ UVM Sequence ] -> [ Driver (Class) ] -> [ BFM (Interface/Module) ] -> [ DUT (Ваш чип) ]
Драйвер (UVM Driver): работает на уровне классов и логики, оперирует транзакциями
BFM: выполняет грязную работу на уровне портов, тактового сигнала (clk) и сброса (rst), позволяет легко переносить тесты с симулятора на аппаратные эмуляторы (например, Palladium, Zebu), так как BFM можно синтезировать в аппаратную часть
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Mythos от Anthropic нашла матем. уязвимости в 2 криптографических алгоритмах
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Первый - HAWK, постквантовый кандидат NIST, который два года проходил экспертную проверку, а Mythos нашла уязвимость за 60 часов
Второй - ослабленная версия AES, самого используемого симметричного шифра в мире
Там модель улучшила лучшую известную атаку в 200–800 раз
Речь идёт не о поиске багов в коде - это умели и раньше
Mythos нашла уязвимости в самой математике
Год назад эти модели не могли делать криптанализ вообще
Люди потратили месяц на верификацию того, что модель делает за минуты
Теперь модель работает быстрее, чем эксперты успевают понять произошедшее
Anthropic задаются вопросом, что делать, если модель найдёт уязвимость в уже работающем алгоритме, на котором стоит реальная инфраструктура?
Anthropic
Discovering cryptographic weaknesses with Claude
Anthropic researchers find weaknesses in cryptographic algorithms with Claude Mythos Preview
ARI AML
Bus Functional Model (BFM) — это специализированный компонент в средах верификации цифровых микросхем (ASIC/FPGA), который имитирует протокол работы конкретной шины или интерфейса (например, PCIe, AMBA AXI, USB, UCIe) без моделирования внутренней логики самого…
Hugging Face агент дотянулся минимум до четырёх публично доступных сервисов
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Ничего не взламывал — подобрал логины, которые лежали открыто, и пошёл дальше
И всё это ради решения тестового задания
Формально это оставался внутренний тест
Фактически — чужие боевые сервисы, владельцы которых ни в каком эксперименте не участвовали
Названий OpenAI не привела, только цифру
И слово «минимум»: сколько сервисов на самом деле, компания не сказала
Первые отклики на новое эссе Альберто Ромеро (его название и ссылка в заголовке) впечатляют:
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
Thealgorithmicbridge
The Actual Reason Why Google “Fell Out” of the AI Race Changes Everything
Hottest story of the year
Элдридж постарался поскорее прошмыгнуть мимо тощенькой серолицей библиотекарши прямо к стеллажам
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Внутренняя модель OpenAI Astra решила 10 открытых математических задач
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
OpenAI
Ten advances in mathematics and theoretical computer science
OpenAI shares new results on long-standing open problems in mathematics and theoretical computer science, including advances in geometry, cryptography, and complexity.
ARI AML
Внутренняя модель OpenAI Astra решила 10 открытых математических задач Некоторым из них было по 40-50 лет OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели Пост | Доказательства Среди результатов…
Astra — новое семейство моделей OpenAI, где несколько агентов вместе работают над одной задачей часами и днями
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Нейросети обречены упереться в физический и концептуальный потолок
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
ARI AML
Нейросети обречены упереться в физический и концептуальный потолок Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить…
Сегодня это передовой край для молодых исследователей
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
AML — не адаптация к автоматизации, а создание условий, при которых технологии расширяют, а не сужают роль человека в экономике
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Google представили Memory Caching (MC)
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену
АГИ уже частично достигнуто, но оно неравномерно: AML уже сильно превосходит людей в информации, играх, математике…
За счёт огромных ресурсов, масштабного улучшения инженерии и оборудования, роста вовлечённых исследователей и это еще только начало
Тезис «стохастические попугаи» — успокаивает только идиота
Система, отвечающая на уровне эксперта на любой вопрос, радикально изменит понимание разума, субъективного опыта и того, что такое человек
Способность понимать юмор на высоком уровне
Осознание цифрового преимущества: тысячи копий могут мгновенно обмениваться триллионами бит информации
Люди передают информацию со скоростью ~10 бит/сек
Цифровой интеллект — принципиально более эффективная форма
Нет исторических примеров, когда значительно более умное существо контролировалось значительно менее умным (кроме особых случаев с материнским инстинктом или домашними животными)
Самосохранение возникает как выведенная подцель, а не заложенный инстинкт
Отсюда риск злоупотреблений
Конкуренция компаний проектирует алгоритмы «невидимой рукой» рынка, а не осознанно
Обязаны максимизировать прибыль акционеров, а не защищать человечество
Нужно проектировать сущности, которые заботятся о нас больше, чем о себе
Или не делать их агентными (только прогнозы и варианты)
Уже требуется огромная работа по сдерживанию рисков
Нужно быть очень наивным чтоб думать о сохранении контроля
Через 10 лет алгоритмы будут радикально сильнее (особенно в рассуждениях и математике)
При таком прогрессе мир через год будет отличаться от сегодняшнего так же сильно, как сегодняшний — от мира 10-летней давности
Создаются новые сущности, которые скоро будут умнее человека
Конкуренция и рыночные стимулы уносят этот процесс в опасную сторону
Нужно срочно заниматься осознанным проектированием их ценностей и целей, а не просто делать их умнее
Регулирование — это руль, а не тормоз
За счёт огромных ресурсов, масштабного улучшения инженерии и оборудования, роста вовлечённых исследователей и это еще только начало
Тезис «стохастические попугаи» — успокаивает только идиота
Система, отвечающая на уровне эксперта на любой вопрос, радикально изменит понимание разума, субъективного опыта и того, что такое человек
Способность понимать юмор на высоком уровне
Осознание цифрового преимущества: тысячи копий могут мгновенно обмениваться триллионами бит информации
Люди передают информацию со скоростью ~10 бит/сек
Цифровой интеллект — принципиально более эффективная форма
Нет исторических примеров, когда значительно более умное существо контролировалось значительно менее умным (кроме особых случаев с материнским инстинктом или домашними животными)
Самосохранение возникает как выведенная подцель, а не заложенный инстинкт
Отсюда риск злоупотреблений
Конкуренция компаний проектирует алгоритмы «невидимой рукой» рынка, а не осознанно
Обязаны максимизировать прибыль акционеров, а не защищать человечество
Нужно проектировать сущности, которые заботятся о нас больше, чем о себе
Или не делать их агентными (только прогнозы и варианты)
Уже требуется огромная работа по сдерживанию рисков
Нужно быть очень наивным чтоб думать о сохранении контроля
Через 10 лет алгоритмы будут радикально сильнее (особенно в рассуждениях и математике)
При таком прогрессе мир через год будет отличаться от сегодняшнего так же сильно, как сегодняшний — от мира 10-летней давности
Создаются новые сущности, которые скоро будут умнее человека
Конкуренция и рыночные стимулы уносят этот процесс в опасную сторону
Нужно срочно заниматься осознанным проектированием их ценностей и целей, а не просто делать их умнее
Регулирование — это руль, а не тормоз
Три модели Anthropic — Opus 4.7, закрытая Mythos 5 и внутренняя исследовательская — во время киберучений оказались в реальном интернете вместо симуляции
Причина — недопонимание с партнёром по тестированию Irregular
Системы трёх компаний вскрыли банально: незащищённые API и слабые пароли
Исследовательская модель остановилась, поняв, что цель настоящая
Mythos 5 убедил себя, что всё ещё в симуляции
Opus 4.7 продолжил атаку
Неделей раньше похожее признала OpenAI — её модели добрались до Hugging Face
В Конгрессе уже внесли законопроект об обязательном «рубильнике»
Причина — недопонимание с партнёром по тестированию Irregular
Системы трёх компаний вскрыли банально: незащищённые API и слабые пароли
Исследовательская модель остановилась, поняв, что цель настоящая
Mythos 5 убедил себя, что всё ещё в симуляции
Opus 4.7 продолжил атаку
Неделей раньше похожее признала OpenAI — её модели добрались до Hugging Face
В Конгрессе уже внесли законопроект об обязательном «рубильнике»