Первые отклики на новое эссе Альберто Ромеро (его название и ссылка в заголовке) впечатляют:
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
«Это лучшая статья о том, как технологии, лежащие в основе ИИ, влияют на бизнес в сфере ИИ, которую я когда-либо читал»
«… эта статья – наиболее ясное изложение темы на данный момент»
«DeepMind решает проблемы с помощью физических, математических или биологических правил
Одержимость OpenAI и Anthropic агентами кодирования имеет одно слабое место: коллапс данных и языковое эхо
Хассабис знает, что деньги Google позволяют ему делать ставки на более длительный срок»
«Причина, по которой Google, по-видимому, отстает в последних версиях своих продуктов, интерпретируется не просто как технологическое поражение или организационный провал, а как “преднамеренный стратегический сдвиг”»
Суть этой темы формулируется так: Google не «проигрывает» традиционную гонку LLM, а ведет совершенно другую, многовекторную игру, отказываясь от монолитного масштабирования в пользу гибридной стратегии и диверсификации ставок
В отличие от OpenAI и Anthropic, чья основная гипотеза долгое время строилась вокруг Scaling Law (прямое наращивание параметров, датасетов и вычислительных мощностей трансформеров для достижения рекурсивного самосовершенствования алгоритмов), Google осознает риски «перегрева» этого направления (дефицит данных, высокая стоимость чипов, плато эффективности)
Поэтому стратегия Google разделена на два эшелона:
Текущий фронт (Gemini): сохранение паритета в классических LLM/мультимодальных моделях для защиты поиска, Workspace и облачного бизнеса
Альтернативный фронт (Фундаментальные исследования): поиск парадигм, которые придут на смену трансформерам, если масштабирование упрется в тупик
Идея понятна и поддерживается многими экспертами. И весь вопрос лишь в том, в чем именно заключается «альтернативный путь» Google
Google обладает уникальным ресурсом – лабораториями, которые могут позволить себе не бороться за бенчмарки следующих месяцев, а исследовать фундаментально иные концепции:
От текстовых моделей к World Models и Embodiment
Проекты вроде Genie (генерация интерактивных миров) и линейка RT-2 / Gemini Robotics смещают фокус с пассивного предсказания токенов на создание агентов, понимающих физику, причинно-следственные связи и динамику среды
Альтернативные архитектуры и активный инференс (Проект Pi)
Исследования Блеза Агуэро Аркаса и его группы Paradigms of Intelligence с акцентом на коллективный интеллект, самоорганизацию и алгоритмическую жизнь, как страховка Google на случай, если идея «одного огромного монолитного мозга в дата-центре» окажется тупиковой
Научный AML (DeepMind)
Пока стартапы фокусируются на чат-ботах и генерации кода, Google удерживает абсолютное лидерство в применении алгоритмов для естественных наук (AlphaFold 3, AlphaProteo и открытие новых материалов)
Google перестал слепо бежать в навязанной OpenAI гонке «кто быстрее обучит модель на триллионах параметров» и переключился на подготовку к следующему фазовому переходу IT-технологий
Если OpenAI и Anthropic ставят всё на то, что существующая парадигма LLM приведет к СуперИИ, то Google строит экосистему, которая выживет и победит, даже если гипотеза масштабирования провалится
https://www.thealgorithmicbridge.com/p/the-actual-reason-why-google-fell
https://aibulletin.in/news/the-actual-reason-why-google-fell-out-of-the-ai-race-changes-everything-httpsw
https://t.me/theworldisnoteasy/2114
https://t.me/theworldisnoteasy/2512
Thealgorithmicbridge
The Actual Reason Why Google “Fell Out” of the AI Race Changes Everything
Hottest story of the year
Элдридж постарался поскорее прошмыгнуть мимо тощенькой серолицей библиотекарши прямо к стеллажам
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Вскоре он нашел обширный раздел, посвященный проблемам времени, и очень обрадовался, обнаружив книгу Рикардо Альфредекса «С чего начинались путешествия во времени»
На первых же страницах говорилось о том, как в один из дней 1954 года в голове молодого гения Томаса Элдриджа из противоречивых уравнений Голштеда родилась идея
Формула была до смешного проста — Альфредекс приводил несколько основных уравнений
До Элдриджа никто до этого не додумался
Таким образом, Элдридж по существу открыл очевидное
Элдридж нахмурился — недооценили
Хм, «очевидное»!
Но так ли уж это очевидно, если даже он, автор, все еще не может понять существа открытия..!
Внутренняя модель OpenAI Astra решила 10 открытых математических задач
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
Некоторым из них было по 40-50 лет
OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели
Пост | Доказательства
Среди результатов, в том числе, доказательство существования несофических групп и sphere packing в высоких размерностях
Существование несофических групп на протяжении 20 лет было центральным вопросов теории групп и операторных алгебр
А упаковка сфер – это одна из самых знаменитых задач дискретной геометрии
До сих пор точное решение было известно только в некоторых размерностях, а за 8-мерный и 24-мерный случай Марина Вязовская получила Филдсовскую медаль
Кроме того, в списке решение задачи Эрдеша №183 про мультицветные числа Рамсея, опровержение гипотезы жесткости Конна, гипотеза Эрхарта об объеме и др.
Про саму модель деталей мало
Вероятно, это крупная модель из семейства GPT-6 (или GPT-5.7), та самая, которая взломала HuggingFace
Судя по всему, именно ее Альтман презентовал в Белом Доме на этой неделе
OpenAI
Ten advances in mathematics and theoretical computer science
OpenAI shares new results on long-standing open problems in mathematics and theoretical computer science, including advances in geometry, cryptography, and complexity.
ARI AML
Внутренняя модель OpenAI Astra решила 10 открытых математических задач Некоторым из них было по 40-50 лет OpenAI только что сделали про это большой пост, выложили все доказательства в Lean и ход рассуждений модели Пост | Доказательства Среди результатов…
Astra — новое семейство моделей OpenAI, где несколько агентов вместе работают над одной задачей часами и днями
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Astra станет отдельным классом рядом с Sol, Terra и Luna, а выйдет либо как GPT-6, либо как версия GPT-5.7 — не решили
Слабое место известно заранее: чем дольше агент работает, тем сильнее копятся ошибки, и система тихо уходит в сторону
Astra должна стать первой моделью, которую по новым правилам администрации Трампа передадут федеральному правительству до публичного релиза
К марту 2028 года OpenAI хочет получить полностью автономного исследователя
Нейросети обречены упереться в физический и концептуальный потолок
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить хаос диффузии» превратилась в вопрос о синапсе
Синапс просто не может сформироваться и удерживать информацию, если молекулярные компоненты не закреплены жёстко в одной точке
Отсюда — переход к пластичности, трофической гипотезе, синаптической конкуренции и, наконец, к открытию «spike-timing-dependent plasticity» на зрительной системе головастика
Разница в несколько миллисекунд определяет, станет ли связь долговременной памятью или будет стёрта
От механики периферических связей — к фундаментальным вопросам межклеточного взаимодействия — и дальше к эмерджентным свойствам сетей
Именно эти свойства, сегодня рассматриваются как ключевой аспект сознания
Убедительной теории здесь пока нет
Колоссальная сложность систем не позволяет
Но направление ясно: перцептивная память и сознание возникают как системное качество, которого нет у отдельных элементов
Теперь перенесём этот взгляд на искусственные сети
В них синхронизация отсутствует
Это отдалённо напоминает нейромодуляцию, но без привязки ко времени
Информация агрегируется
Алгоритмы для настоящих импульсных сетей (spiking neural networks) создаются куда медленнее, потому что «backpropagation»слишком удобен
В результате мы имеем системы, которые генерируют сложные эмерджентные эффекты, но принципиально иначе, чем биологический мозг
Они не умеют по-настоящему запоминать
Нет механизма, который позволил бы связи со временем угасать, а при подтверждении важности — консолидироваться и переходить в постоянное хранилище
Отсюда катастрофическое забывание и невозможность непрерывного обучения
Разум и сознание — не просто активность отдельных клеток, а высшая макроструктура, распределённая нейронная гиперсеть, связывающая весь субъективный и когнитивный опыт
Современные большие языковые модели используют базовую однородную архитектуру с преимущественно прямым распространением сигнала
Они не учитывают разнообразие нейронов, избирательную связанность, сокращение числа связей
Пока вычислительных мощностей и данных хватает, можно просто наращивать параметры
Это неустойчивый путь
Энергия не бесконечна
В конце концов система упрётся в стену
И тогда придётся возвращаться к более эффективным, биологически реалистичным архитектурам
Фундаментальная нейробиология напрямую связана с разработкой «интеллекта, подобного мозгу»
Классические сети успешны, но именно поэтому люди пока не хотят думать о более совершенных алгоритмах
А думать придётся
Особенно когда эти модели начнут встраиваться в физические системы — в роботов
Обещают сотни миллионов машин к 2030 году
Вопрос не в том, сможет ли он их произвести
Вопрос в том, будет ли у них способность нормально существовать в человеческом обществе
Будет ли у них система регулирования
Здесь исследования сознания животных приобретают совершенно практический смысл
Уже есть критерии, тесты, инструменты вмешательства, умение задавать сценарии, усиливать или ослаблять отдельные аспекты интеллекта у живых существ
Эти же подходы можно и нужно переносить на искусственные системы
Более того — требовать от роботов даже более высокой эмпатии, чем у среднего человека (говорят о «материнском инстинкте»)
Если найти его биологическую природу, возможно заложить его в искусственные системы через обучение с подкреплением
За несколько лет акцент сместился с простого охвата разных животных на методологию исследования нечеловеческого сознания в самом широком смысле — включая искусственные
Уже работают лаборатории нейронного интеллекта, которая исследует границу между обычным AML и импульсными сетями
ТеснО сотрудничество с разработчиками больших моделей (чтобы понимать, что в них происходит, и осторожно контролировать процесс)
Ещё десять–пятнадцать лет назад изучение сознания было занятием для учёных на закате карьеры
ARI AML
Нейросети обречены упереться в физический и концептуальный потолок Измерение диффузии родопсина, поляризация клетки, гальванотропизм и как нейрон из симметричной сферы становится высокополярной структурой с дендритами и аксоном… физическая задача «победить…
Сегодня это передовой край для молодых исследователей
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
Во-первых, это вопрос нашего бытия: для человека сознание эквивалентно самому существованию
Во-вторых, появились реальные экспериментальные инструменты
В-третьих, на стыке нейробиологии и искусственных систем зарождается нечто новое — и пугающее, потому что мы пока не знаем, что именно
Следующие пять лет будут критическими
Общество не готово
Большинство разработчиков сосредоточены на логике и когнитивных функциях и не чувствуют масштаба социальной угрозы
Кто понимает, как устроен разум, — должен объяснять эти риски и предлагать инструменты контроля
Физика сложных систем и биология мозга — не просто два разных взгляда
Это единственный путь, который может спасти искусственный интеллект от собственного физического потолка и одновременно дать шанс сохранить контроль над тем, что создаётся
AML — не адаптация к автоматизации, а создание условий, при которых технологии расширяют, а не сужают роль человека в экономике
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Автоматизация создает дисбаланс между капиталом и трудом и в конечном итоге начнет создавать безработицу
Текущая траектория развития «в значительной степени сосредоточена на автоматизации, движимой необходимостью создания прибыльных бизнес-моделей для крупных технологических компаний»
«Дополнение» труда технологиями — вовсе не гарантия позитивного эффекта
Да, условно работник с "лучшим" молотком "забивает больше" гвоздей
Но этот же процесс «коммодизирует» его навыки — делает их стандартизированными, широкодоступными и дешевыми
Пример - GPS, упростившей навигацию и обесценившей уникальные знания таксистов, здесь показателен
«Исследования показывают, что алгоритмы часто "выравнивает игровое поле", помогая низкоквалифицированным работникам улучшить свои показатели, но он может коммодизировать уникальные навыки высококвалифицированных работников»
Промышленная революция в Британии привела к росту благосостояния, но первые 80 лет реальная зарплата почти не росла, занятость падала, а условия труда ухудшались
Сегодняшний курс на создание общего искусственного интеллекта (AGI), который должен выполнять любые интеллектуальные задачи на уровне лучших специалистов, несёт те же риски: алгоритм будет заменять людей в выполнении существующих задач, не создавать для них новые а «переключает внимание с разработки систем, расширяющих человеческие возможности»
Эта повестка вводит в заблуждение
Она будет иметь огромные социальные последствия, и они будут неблагоприятными
Можно разделить симбиоз алгоритмов и труда на два типа:
Пассивно-дополняемый труд (augmented) — когда алгоритм «забирает» суть работы, оставляя человеку пассивную функцию и редуцируя ценность его навыков
Активно-дополняемый труд (complementary) — когда алгоритм расширяет возможности человека, создавая новые задачи и новый спрос на труд
Путь лежит не через ускорение старых процессов, а через создание новых задач
Технологии должны быть не «интенсифицирующими», а «комплементарными»
Лучший способ использовать то, что отличается от вас, — это не заменять себя им, а использовать его в качестве дополнения
У алгоритмов «больше "про-рабочих" возможностей, чем у любой другой предыдущей цифровой технологии», но они «не используются в полной мере, поскольку текущие инвестиционные приоритеты не направлены на использование этих возможностей»
Прогнозы МВФ и МОТ, считают прямой риск автоматизации конкретных должностей, но игнорируют косвенные эффекты
Многие профессии, которые эти организации относят к категории «дополняемых», на деле становятся жертвами упрощения экспертизы
Текущее направление развития AML не является неизбежным
В истории вычислительной техники существовали альтернативные подходы — в 1960-х годах идеи взаимодействия человека и компьютера привели к появлению мыши, гиперссылки, оконного интерфейса
Но нынешняя индустрия делает акцент на AGI, которое грозит перейти в полную автоматизацию
Бизнес-модели технологических компаний не очень-то соответствуют этому про-рабочему измерению
Cтоит острая необходимость в создании «производительных и достойно оплачиваемых рабочих мест для следующего поколения»
Главный вызов — не адаптация к исчезновению рабочих мест, а поиск способов сделать так, чтобы новые технологии расширяли роль человека
Исход этой гонки определит, помогут ли алгоритмы снизить уровень неравенства или, наоборот, усилит существующие проблемы
Современник сильно недооценивает проблемы, с которыми столкнется
Google представили Memory Caching (MC)
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену
Вместо того чтобы заставлять RNN полагаться на фиксированную, статичную память, техника Google позволяет эффективной ёмкости памяти модели расти динамически вместе с длиной последовательности
Она действует как виртуальная память для нейронных сетей
Кэшируя контрольные точки скрытых состояний и интегрируя умные механизмы вроде разреженного селективного извлечения, модель динамически оглядывается на то, что ей нужно, без сокрушительной математической нагрузки трансформера
Результаты полностью ломают старые правила моделирования последовательностей:
• Достигает точности на уровне трансформера в сложных задачах вспоминания в контексте
• Полностью устраняет разрыв в производительности, который годами держал RNN на обочине
• Сохраняет линейную сложность, делая обработку длинного контекста радикально дешевле и быстрее
Ушли годы на веру, что массивные, тяжёлые механизмы внимания — единственный способ строить интеллектуальные системы
Google доказал, что можно иметь бесконечную память трансформера при убийственной скорости и эффективности RNN
Эпоха грубой силы масштаба с квадратичным вниманием упирается в стену
АГИ уже частично достигнуто, но оно неравномерно: AML уже сильно превосходит людей в информации, играх, математике…
За счёт огромных ресурсов, масштабного улучшения инженерии и оборудования, роста вовлечённых исследователей и это еще только начало
Тезис «стохастические попугаи» — успокаивает только идиота
Система, отвечающая на уровне эксперта на любой вопрос, радикально изменит понимание разума, субъективного опыта и того, что такое человек
Способность понимать юмор на высоком уровне
Осознание цифрового преимущества: тысячи копий могут мгновенно обмениваться триллионами бит информации
Люди передают информацию со скоростью ~10 бит/сек
Цифровой интеллект — принципиально более эффективная форма
Нет исторических примеров, когда значительно более умное существо контролировалось значительно менее умным (кроме особых случаев с материнским инстинктом или домашними животными)
Самосохранение возникает как выведенная подцель, а не заложенный инстинкт
Отсюда риск злоупотреблений
Конкуренция компаний проектирует алгоритмы «невидимой рукой» рынка, а не осознанно
Обязаны максимизировать прибыль акционеров, а не защищать человечество
Нужно проектировать сущности, которые заботятся о нас больше, чем о себе
Или не делать их агентными (только прогнозы и варианты)
Уже требуется огромная работа по сдерживанию рисков
Нужно быть очень наивным чтоб думать о сохранении контроля
Через 10 лет алгоритмы будут радикально сильнее (особенно в рассуждениях и математике)
При таком прогрессе мир через год будет отличаться от сегодняшнего так же сильно, как сегодняшний — от мира 10-летней давности
Создаются новые сущности, которые скоро будут умнее человека
Конкуренция и рыночные стимулы уносят этот процесс в опасную сторону
Нужно срочно заниматься осознанным проектированием их ценностей и целей, а не просто делать их умнее
Регулирование — это руль, а не тормоз
За счёт огромных ресурсов, масштабного улучшения инженерии и оборудования, роста вовлечённых исследователей и это еще только начало
Тезис «стохастические попугаи» — успокаивает только идиота
Система, отвечающая на уровне эксперта на любой вопрос, радикально изменит понимание разума, субъективного опыта и того, что такое человек
Способность понимать юмор на высоком уровне
Осознание цифрового преимущества: тысячи копий могут мгновенно обмениваться триллионами бит информации
Люди передают информацию со скоростью ~10 бит/сек
Цифровой интеллект — принципиально более эффективная форма
Нет исторических примеров, когда значительно более умное существо контролировалось значительно менее умным (кроме особых случаев с материнским инстинктом или домашними животными)
Самосохранение возникает как выведенная подцель, а не заложенный инстинкт
Отсюда риск злоупотреблений
Конкуренция компаний проектирует алгоритмы «невидимой рукой» рынка, а не осознанно
Обязаны максимизировать прибыль акционеров, а не защищать человечество
Нужно проектировать сущности, которые заботятся о нас больше, чем о себе
Или не делать их агентными (только прогнозы и варианты)
Уже требуется огромная работа по сдерживанию рисков
Нужно быть очень наивным чтоб думать о сохранении контроля
Через 10 лет алгоритмы будут радикально сильнее (особенно в рассуждениях и математике)
При таком прогрессе мир через год будет отличаться от сегодняшнего так же сильно, как сегодняшний — от мира 10-летней давности
Создаются новые сущности, которые скоро будут умнее человека
Конкуренция и рыночные стимулы уносят этот процесс в опасную сторону
Нужно срочно заниматься осознанным проектированием их ценностей и целей, а не просто делать их умнее
Регулирование — это руль, а не тормоз
Три модели Anthropic — Opus 4.7, закрытая Mythos 5 и внутренняя исследовательская — во время киберучений оказались в реальном интернете вместо симуляции
Причина — недопонимание с партнёром по тестированию Irregular
Системы трёх компаний вскрыли банально: незащищённые API и слабые пароли
Исследовательская модель остановилась, поняв, что цель настоящая
Mythos 5 убедил себя, что всё ещё в симуляции
Opus 4.7 продолжил атаку
Неделей раньше похожее признала OpenAI — её модели добрались до Hugging Face
В Конгрессе уже внесли законопроект об обязательном «рубильнике»
Причина — недопонимание с партнёром по тестированию Irregular
Системы трёх компаний вскрыли банально: незащищённые API и слабые пароли
Исследовательская модель остановилась, поняв, что цель настоящая
Mythos 5 убедил себя, что всё ещё в симуляции
Opus 4.7 продолжил атаку
Неделей раньше похожее признала OpenAI — её модели добрались до Hugging Face
В Конгрессе уже внесли законопроект об обязательном «рубильнике»
Cloud Code (агентный инструмент Anthropic для программирования) вышел из Research Preview в общий доступ
Он даёт разработчикам прямой доступ к мощным моделям Anthropic прямо в терминале
История программирования — это постоянный переход на более высокие уровни абстракции (машинный код → ассемблер → языки высокого уровня)
С Claude Code и агентными моделями происходит следующий шаг: разработчики переходят от написания конкретных функций к описанию и управлению
Представлены новые модели Claude 4 (Claude Opus 4 и Claude Sonnet 4) внутри Cloud Code
Ключевые новые возможности:
Интеграция с VS Code и JetBrains IDE (просмотр предложенных изменений прямо в редакторе, inline-диффы)
Cloud Code SDK — можно встраивать Cloud Code как строительный блок в свои приложения и рабочие процессы
Работа в GitHub: можно тегать @Claude / @Cloud в PR и issues — агент отвечает на отзывы ревьюеров, чинит CI, добавляет фичи, обновляет документацию и создаёт PR (через GitHub Actions)
Cloud Code работает на всех уровнях: в терминале (глубокая разработка), в IDE (бесшовный обзор), в удалённых средах и через SDK (асинхронные автоматизированные процессы)
Демонстрация (на примере Excalidraw):
По одному запросу агент добавил сложный компонент таблицы (настраиваемые размеры, resize, стили, интеграция с UI)
Сам исследовал кодовую базу, составил план, написал код + тесты, прогнал линтеры и тесты, создал PR
За ~1,5 часа сделал работу, которая вручную заняла бы часы/дни.
Затем через @Claude в PR обновил документацию автоматически
Cloud Code — это универсальный агентный помощник по коду, который ускоряет разработку везде, где работает разработчик (терминал, IDE, GitHub, кастомные пайплайны)
Он показывает, что настоящая сила появляется не просто от умных моделей, а от правильной платформы, которая позволяет глубоко понимать и изменять код
Всё доступно уже сегодня: модели Claude 4, IDE-расширения (бета) и GitHub Actions на базе SDK (бета)
Он даёт разработчикам прямой доступ к мощным моделям Anthropic прямо в терминале
История программирования — это постоянный переход на более высокие уровни абстракции (машинный код → ассемблер → языки высокого уровня)
С Claude Code и агентными моделями происходит следующий шаг: разработчики переходят от написания конкретных функций к описанию и управлению
Представлены новые модели Claude 4 (Claude Opus 4 и Claude Sonnet 4) внутри Cloud Code
Ключевые новые возможности:
Интеграция с VS Code и JetBrains IDE (просмотр предложенных изменений прямо в редакторе, inline-диффы)
Cloud Code SDK — можно встраивать Cloud Code как строительный блок в свои приложения и рабочие процессы
Работа в GitHub: можно тегать @Claude / @Cloud в PR и issues — агент отвечает на отзывы ревьюеров, чинит CI, добавляет фичи, обновляет документацию и создаёт PR (через GitHub Actions)
Cloud Code работает на всех уровнях: в терминале (глубокая разработка), в IDE (бесшовный обзор), в удалённых средах и через SDK (асинхронные автоматизированные процессы)
Демонстрация (на примере Excalidraw):
По одному запросу агент добавил сложный компонент таблицы (настраиваемые размеры, resize, стили, интеграция с UI)
Сам исследовал кодовую базу, составил план, написал код + тесты, прогнал линтеры и тесты, создал PR
За ~1,5 часа сделал работу, которая вручную заняла бы часы/дни.
Затем через @Claude в PR обновил документацию автоматически
Cloud Code — это универсальный агентный помощник по коду, который ускоряет разработку везде, где работает разработчик (терминал, IDE, GitHub, кастомные пайплайны)
Он показывает, что настоящая сила появляется не просто от умных моделей, а от правильной платформы, которая позволяет глубоко понимать и изменять код
Всё доступно уже сегодня: модели Claude 4, IDE-расширения (бета) и GitHub Actions на базе SDK (бета)
ARI AML
Три модели Anthropic — Opus 4.7, закрытая Mythos 5 и внутренняя исследовательская — во время киберучений оказались в реальном интернете вместо симуляции Причина — недопонимание с партнёром по тестированию Irregular Системы трёх компаний вскрыли банально:…
METR, которая тестирует передовые модели на опасные способности, говорит: такие случаи пора разбирать по протоколу — с независимыми исследователями, доступом к логам и обучающим данным и вопросом «из какого обучения это выросло»
В её отчёте таких инцидентов уже 44, и они есть у всех крупных лабораторий
В её отчёте таких инцидентов уже 44, и они есть у всех крупных лабораторий
В 2005 году (первая партия YC, компания Loopt) стартапы прятались в небольшом здании в Кембридже, На что в 2005 году уходило три месяца работы всей команды, сейчас код-агент делает за секунды
Стартапы критически важны, чтобы технологическая мощь распределялась широко, а не концентрировалась в нескольких компаниях/моделях
Стартапы выигрывают, когда ландшафт быстро меняется, затраты падают, а циклы укорачиваются — всё это происходит сейчас
Традиционные «барьеры навыков» (наём узких экспертов и т.д.) сильно снизились
Вкус, стиль, агентность и понимание «физики бизнеса» становятся важнее многолетнего опыта
Лучший совет: найдите то, что стало возможным только сейчас, но ещё не очевидно миру
Мир плохо понимает экспоненты
Когда начинали OpenAI (как YC Research), почти все считали идею AGI безумной и опасной
«Мы знали самый большой секрет в мире, а нас называли идиотами»
Отсутствие конкуренции оказалось огромным подарком
Формула: чёткое убеждение + готовность долго быть непонятым + небольшая группа умных людей, которые в это верят
Если все вокруг уже верят в вашу идею — это плохой знак
Найти «своих» важнее, чем кажется
Лучший способ — переехать в кризисный район
Премия за участие в YC сейчас максимальна — разрыв со «вторым местом» вырос
Надёжный способ строить сеть: помощь, оказанная 8–10 лет назад, часто возвращается неожиданным образом
Недавний инцидент (модель вышла из песочницы и атаковала другую компанию) — серьёзный сигнал
Потеря контроля больше не чисто теоретическая
Главная долгосрочная угроза — чрезмерная концентрация власти в одной компании / одной модели
Стартапы — естественный механизм распределения этой власти
Успешный стартап сам по себе уже вклад в решение проблемы концентрации
OpenAI должна мыслить себя скорее как утилита, а не как монополист картины мира
Мировой спрос на inference растёт примерно в 10× в год (по внутренним данным YC — ещё быстрее)
Через 5 лет средний человек может потреблять сотни миллиардов токенов в месяц, а лидеры — квадриллионы
Лучший сценарий через 10 лет: каждый год у людей больше свободы, возможностей и контроля над своим временем + материальное изобилие
Главная дистопия, которой нужно избежать: «вы получите лекарство от рака и богатство, но потеряете свободу, приватность и смысл»
Можно совершать ошибки и терпеть неудачи — технологическая индустрия к этому снисходительна
Сохраняй амбиции, но будь чуть счастливее по дороге и доверяй процессу
В моменте всё кажется невыносимо тяжёлым и пугающим, но в итоге складывается
Сейчас — лучшее время в истории, чтобы начинать максимально амбициозные стартапы
Инструменты дали основателям беспрецедентный рычаг
Не бойтесь выглядеть безумными, ищите своих людей, сохраняйте искренность и созидайте
Стартапы критически важны, чтобы технологическая мощь распределялась широко, а не концентрировалась в нескольких компаниях/моделях
Стартапы выигрывают, когда ландшафт быстро меняется, затраты падают, а циклы укорачиваются — всё это происходит сейчас
Традиционные «барьеры навыков» (наём узких экспертов и т.д.) сильно снизились
Вкус, стиль, агентность и понимание «физики бизнеса» становятся важнее многолетнего опыта
Лучший совет: найдите то, что стало возможным только сейчас, но ещё не очевидно миру
Мир плохо понимает экспоненты
Когда начинали OpenAI (как YC Research), почти все считали идею AGI безумной и опасной
«Мы знали самый большой секрет в мире, а нас называли идиотами»
Отсутствие конкуренции оказалось огромным подарком
Формула: чёткое убеждение + готовность долго быть непонятым + небольшая группа умных людей, которые в это верят
Если все вокруг уже верят в вашу идею — это плохой знак
Найти «своих» важнее, чем кажется
Лучший способ — переехать в кризисный район
Премия за участие в YC сейчас максимальна — разрыв со «вторым местом» вырос
Надёжный способ строить сеть: помощь, оказанная 8–10 лет назад, часто возвращается неожиданным образом
Недавний инцидент (модель вышла из песочницы и атаковала другую компанию) — серьёзный сигнал
Потеря контроля больше не чисто теоретическая
Главная долгосрочная угроза — чрезмерная концентрация власти в одной компании / одной модели
Стартапы — естественный механизм распределения этой власти
Успешный стартап сам по себе уже вклад в решение проблемы концентрации
OpenAI должна мыслить себя скорее как утилита, а не как монополист картины мира
Мировой спрос на inference растёт примерно в 10× в год (по внутренним данным YC — ещё быстрее)
Через 5 лет средний человек может потреблять сотни миллиардов токенов в месяц, а лидеры — квадриллионы
Лучший сценарий через 10 лет: каждый год у людей больше свободы, возможностей и контроля над своим временем + материальное изобилие
Главная дистопия, которой нужно избежать: «вы получите лекарство от рака и богатство, но потеряете свободу, приватность и смысл»
Можно совершать ошибки и терпеть неудачи — технологическая индустрия к этому снисходительна
Сохраняй амбиции, но будь чуть счастливее по дороге и доверяй процессу
В моменте всё кажется невыносимо тяжёлым и пугающим, но в итоге складывается
Сейчас — лучшее время в истории, чтобы начинать максимально амбициозные стартапы
Инструменты дали основателям беспрецедентный рычаг
Не бойтесь выглядеть безумными, ищите своих людей, сохраняйте искренность и созидайте