Генеральный директор Nvidia Дженсен Хуанг объявил о запуске Alpamayo 2 Super — открытой передовой reasoning-модели для автономных транспортных средств.
Alpamayo не просто распознаёт окружающий мир — модель анализирует сложные дорожные ситуации, рассуждает над ними и оценивает возможные действия перед выполнением манёвра.
Она анализирует данные с камер вокруг автомобиля, чтобы понимать контекст, прогнозировать, что произойдёт дальше, и принимать решения о действиях машины.
Это один из главных сдвигов в автономном вождении: переход от простого сбора данных с сенсоров к системам, которые способны интерпретировать окружающий мир и действовать на основе этого понимания.
Модель может стать основой для систем автономного вождения в роботакси, грузовиках, шаттлах, фургонах доставки, тракторах и других мобильных роботах.
Alpamayo 2 Super выпускается для коммерческого использования под лицензией OpenMDW-1.1, чтобы команды могли изучать модель, дообучать её и разворачивать в собственных системах.
По словам Дженсенона - следующая волна ИИ это робототехника, и автономные транспортные средства станут одним из ключевых направлений её развития.✋
Alpamayo не просто распознаёт окружающий мир — модель анализирует сложные дорожные ситуации, рассуждает над ними и оценивает возможные действия перед выполнением манёвра.
Она анализирует данные с камер вокруг автомобиля, чтобы понимать контекст, прогнозировать, что произойдёт дальше, и принимать решения о действиях машины.
Это один из главных сдвигов в автономном вождении: переход от простого сбора данных с сенсоров к системам, которые способны интерпретировать окружающий мир и действовать на основе этого понимания.
Модель может стать основой для систем автономного вождения в роботакси, грузовиках, шаттлах, фургонах доставки, тракторах и других мобильных роботах.
Alpamayo 2 Super выпускается для коммерческого использования под лицензией OpenMDW-1.1, чтобы команды могли изучать модель, дообучать её и разворачивать в собственных системах.
По словам Дженсенона - следующая волна ИИ это робототехника, и автономные транспортные средства станут одним из ключевых направлений её развития.
Please open Telegram to view this post
VIEW IN TELEGRAM
Google DeepMind выпустила книгу How to Scale Your Model.
В ней разбирается, как эффективно масштабировать и запускать модели в условиях ограниченных вычислительных ресурсов — например, в автомобильных системах, где требования моделей постоянно растут, а доступные ресурсы ограничены.
Такие сценарии требуют глубокого понимания закономерностей масштабирования, и именно этому посвящена книга.
https://jax-ml.github.io/scaling-book
В ней разбирается, как эффективно масштабировать и запускать модели в условиях ограниченных вычислительных ресурсов — например, в автомобильных системах, где требования моделей постоянно растут, а доступные ресурсы ограничены.
Такие сценарии требуют глубокого понимания закономерностей масштабирования, и именно этому посвящена книга.
https://jax-ml.github.io/scaling-book
Exa теперь входит в число крупнейших поисковых индексов в мире.
Для тех, кто не в курсе:Exa — это поисковая система и API, созданные специально для ИИ-агентов.
Несмотря на то, что Claude, Codex и Gemini уже предлагают встроенный веб-поиск, многие пока не используют подключение агентов к полноценным поисковым системам.
Некоторые всё ещё используют подходы, где агенту приходится самостоятельно управлять браузером, что часто менее эффективно. Специализированные поисковые API вроде Exa или Parallel позволяют агентам быстрее находить и обрабатывать нужную информацию.
Сейчас Exa индексирует 80 млрд страниц и отслеживает 1,4 трлн URL. Компания рассчитывает выйти на масштаб Google к началу 2027 года.
По оценке Exa:
> Google — около 1 трлн страниц в индексе;
> Bing — около 500 млрд;
> Yandex — около 200 млрд;
> Brave — примерно 40 млрд.
Большая часть веба — низкокачественный контент, который может ухудшать ответы ИИ. Поэтому Exa сканирует значительно больше данных, чем отдаёт в результатах поиска, а затем использует ИИ для фильтрации шума.
По пиковому QPS оценки выглядят так:
> Bing — около 30 тыс. запросов/с;
> Google — около 500 тыс. запросов/с.
Агентный трафик сильно отличается от обычного поиска: один запрос может запускать десятки параллельных подзапросов (fan-out), а нагрузка может резко возрастать из-за массового запуска агентов. Поэтому Exa уже готовится к инфраструктуре уровня Bing.
По их прогнозу, через 2 года ИИ-агенты будут выполнять поиск с частотой в несколько миллионов запросов в секунду. Для этого потребуется инфраструктура, которая будет значительно больше существующих поисковых индексов.
Для тех, кто не в курсе:
Несмотря на то, что Claude, Codex и Gemini уже предлагают встроенный веб-поиск, многие пока не используют подключение агентов к полноценным поисковым системам.
Некоторые всё ещё используют подходы, где агенту приходится самостоятельно управлять браузером, что часто менее эффективно. Специализированные поисковые API вроде Exa или Parallel позволяют агентам быстрее находить и обрабатывать нужную информацию.
Сейчас Exa индексирует 80 млрд страниц и отслеживает 1,4 трлн URL. Компания рассчитывает выйти на масштаб Google к началу 2027 года.
По оценке Exa:
> Google — около 1 трлн страниц в индексе;
> Bing — около 500 млрд;
> Yandex — около 200 млрд;
> Brave — примерно 40 млрд.
Большая часть веба — низкокачественный контент, который может ухудшать ответы ИИ. Поэтому Exa сканирует значительно больше данных, чем отдаёт в результатах поиска, а затем использует ИИ для фильтрации шума.
По пиковому QPS оценки выглядят так:
> Bing — около 30 тыс. запросов/с;
> Google — около 500 тыс. запросов/с.
Агентный трафик сильно отличается от обычного поиска: один запрос может запускать десятки параллельных подзапросов (fan-out), а нагрузка может резко возрастать из-за массового запуска агентов. Поэтому Exa уже готовится к инфраструктуре уровня Bing.
По их прогнозу, через 2 года ИИ-агенты будут выполнять поиск с частотой в несколько миллионов запросов в секунду. Для этого потребуется инфраструктура, которая будет значительно больше существующих поисковых индексов.
Вычисления для ИИ скоро отправятся на орбиту.
NVIDIA и SpaceX официально объединяются для создания космического дата-центра.
В рамках проекта спутник Starmind AI1 получит вычислительный модуль на базе NVIDIA Vera Rubin NVL72.
Он будет использовать солнечную энергию для работы ИИ-инфраструктуры на орбите, обеспечивая высокопроизводительные вычисления с передачей результатов на Землю.
Эпоха космических дата-центров скоро начнётся.🚀
NVIDIA и SpaceX официально объединяются для создания космического дата-центра.
В рамках проекта спутник Starmind AI1 получит вычислительный модуль на базе NVIDIA Vera Rubin NVL72.
Он будет использовать солнечную энергию для работы ИИ-инфраструктуры на орбите, обеспечивая высокопроизводительные вычисления с передачей результатов на Землю.
Эпоха космических дата-центров скоро начнётся.
Please open Telegram to view this post
VIEW IN TELEGRAM
MIT 6.824 (распределённые системы) — один из лучших бесплатных инженерных курсов в интернете.
Вместо чистой теории весь курс построен вокруг чтения и разбора фундаментальных работ из реальных систем:
GFS (Google File System) — архитектура с одним главным узлом, распределение чанков и работа с eventual consistency при больших нагрузках на добавление данных.
Raft — выбор лидера, репликация журнала и инварианты безопасности. Алгоритм разбирается намного доступнее, чем Paxos.
ZooKeeper — координация без блокировок, системы с преобладанием чтения, линейно согласованные записи и eventual consistency для чтений через watches.
Spanner — глобально распределённые транзакции, двухфазный commit поверх Paxos и использование TrueTime (атомные часы + GPS) для обеспечения внешней согласованности.
Также в курсе разбираются MapReduce, Spark, Frangipani, Memcached от Facebook и другие системы.
Если хотите выйти за пределы поверхностного system design и понять, как внутри устроены реальные распределённые хранилища и системы консенсуса, этот курс — настоящий клад.
Плейлист: https://youtube.com/playlist?list=PLrw6a1wE39_tb2fErI4-WkMbsvGQk9_UB
Вместо чистой теории весь курс построен вокруг чтения и разбора фундаментальных работ из реальных систем:
GFS (Google File System) — архитектура с одним главным узлом, распределение чанков и работа с eventual consistency при больших нагрузках на добавление данных.
Raft — выбор лидера, репликация журнала и инварианты безопасности. Алгоритм разбирается намного доступнее, чем Paxos.
ZooKeeper — координация без блокировок, системы с преобладанием чтения, линейно согласованные записи и eventual consistency для чтений через watches.
Spanner — глобально распределённые транзакции, двухфазный commit поверх Paxos и использование TrueTime (атомные часы + GPS) для обеспечения внешней согласованности.
Также в курсе разбираются MapReduce, Spark, Frangipani, Memcached от Facebook и другие системы.
Если хотите выйти за пределы поверхностного system design и понять, как внутри устроены реальные распределённые хранилища и системы консенсуса, этот курс — настоящий клад.
Плейлист: https://youtube.com/playlist?list=PLrw6a1wE39_tb2fErI4-WkMbsvGQk9_UB
«Визуальный разбор квантования» от Maarten Grootendorst — один из лучших разборов этой темы, которые я видел.
https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-quantization
По мере того как инференс переходит на более ограниченные устройства (например, автомобили и edge-устройства), понимание компромисса между точностью и потреблением памяти при квантовании становится обязательным.
https://newsletter.maartengrootendorst.com/p/a-visual-guide-to-quantization
По мере того как инференс переходит на более ограниченные устройства (например, автомобили и edge-устройства), понимание компромисса между точностью и потреблением памяти при квантовании становится обязательным.
Стэнфордский семинар об архитектуре NVIDIA H100.
Подробный разбор потоковых мультипроцессоров Hopper, Transformer Engine, межсоединений NVLink и подходов к оптимизации HPC- и ИИ-нагрузок.
https://youtu.be/MC223HlPdK0
Подробный разбор потоковых мультипроцессоров Hopper, Transformer Engine, межсоединений NVLink и подходов к оптимизации HPC- и ИИ-нагрузок.
https://youtu.be/MC223HlPdK0
«Introduction to Machine Learning» — ещё один бесплатный учебник по машинному обучению объёмом около 600 страниц, который делает акцент на глубоком математическом понимании предмета.
Книга начинается с математической базы, необходимой для дальнейшего изучения: линейной алгебры, математического анализа, теории вероятностей, матричного анализа и методов оптимизации. Затем разбираются основные алгоритмы обучения с учителем: линейная и логистическая регрессия, метод ближайших соседей, деревья решений, случайные леса, бустинг и нейронные сети.
Значительная часть книги посвящена вероятностным и генеративным моделям. Рассматриваются методы Монте-Карло, графические модели, байесовские сети, вариационные методы, нормализующие потоки, вариационные автокодировщики (VAE) и генеративно-состязательные сети (GAN).
В заключительных главах обсуждаются кластеризация, метод главных компонент (PCA), обучение на многообразиях и теоретические оценки способности моделей к обобщению.
На мой взгляд, это отличный справочник для тех, кто хочет получить широкое представление о машинном обучении и разобраться в математике, лежащей в основе ключевых методов, а не воспринимать их как «чёрный ящик».
https://arxiv.org/pdf/2409.02668
Книга начинается с математической базы, необходимой для дальнейшего изучения: линейной алгебры, математического анализа, теории вероятностей, матричного анализа и методов оптимизации. Затем разбираются основные алгоритмы обучения с учителем: линейная и логистическая регрессия, метод ближайших соседей, деревья решений, случайные леса, бустинг и нейронные сети.
Значительная часть книги посвящена вероятностным и генеративным моделям. Рассматриваются методы Монте-Карло, графические модели, байесовские сети, вариационные методы, нормализующие потоки, вариационные автокодировщики (VAE) и генеративно-состязательные сети (GAN).
В заключительных главах обсуждаются кластеризация, метод главных компонент (PCA), обучение на многообразиях и теоретические оценки способности моделей к обобщению.
На мой взгляд, это отличный справочник для тех, кто хочет получить широкое представление о машинном обучении и разобраться в математике, лежащей в основе ключевых методов, а не воспринимать их как «чёрный ящик».
https://arxiv.org/pdf/2409.02668
"Integration Strategies" — это материал на Algebrica, посвящённый основным методам вычисления интегралов: от самых простых примеров до более сложных задач.
Интегрирование часто становится механическим процессом после того, как выбран правильный метод, но сам выбор метода обычно бывает непростым. В отличие от дифференцирования, интегрирование чаще требует стратегии: нужно распознать структуру подынтегрального выражения и преобразовать его в более простой вид, а не усложнять задачу применением неподходящего подхода.
На странице собраны основные стратегии интегрирования вместе со ссылками на теоретические основы. Материал может использоваться как учебное пособие и как быстрый справочник при решении задач.
Если вы изучаете интегральное исчисление или просто повторяете тему, возможно, этот материал будет полезен.
https://algebrica.org/integration-strategies/
Интегрирование часто становится механическим процессом после того, как выбран правильный метод, но сам выбор метода обычно бывает непростым. В отличие от дифференцирования, интегрирование чаще требует стратегии: нужно распознать структуру подынтегрального выражения и преобразовать его в более простой вид, а не усложнять задачу применением неподходящего подхода.
На странице собраны основные стратегии интегрирования вместе со ссылками на теоретические основы. Материал может использоваться как учебное пособие и как быстрый справочник при решении задач.
Если вы изучаете интегральное исчисление или просто повторяете тему, возможно, этот материал будет полезен.
https://algebrica.org/integration-strategies/
Algorithms Джеффа Эриксона — одна из лучших книг по алгоритмам.
Иллюстрации в ней просто отличные. Очень рекомендую.
https://jeffe.cs.illinois.edu/teaching/algorithms/
Иллюстрации в ней просто отличные. Очень рекомендую.
https://jeffe.cs.illinois.edu/teaching/algorithms/
Минимальная реализация архитектуры Kimi K3, сделанная специально для того, чтобы её можно было нормально прочитать, запустить на CPU или в Google Colab и сверять код с оригинальным техническим отчётом.
KDA, Gated MLA, Attention Residuals и Stable LatentMoE здесь сохранены, но некоторые части упрощены ради читаемости.
KDA, Gated MLA, Attention Residuals и Stable LatentMoE здесь сохранены, но некоторые части упрощены ради читаемости.
Event loop — одна из базовых концепций асинхронного программирования. И поскольку ИИ-агенты по своей природе во многом работают асинхронно, важно понимать, что происходит внутри.
Материал в основном посвящён libuv, но многие принципы там общие и с ними точно стоит быть знакомым.
https://docs.libuv.org/en/v1.x/guide.html
Материал в основном посвящён libuv, но многие принципы там общие и с ними точно стоит быть знакомым.
https://docs.libuv.org/en/v1.x/guide.html
«The Simple Mathematics of Large Language Models» — короткая бесплатная статья для тех, кто хочет разобраться в математике современных LLM и таких систем, как ChatGPT и Claude.
Раньше я уже делился несколькими материалами, которые подробно разбирают математику этих систем, но обычно они довольно объёмные. Здесь всего около 20 страниц, поэтому это хороший вариант, если нужен компактный вводный материал без необходимости сразу браться за большой учебник.
В статье разбираются представления токенов, контекст, механизм внимания как обучаемое взвешенное усреднение, проекции и билинейные формы, многоголовое внимание, нормализация, позиционная информация, softmax, метод максимального правдоподобия, кросс-энтропия и градиентный спуск.
Вместе эти темы дают компактное математическое представление о том, как работает языковая модель.
https://www.crc.business-school.ed.ac.uk/sites/crc/files/2026-02/Mathematics_of_LLMs_2026.pdf
Сохраните в закладки — может пригодиться как быстрый справочник.
Для тех, кто хочет погрузиться в тему на более продвинутом уровне, также рекомендую этот материал:
https://arxiv.org/pdf/2501.09223
Раньше я уже делился несколькими материалами, которые подробно разбирают математику этих систем, но обычно они довольно объёмные. Здесь всего около 20 страниц, поэтому это хороший вариант, если нужен компактный вводный материал без необходимости сразу браться за большой учебник.
В статье разбираются представления токенов, контекст, механизм внимания как обучаемое взвешенное усреднение, проекции и билинейные формы, многоголовое внимание, нормализация, позиционная информация, softmax, метод максимального правдоподобия, кросс-энтропия и градиентный спуск.
Вместе эти темы дают компактное математическое представление о том, как работает языковая модель.
https://www.crc.business-school.ed.ac.uk/sites/crc/files/2026-02/Mathematics_of_LLMs_2026.pdf
Сохраните в закладки — может пригодиться как быстрый справочник.
Для тех, кто хочет погрузиться в тему на более продвинутом уровне, также рекомендую этот материал:
https://arxiv.org/pdf/2501.09223
«A Recipe for Training Neural Networks» от Андрея Карпати.
Материал уже не новый, но набор тем в нём до сих пор ощущается очень актуальным.
Это практическое руководство по обучению нейросетей: как выстраивать процесс, находить ошибки, отлаживать обучение и постепенно улучшать модель без хаотичных экспериментов.
https://karpathy.github.io/2019/04/25/recipe/
Материал уже не новый, но набор тем в нём до сих пор ощущается очень актуальным.
Это практическое руководство по обучению нейросетей: как выстраивать процесс, находить ошибки, отлаживать обучение и постепенно улучшать модель без хаотичных экспериментов.
https://karpathy.github.io/2019/04/25/recipe/
Новое исследование Meta.
Сегодня агентные harness-системы всё ещё в основном собираются вручную.
Из-за этого сложно настраивать устойчивые harness-системы для длинных задач.
В новой работе агенты офлайн обучаются политике работы с harness, а затем во время выполнения задачи используют её, чтобы создавать и обновлять внешнее состояние harness.
EvoHarness-RL обучает именно такую политику. В качестве состояния harness агенту доступны Belief, Progress и Experience, с которыми политика может работать.
Сначала supervised fine-tuning обучает пространство действий harness, затем cost-aware GRPO учится, когда во время длинного запуска нужно читать состояние, обновлять его и объединять накопленную информацию.
Qwen3-8B достигает 96,9% на ALFWorld.
В ходе обучения проявляются два эффекта.
Harness annealing. Повторяющиеся паттерны использования harness постепенно встраиваются в политику самой модели, и агент переходит от частых обращений к более выборочному доступу.
Harness evolution. Обновления прогресса и консолидация опыта сжимают рабочее пространство в компактное состояние, адаптированное под текущую задачу.
Работа показывает, что агентам на длинных задачах больше даёт обучаемая политика координации, чем просто более мощные инструменты или больше памяти.
Статья:
https://arxiv.org/abs/2608.05446
Сегодня агентные harness-системы всё ещё в основном собираются вручную.
Из-за этого сложно настраивать устойчивые harness-системы для длинных задач.
В новой работе агенты офлайн обучаются политике работы с harness, а затем во время выполнения задачи используют её, чтобы создавать и обновлять внешнее состояние harness.
EvoHarness-RL обучает именно такую политику. В качестве состояния harness агенту доступны Belief, Progress и Experience, с которыми политика может работать.
Сначала supervised fine-tuning обучает пространство действий harness, затем cost-aware GRPO учится, когда во время длинного запуска нужно читать состояние, обновлять его и объединять накопленную информацию.
Qwen3-8B достигает 96,9% на ALFWorld.
В ходе обучения проявляются два эффекта.
Harness annealing. Повторяющиеся паттерны использования harness постепенно встраиваются в политику самой модели, и агент переходит от частых обращений к более выборочному доступу.
Harness evolution. Обновления прогресса и консолидация опыта сжимают рабочее пространство в компактное состояние, адаптированное под текущую задачу.
Работа показывает, что агентам на длинных задачах больше даёт обучаемая политика координации, чем просто более мощные инструменты или больше памяти.
Статья:
https://arxiv.org/abs/2608.05446
Из архивов — курс Machine Learning Hardware and Systems 2022 года от профессора Мохамеда Абдельфаттаха из Корнеллского университета.
https://youtube.com/playlist?list=PL0mFAhrXqy9CuopJhAB8GVu_Oy7J0ery6
https://youtube.com/playlist?list=PL0mFAhrXqy9CuopJhAB8GVu_Oy7J0ery6