Anthropic нашёл способ научить ИИ-модели следовать ценностям, а не декларировать их

Команда предлагает решение под названием Model Spec Midtraining (MSM) - дополнительная фаза обучения, которая вставляется между преобучением и файнтюнингом.

Во время MSM модель обучается на синтетических документах, которые обсуждают содержание Model Spec, то есть её ценности, логику, философию. Не на примерах поведения, а именно на объяснениях: что модель должна делать и почему.

MSM описывается не просто как техника обучения, но как инструмент Model Spec science - эмпирического изучения того, какие спецификации лучше работают.

Тем самым Anthropic показывает, что надо задаться вопросом: насколько хорошо сформулировано то, чему мы учим модель? А не сколько данных для обучения.

6 примеров создания AI native компании

Мы заметили, что за последние годы выражение «цифровая трансформация» уже редко используется, то есть это уже не модно вроде как стало.

А в обиход вошел свежий термин «AI-native компания». Все только говорят об этом.

Но никто не говорит: как это? как ее создать? У кого уже есть реально работающая ИИ- компания? Сколько денег нужно на это? Как выстроить юридическую сторону? и тд.

Вчера вышли релизы от Anthropic, OpenAI, что они создают свои сервисные по внедрению ИИ.

Мы решили попробовать изучить эту тему глубоко и сделать свой плейбук, который бы рассказал, как создать AI-культуру, а не покупать коробку с готовым решением?
У кого это уже реально работает? Потому что все автоматизировать - это одно, но культура - это иное.

Для начала мы изучили 6 реальных плейбуков от финтех-стартапа до венчурного фонда, от продакт-менеджера до вендора платформы.

Также реальную экономику ИИ-лабораторий.

Получилась серия из 3-х частей:

1. разбор 6 разных подходов по созданию AI-native компании. Сопоставили это с экономикой ИИ-лабораторий, так как это неразрывно связано.

2. как AI-native компания строится на практике, без хайпа

3. как принимать решения, когда неопределённость встроена в природу самого вопроса.

Первая часть уже на Patreon, самая полная на уровне подписки Star.

Anthropic выпустили готовые шаблоны ИИ-агентов для финуслуг.

Они готовы к использованию сразу, но главная фишка в кастомизации под процессы и шаблоны каждой компании.

Что умеют эти ИИ-агенты?

1. подготовить презентации и питч деки для инвесторов, клиентов, сделок

2. проведение оценок компаний, мультипликаторов и т.д.

3. закрытие месяца в бухгалтерии и тд.

Как ими пользоваться?

• Устанавливаете их как плагины в инструментах Cowork и Claude Code.

• Или запускаете в продакшене как Managed Agents по готовым cookbooks.

• Каждый агент уже содержит всё необходимое: коннекторы к нужным системам, навыки и даже субагентов.

Вы должны это прочитать. Свежие данные от Anthropic о рынке

Сегодня прошёл закрытый ивент Anthropic «Briefing: Financial Services».

На этом мероприятии был диалог между Дарио Амадеем и CEO JPMorgan. Они обсуждали роль и значение ИИ для рынков, рабочей силы и глобальной экономики.

Вот, что наговорил Дарио:

1. За 1-й квартал этого года выручка его компании выросла в 80 раз в пересчёте на год

2. По его словам, ряд SaaS-компаний могут не выжить на фоне AI, даже если рынок ПО в целом не схлопнется.

Это вполне согласуется с картиной, которую уже рисует рынок: Atlassian, Salesforce и Workday теряют капитализацию, пока ИИ замещает их адресный рынок.

3. Амодеи считает, что Anthropic прямо сейчас - самая мощная ИИ-лаборатория в мире по возможностям моделей. OpenAI, Google DeepMind, Meta (запрещена в РФ) все отстают на 1-3 месяца.

4. В Anthropic работает ~3500 чел.

5. Китайские модели скорее всего отстают на 6–12 месяцев.

Глава продукта Anthropic для финансовых услуг Николас Лин заявил: «Мы хотим сократить цикл развёртывания с месяцев до дней».

Это гениально: 1-й оператор мобильной связи для ИИ-агентов, а не для людей.

Saperly только что это сделали. Теперь агенту дают свой собственный номер телефона, а там уже голос, SMS, маршрутизация.

Интересно рынок движется.

Присоединяйтесь к нам на Patreon, чтобы узнать все об экономике ИИ-агентов, а также начать разбираться в AI native компаниях.

Очень сильные фонды и люди вложились сейчас в нового игрока ИИ-инфраструктуры - RadixArk

RadixArk хотят стать удобным облаком + открытым стеком для серьёзных ИИ-команд, которые хотят сосредоточиться на моделях, а не на инфраструктуре.

Команда строит открытый инфраструктурный стек, который позволяет:

• Быстро и эффективно запускать модели в продакшене
• Проводить пост трейнинг и RL в большом масштабе
• Не пересобирать одно и то же с нуля каждый раз

Проект вырос из 2-х популярных open-source проектов:

1. SGLang - одного из лучших инференс-движков, обрабатывающего триллионы токенов в день у Google, Microsoft, xAI и др.

2. Miles - фреймворка для крупномасштабного RL.

RadixArk привлекли $100 млн в Seed-раунде при оценке в $400 млн. В раунде участвовали:
• NVentures
• AMD
• MediaTek
• Spark Capital, Accel, Walden Catalyst, HOFCapital и другие

• Игорь Бабушкин, экс-xAI, Джон Шульман, сооснователь OpenAI, Soumith Chintala, PyTorch и многие другие известные фигуры из мира ИИ.

Быстрые деньги на манипуляции с дефицитом ИИ-чипов от BlackRock

СЕО самой богатой инвесткомпании мира (10+ трлн под управлением) BlackRock Ларри Финк заявил, что мировой спрос на вычислительные мощности настолько высок, что в будущем трейдеры смогут торговать фьючерсами на них.

Финк указал на несколько узких мест: нехватку чипов, памяти и электроэнергии, которые тормозят расширение инфраструктуры несмотря на растущий спрос.

Финк считает, что фьючерсный рынок на вычисления позволит компаниям хеджировать риски роста стоимости вычислительных ресурсов.

Иными словами compute превращается в коммодити.

Надо понимать, что Финк анонсирует новый класс активов, в который BlackRock уже инвестировал десятки миллиардов $. Это конфликт интересов в чистом виде. Говорить о дефиците - значит поднять стоимость своих позиций.

Nvidia контролирует предложение чипов. Microsoft, Google, Amazon контролируют облачные мощности - олигополия, которая может искусственно поддерживать дефицит, как ОПЕК с нефтью.
Фьючерсы на compute выгодны финансовому сектору, а не технологическому.

И тут возникают вопросы, а кто контролирует ценообразование на этом будущем рынке? и окажется ли новый фьючерс инструментом хеджирования для компаний/ инструментом извлечения ренты для финансовых посредников? ​​​​​​​​​

Вчера ИИ-агентам дали мобильную связь, а сегодня OpenClaw подключил их ко всей цифровой жизни человека

Питер Штайнбергер, создатель OpenClaw, собрал вместе с Codex набор CLI-инструментов для управления: WhatsApp, архивом X, GitHub, Discord, Spotify, iMessage, голос через ElevenLabs и тд.

Каждый инструмент - отдельный скилл, который агент может установить и использовать.

А пока Питер строил агентам руки, Saperly пошли дальше и дали любому агенту настоящий телефонный номер.

Тут та же логика, что у Питера, только теперь не скилл поверх чужого мессенджера, а собственная телеком-инфраструктура, построенная специально для агентов.

Агент больше не арендует чужой канал связи, у него есть свой.

Экономика ИИ-агентов собирается не сверху вниз и не одной платформой.
Присоединяйтесь к нам на Patreon, чтобы узнать все об экономике ИИ-агентов, а также начать разбираться в AI native компаниях.

Google DeepMind вошли в индустрию игр - создатели EVE стали партнером Google DeepMind

Можно сказать, что это была давняя цель Демиса Хассабиса.

EVE Online - не просто игра, это единственный в своём роде живой космический мир, который существует уже 23 года на одном сервере.

Эта игра - отличная песочница с живой экономикой, логистикой, конкуренцией и взаимодействием тысяч игроков (в случае экспериментов Google DeepMind с ИИ- агентами).

Напомним, у Google есть модели Genie.

Google будет использовать контролируемые, офлайн-копии вселенной EVE для обучения своих алгоритмов.

Также они будут изучать поведение ИИ в сложных, динамичных системах.

Задача DeepMind - понять, как ИИ учится принимать решения в условиях, где:

1. постоянно всё меняется (рынки, баланс сил, флоты);

2. есть риски, потери и необходимость строить долгосрочные стратегии, как в реальном мире.

Результаты этого партнёрства, вероятно, не станут функцией в EVE Online. Вместо этого они пополнят базу знаний DeepMind о том, как разрабатывать универсальный ИИ, способный действовать в открытых, непредсказуемых средах.

А это пригодится, где угодно, начиная от робототехники до управления сложными системами.

Вот это поворот! Anthropic арендует у SpaceX самый большой ЦОД и разработает вычислительные мощности для ИИ в космосе вместе с Маском

Только что Anthropic объявили , что получает весь дата-центр Colossus 1: 300+ мегаватт, 220К NVIDIA GPU в течение месяца.

Это значит для пользователей Claude удвоение лимитов у Pro/Max/Team, отмена ограничений в пиковые часы и существенный рост API rate limits для Opus.

Но что важно - Colossus 1 - это инфраструктура xAI, которую SpaceX поглотил в феврале за $1.25 трлн. Туда же несколько недель назад зашёл Cursor — получить GPU для обучения своей модели Composer 2.5.

Маск занял позицию лэндлорда чиповой гонки. Он сдаёт одну и ту же инфраструктуру конкурентам, пока через Cursor качает данные и инсайты для собственных моделей.

Но самое главное - Anthropic выразил интерес к разработке вычислительных мощностей для ИИ в космосе совместно со SpaceX.

Следующий фронт гонки ИИ в космосе.

Инфраструктура стала новой нефтью. А тот, кто её контролирует, не обязательно тот, кто выигрывает гонку моделей.

Маск говорит о том, почему сдает свои мощности Anthropic.

Кроме того, что он окупает свои вложения в инфраструктуру, он ещё благодаря коллаборации с Anthropic получит ещё больше денег на IPO SpaceX.