+ более аккуратная хронология

Появилось официальное подтверждение со стороны OpenAI "While unlikely, we cannot rule out that de-identified data derived from their usage of our products helped improve our models⁠.". Тристан Бакмастер и Левент Альпёге утверждают, что они отключали опцию использования их данных для обучения модели.
Это означает, что если в вашей компании используются внешние сервисы ИИ, необходимо переоценить риск утечки всех идей и планов в части резкого повышения такой вероятности и повторной переоценки способов обработки данного риска.

Рекомендации по управлению риском ИИ от правительства Великобритании.

Интересны адаптированные опросники и ссылки на актуальные для ЕС и Великобритании нормативные акты.

IonQ, разработчик квантовых компьютеров, утверждает, что:
1. Им удалось существенно уточнить алгоритм Шора применительно к криптонабору secp256k1.
2. Существенные прогресс в построении квантовых компьютеров будет достигнут к 2028 году.

secp256k1 — это специальная эллиптическая кривая, которая используется в блокчейнах Bitcoin и Ethereum для создания цифровых подписей и защиты кошельков.

Т.е. прогресс в области квантовых компьютеров может угрожать и заметной части рынка криптовалют и важно запланировать переход на квантовоустойчивые алгоритмы при появлении первых сообщений от бирж о переходе на BIP-360, BIP-361, P2MR или другие протоколы. Если переход затянется, то это может в принципе привести к резкому обесцениванию заметной части криптовалютного рынка. Например по некоторым оценкам потенциально уязвимо сейчас до 30% выпущенных биткойнов.

Из того, что может быть рассмотрено сегодня - явно разделить имеющиеся BTC на адреса с опубликованным открытым ключом (например, P2TR (Taproot)) и без такой публикации.

Американский орган власти CISA обновил свое руководство по борьбе с внутренним нарушителем, включая раздел по кибербезопасности и подраздел по ИИ. Документ скорее про общие принципы и подходы, а не конкретные решения. Из неоднозначного - документ не упоминает модели ИИ и агентов в качестве потенциальных внутренних нарушителей, а только как инструменты человека.

Обновился бенч по преступлениям ИИ моделей. Если вынести за скобку юмористическую часть, то его нужно учитывать при оценке риска блокировки платформы.
Если компания потребляет услугу доступа к ИИ платформе, которая последовательно совершает преступления и публично это признает, как минимум соучастие, нельзя считать риск заметного ограничения действий такой компании ненулевым.

Вот сентябрьский отчет, где явно указано использование сервисов Anthropic для содействия созданию:
1. Биологического оружия.
2. Кибероружия.
3. "Обычного" вооружения.
4. Нарушения тайны связи и оборота персональных данных.

Если по итогам этого отчета будет инициировано расследование, а по составу потенциальных нарушений нельзя даже исключать формат международного трибунала, возможность Anthropic предоставлять сервисы на прежних условиях станет непросто спрогнозировать.
Anthropic отчетом фактически признается в своей неспособности реализовать соблюдение сразу нескольких ключевых норм (экспортный контроль, биологическое оружие).

Claude и чудеса бухучета

Anthropic сообщила инвесторам, что второй квартал подряд закончит с положительной скорректированной операционной прибылью. Новость появилась на фоне приближения IPO на Nasdaq, где разработчика Claude могут оценить более чем в $2 трлн. Ключевое слово здесь — «скорректированная»: из показателя вычли кучу всего (в том числе вознаграждение сотрудников акциями) и это достаточно творческий подход к бухучету.

Те же акции и опционы — заметная часть пакета, которым Anthropic удерживает руководителей, исследователей и инженеров в борьбе за кадры с OpenAI и Google. Живых денег компания при этом не тратит, зато выпускает новые акции, чем и размывает доли нынешних владельцев. Без доли все эти светлые умы работать не будут. Конечно, этот расход нетрудно вынести за рамки adjusted operating income, но платят за него всё равно акционеры.

Ещё эффектнее смотрится заявленная валовая маржа выше 80%. По данным Financial Times, Anthropic считает её ДО выплат партнёрам, которые распространяют Claude, включая Amazon, и ДО затрат на обучение моделей. С таким же успехом Ford мог бы отчитаться о высокой марже автомобильного бизнеса, заранее исключив из неё расходы на сборку машин. Ну или мы - о высокой марже нашего тг канала без учета выплат авторам, так как, вообще-то, обучение новых поколений Claude требует колоссальных вычислительных мощностей, и именно на нём держится технологическое преимущество компании. То есть исключить эти расходы - в принципе неадекватный подход к оценке.

Стоит отметить, правда, что выручка при этом стремительно растёт. Во втором квартале она выросла в 14 раз год к году, до $11,5 млрд, а к концу июля годовой темп достиг $65 млрд против $9 млрд в конце прошлого года. В SemiAnalysis ждут около $120 млрд к концу года. При такой динамике Anthropic вполне может выйти в прибыль и без бухгалтерской косметики.

Кстати об IPO - проспект всем финансовым миром ждали ещё на прошлой неделе, но компания сначала показала документы узкому кругу акционеров и решила снять их вопросы до публикации. Вангуем, что что-то там не сходится, и можно понять почему.

Сама оценка в $2 трлн держится на длинной цепочке допущений. Допустим, мы верим в неё и заходим на котлету. Дивидендов Anthropic не платит, так что заработать можно только на росте акций — ну хотя бы 20% в год, а большинство ждёт заметно больше. Но акции дорожают не сами по себе: за ними должны стоять деньги, которые приносит бизнес. Наши 20% на $2 трлн — это $400 млрд в год свободного денежного потока, то есть того, что остаётся у компании после всех расходов. При долгосрочной марже в 25% такие $400 млрд составляют лишь четверть оборота, то есть продавать Anthropic придётся на $1,6 трлн в год против нынешних $65 млрд. И не однажды, а постоянно и с ростом.

… И то же инвесторы ждут от OpenAI, Google и остальных, то есть мы говорим о свыше $10 трлн годовой выручки и постоянном непрерывном ее росте. И это при условии, что мы считаем, будто конкуренция не давит на маржу, технологии стоят на месте, локальные модели так и остаются нишей, а платную подписку рано или поздно оформляет каждый житель планеты и уже никогда не отменяет. Если немного посидеть и подумать, невольно поднимается бровь.

Особенно смешно, что на той неделе Дарио Амодеи призвал отрасль притормозить с выпуском новых моделей. Якобы из-за скайнета и смерти человечества, но вообще для Anthropic растянутый цикл означал бы меньше трат на обучение Claude и больше времени, чтобы зарабатывать на уже готовой модели. Ровно к тому же призывают остальные игроки, которые ровно так же выиграли бы от замедления темпов. Учитывая, что OpenAI отменил IPO в этом году, мы бы предположили, что веселый бухучет начал нервировать инвесторов.