Кстати, OpenAI заявили, что не претендуют на тот самый миллион долларов за решение задачи от Clay Institute

Им хватит и того, что они заработают после этой новости на IPO 🗿

Если у Anthropic где-нибудь не припрятано доказательство гипотезы Римана, то press F

Что известно про внутреннюю модель, которая решила миллениум:

– На данный момент ее обучение продолжается, то есть качество еще будет расти.

– Сказано, что она значительно превосходит Astra.

– Единственный график, относящийся к модели, из статьи: по оси X test-time compute в логарифмической шкале, ось Y – доля решенных открытых задач. Получается, что при том же бюджете модель решает примерно в 3 раза больше задач, чем Astra.

🗿 🗿 🗿

Заряд оптимизма с утра заказывали? 🗿

Исследователь, специализировавшийся на предобучении LLM и обработке данных, ушел из Anthropic, обвинив ИИ-компании в безответственности

Джейкоб Коксон последние три года занимался претрейном в OpenAI и Anthropic (у них он значился как core researcher). Сегодня ночью он объявил об увольнении и написал в X целый тред о том, что компании, по его мнению, безответственно гонятся за самосовершенствующимся сверхинтеллектом, забывая про безопасность. Он назвал это «игрой с человеческими жизнями».

По мнению Коксона, скоро появятся сверхчеловеческие системы, способные взламывать что угодно, мгновенно совершать революции в любой области и накапливать реальную власть и ресурсы.

При этом он утверждает, что люди, разрабатывающие ИИ, тоже искренне в это верят. Как и в то, что технология может убить всех к концу десятилетия. По его словам, такие разгоны – не маркетинговый трюк, а наоборот. Якобы руководители смягчают публичные формулировки, но в частных разговорах выражают настоящий страх.

На вопрос "Но почему же тогда они продолжают?" Коксон отвечает, что в OpenAI многие не осознали масштаб цивилизационных ставок, а в Anthropic ставки понимают хорошо, но компания заперта в гонке: там героически считают, что раз другие не будут действовать ответственно, придется делать это самим, несмотря на риск. В итоге прогресс продолжается – из-за гордыни и авантюризма.

Джейкоб также обратился к другим исследователям и призвал их подумать, готовы ли они и дальше молча запускать сверхразумные модели без строгого понимания того, к чему это приведет.

Внимание, реакция на этот утренний тред лида по элайменту из Anthropic

Джейкоб здесь прав - мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность того, что это случится в течение следующего десятилетия – >10%. Я считаю, что Anthropic старается изо всех сил, но у нас еще нет плана по решению проблемы суперинтеллекта, и мы явно не на пути к этому.

🙂🙂🙂

Кстати, знаете же группу Muse?

Так вот Цукерберг видимо выкупил у них ник @muse в X и Instagram*. Теперь у рокеров, у которых почти 3 миллиона подписчиков, ник стал museband, а muse принадлежит новому агенту Meta* 🤷‍♂️

? ✨