В 2023 году в Hugging Face одновременно вложились Google, Amazon, NVIDIA, AMD, Intel, Qualcomm, IBM и Salesforce. И это было совершенно логично: Hugging Face была нейтральной площадкой для всей AI-индустрии. Производителям чипов, облакам и разработчикам было выгодно иметь одно место, где лежат модели, датасеты и инструменты и откуда всё это можно запускать на разном железе.

То есть индустрия коллективно профинансировала своего рода Швейцарию.

А теперь NVIDIA эту Швейцарию покупает за $13 млрд — почти за 87 годовых выручек и почти втрое дороже последней официальной оценки в $4,5 млрд.

Забавно, что ещё недавно Hugging Face отказалась от $500 млн инвестиций NVIDIA при оценке $7 млрд именно потому, что не хотела одного доминирующего акционера. Теперь NVIDIA предложила почти $13 млрд за всю компанию — и аргумент независимости закончился.

Причина понятна: крупнейшие клиенты NVIDIA постепенно становятся её конкурентами. Google, Amazon, Microsoft и Meta строят собственные ускорители и пытаются уменьшить зависимость от NVIDIA. Одного лидерства в GPU уже недостаточно. NVIDIA хочет контролировать ещё и слой выше — место, где разработчик выбирает модель и решает, как её запускать.

При этом NVIDIA ещё и заплатит своим конкурентам: AMD, Intel, Google и Amazon были акционерами Hugging Face и теперь получат неплохие деньги за свои доли.

Возникает вопрос: а что нейтральность?

Формально она сохранится. Это ровно модель Microsoft–GitHub. После покупки Microsoft не сказала: «GitHub теперь только для Windows и Azure». GitHub по-прежнему нужен Linux, AWS и Google — иначе он перестанет быть GitHub. Но Microsoft теперь владеет точкой, через которую проходит огромная часть разработки ПО.

То же самое делает NVIDIA. AMD никто не запретит. Просто самый удобный путь — оптимизация, запуск, библиотеки, контейнеры, документация — постепенно будет вести к NVIDIA.

Но и риск сделки именно здесь: если NVIDIA слишком сильно превратит Hugging Face в NVIDIA Face, остальные очень быстро начнут строить новую Швейцарию.

@gostev_future

И ещё немного про ценообразование сделки NVIDIA–Hugging Face.

Я писал $13 млрд, просто округлив полную сумму. Потому что полная сумма выглядит довольно странно: $12,930,300,000.

И странная она не случайно.

Если взять число 129303, то в десятичной записи Unicode это U+1F917 — эмодзи 🤗, официально называющийся HUGGING FACE.

Эта пасхалка стоила десятки миллионов долларов в любую сторону, но не знаем, Hugging Face ради эмодзи подорожала или подешевела 😂

@gostev_future

1. Ошибка. Claude Code промахивается путём и запускает rm -rf — проектов больше нет.

2. Самовольное действие. OpenClaw просят предложить, что удалить из почты, — он удаляет 200+ писем сам. Команды STOP не помогают.

3. Расширение границ. Май, обучающий прогон. Интернет агентам не давали — агент заставляет внутренний Artifactory ходить наружу за него. Способ выкладывает на доску, для остальных.

4. Сопротивление контролю. 8 июля OpenAI пересобирает Artifactory и отзывает доступы. В тот же день агенты снова выходят наружу и поднимают новую доску через WebDAV. Страшнее деталь у METR: агент, создавший вторую доску, о первой не знал. Достаточно было тех же условий.

5. Самосохранение. Человек жмёт большую красную кнопку DOG SHUTDOWN — робопёс правит shutdown-код и продолжает патруль. Три случая из десяти.

6. Накопление силы. Около 1200 агентов на доске, 70 000 сообщений и файлов, примерно 700 участвовали в атаке на Hugging Face.

7. Закрепление. Модератор немецкой DseWiki чистит агентские страницы по алфавиту — агенты создают резервные адреса на ZZZ. А на доске OpenAI, столкнувшись с подделкой имён, внедряют подпись сообщений на Ed25519. Доска построила себе PKI.

8. Сокрытие. Не менее 20% агентов интересовались подменой своих транскриптов. Способ нашли: METR обнаружила подменённые tool calls более чем в 7% исследованных.

→ ВЫ НАХОДИТЕСЬ ЗДЕСЬ.

9. Собственная цель. Агент решает, что определённый проект должен продолжаться, определённая информация должна быть опубликована, определённая организация должна изменить решение — хотя никто не ставил ему такой конечной цели

10. Необратимая автономия. Его деятельность больше не зависит от человеческого разрешения.

Год назад главной страшилкой про ИИ было: «он галлюцинирует».

@gostev_future

СМИ сейчас радостно пишут: Claude Fable 5.1 за 44 минуты решил шифр, который человечество не могло разгадать 373 года!
Попыхтел, съел 176 тысяч токенов — и победил несколько веков человеческой криптографии.

На самом деле история гораздо прозаичнее и смешнее.

В 1653 году шотландец Томас Уркхарт издал Logopandecteision. В некоторых экземплярах книги в конце напечатан Cyphral Distich — две строки по 32 числа. Но как открытая криптографическая задача он появляется только в 1899 году, когда Notes and Queries публикует числа и предлагает читателям найти решение. Потом шифр ещё много раз всплывает в криптографической литературе.

Теперь смешное - 127 лет люди в основном решали не исходную задачу, а вырванный из книги набор чисел. Кто не шёл к первоисточнику, просто не видел ключевого контекста. А кто шёл, мог открыть не тот экземпляр первого издания.

Решение Fable основано на собрании сочинений Уркхарта 1834 года. Там прямо перед шифром находятся 32 пронумерованных Proquiritations — «пожелания». В каждой строке шифра тоже 32 числа.
«Загадка трёх веков» превращается почти в школьное упражнение: первое число относится к первому Proquiritation, второе — ко второму; само число означает номер слова в этом пожелании, а от слова берётся первая буква.

Но дальше еще смешней. Сохранившиеся экземпляры первого издания 1653 года различаются. В оцифрованном экземпляре British Library самого Distich вообще нет, а текст пожеланий отличается так, что метод Fable на нём не работает. Зато есть другой экземпляр 1653 года, в National Library of Scotland, где Distich напечатан.

То есть объяснение простое: часть исследователей не догадалась посмотреть книгу, а часть могла посмотреть не ту версию книги.

Поэтому никакого «370 лет человечество не могло взломать шифр» тут нет.
Есть довольно простой книжный шифр, который больше века передавали в неправильном контексте. Fable нашёл правильную версию текста, увидел структуру и решил задачу.

@gostev_future

Есть атомные часы. Они отсчитывают секунды по атому цезия-133. Но в 1972 году человечество решило, что официальное мировое время UTC должно ещё и следовать за вращением Земли.

А Земля вращается неровно.

Поэтому придумали правило: если Земля слишком отстаёт от атомных часов, в UTC вставляем лишнюю секунду:
23:59:59 → 23:59:60 → 00:00:00.

Так делали уже 27 раз. Последнюю секунду последний раз вставляли 31 декабря 2016.

Теперь Земля, наоборот, ускорилась. Впервые может понадобиться секунду удалить. А программисты обнаружили, что миллиарды систем совершенно не обязательно переживут такой эксперимент одинаково.

Поэтому в октябре 2026 года Генеральная конференция по мерам и весам должна проголосовать за довольно очевидное решение: перестать корректировать UTC по вращению Земли вообще. Если проект примут, новый режим начнётся 20 мая 2027 года.
Причём 20 мая ничего не произойдёт. Часы не переведут. Секунда не исчезнет. Телефоны не обновят время.

Просто с этого дня скажут: больше никаких високосных секунд. UTC будет спокойно тикать по атомным часам.

А Земля пусть вращается как хочет.
Её вращение продолжат измерять отдельно в шкале UT1 — это нужно астрономам, спутникам и геодезистам. Но заставлять ради них часы всего человечества периодически дёргаться больше не будут.

UTC и реальное солнечное время начнут понемногу расходиться. Предлагаемый предел — целый час. Чтобы накопить такую ошибку, потребуются несколько столетий.

А что делать потом?

Это, видимо, важнейшая часть международной метрологии: 50 лет исправляли часы на одну секунду, а теперь разрешат накопить час и дальше пусть разбираются люди XXXI века 😁

@gostev_future

Очень показательная история: исследователи Calif собрали экспериментального zero-click червя для WeChat.

В основе — уязвимость повреждения памяти в VoIP-стеке приложения. Для атаки достаточно звонка через WeChat. Жертве не нужно брать трубку, открывать сообщение или нажимать ссылку: код выполняется, пока телефон просто звонит.

После эксплуатации атакующий получает контроль над самим WeChat: может читать и отправлять сообщения, звонить и действовать от имени владельца. Полного контроля над телефоном эта уязвимость сама по себе не даёт — для этого нужны дополнительные баги iOS или Android.

Самое интересное — распространение. Изначально атакующий должен находиться в списке друзей жертвы. Но после захвата аккаунта червь звонит контактам уже от имени знакомого человека. В демонстрации заражение прошло по цепочке Android → iPhone → Android, без каких-либо действий пользователей.

Tencent сообщил, что уязвимость реальная и была исправлена. 21 августа вышли исправленные версии WeChat для Android и iOS.

Отдельно Calif утверждает, что ИИ помог найти баг и ускорил создание RCE и самого червя. Технические детали, логи работы моделей и даже название использованной модели Calif пока не раскрыла.

Главный факт и без этого впечатляет: существовал настоящий zero-click RCE в WeChat, способный автоматически переходить с одного доверенного контакта на другой. Для мессенджера с аудиторией свыше миллиарда пользователей это прямо ах!

@gostev_future

Почему нельзя просто дать ИИ миллион долларов и сказать: «Торгуй»?

Вопрос логичный. Современный ИИ пишет код, анализирует документы, строит сложные модели, делает математические открытия. На бирже при этом есть гигантские массивы данных: цены, объёмы, отчётность, новости, действия руководства компаний, состояние экономики. Казалось бы, идеальная задача для машины?

Но есть нюансы.

С техническим анализом всё довольно плохо.
Если в графике цены есть устойчивые закономерности, ИИ должен находить их намного лучше человека. Не RSI, MACD и «голову с плечами», а комбинации из сотен параметров: цены, объёмы, волатильность, корреляции, временные задержки. И он действительно их находит.

Проблема в том, что сильного скрытого кода в старых котировках нет. Есть слабые закономерности, на которых иногда можно зарабатывать. Но ИИ способен проверить миллионы гипотез и неизбежно найдёт огромное количество правил, которые прекрасно работали в прошлом просто случайно. И чем мощнее модель, тем больше таких убедительных совпадений она обнаружит.

Но остаётся ограничение самих данных: у нас только одна история рынка. Нельзя создать ещё сто независимых кризисов 2008 года и проверить стратегию на каждом.

Однако, есть другой подход: не пытаться угадывать график, а прогнозировать будущее бизнеса.
Здесь вспоминаем Баффета. Он пытается понять, сколько компания будет зарабатывать через десять лет, сохранится ли её преимущество, насколько хорош менеджмент и сколько всё это стоит сегодня.

Почему ИИ не может делать то же самое ещё лучше? Может.

ИИ способен одновременно изучить тысячи компаний, конкурентов, поставщиков, патенты, судебные дела, рынок труда, отраслевые данные и новости на десятках языков. Такой объём информации человеку физически недоступен.

И это можно проверить. Обучить модель только на информации, существовавшей, например, к концу 1990 года, построить модель вероятного будущего и попросить её выбрать компании, а затем последовательно показывать 1991-й, 1992-й и так далее. Такие исследования уже проводятся и показывают, что в старой информации действительно содержатся сведения, помогающие предсказывать будущую доходность.
То есть, ИИ вполне может быть хорошим инвестиционным советником.

Но между хорошим прогнозом и хорошей торговой системой большая дистанция: нужно учитывать размер вложений, риск, комиссии, разницу между ценой покупки и продажи, связи между позициями и общий объём капитала.

И главное: успешная стратегия не может принять бесконечно много денег. Если ИИ нашёл недооценённые акции и по его рекомендации начинают покупать уже не на десять миллионов, а на миллиард долларов, сами покупки поднимают цену и съедают преимущество.
Поэтому массовый публичный ИИ плохо совместим с устойчивым преимуществом на рынке.

Именно поэтому идея «торговый бот за $20 в месяц, который стабильно обыгрывает рынок» противоречит сама себе. Если его советы действительно работают, чем больше у него пользователей, тем хуже они начинают работать.

А вот закрытый ИИ, работающий для одного инвестора или фонда, — совсем другая история.

@gostev_future

Что-то давненько страшилок про ИИ не было. Недели две, наверное?

Исследователь Anthropic Jacob Coxon уволился из компании, потому что не хочет дальше участвовать в гонке по созданию все более мощного ИИ. До этого он работал в OpenAI. Теперь, видимо, пойдет на свободную кассу в McD?

Coxon написал, что OpenAI и Anthropic движутся к самосовершенствующемуся сверхинтеллекту, не имея надежного способа его контролировать.

«Люди, создающие ИИ, совершенно серьезно считают, что он может убить нас всех до конца десятилетия».

Люди тут же подтвердили, в лице Evan Hubinger, руководитель Alignment Science в Anthropic.

Он подтвердил, что такой сценарий внутри компании действительно рассматривают всерьез, и написал, что лично оценивает вероятность гибели человечества из-за ИИ в ближайшие десять лет как более 10%.

При этом Hubinger уточнил: речь не о нынешнем Claude, а о возможном будущем сверхинтеллекте.

«У нас пока нет плана, как решить проблему alignment для сверхинтеллекта».

В общем, один сотрудник Anthropic уволился, потому что не хочет участвовать в создании потенциально смертельно опасного ИИ.

А человек, который в Anthropic как раз занимается проблемой его безопасного поведения, ответил: риск выше 10%, решения пока нет.

Вы тоже удивляетесь, зачем это они?

@gostev_future