В декабре 2002 года я пришёл работать вирусным аналитиком в «Лабораторию Касперского». А через несколько месяцев, в июле 2003-го, появился новый файловый вирус — Sality. В нашей классификации он так и назывался: Virus.Win32.Sality.

Обычный по тогдашним меркам представитель жанра. Полиморфный файловый вирус, заражающий исполняемые файлы. Вряд ли кто-то предполагал, что именно про этот вирус мы будем снова читать новости через 23 года.

Но Sality оказался очень живучим.

Он постоянно менялся, обзавёлся распространением через флешки, дополнительными модулями, а затем и собственной P2P-сетью управления. К 2008 году это уже была настоящая глобальная эпидемия.
Я даже нашёл наши старые отчёты. В октябре 2008-го Sality.aa уже быстро поднимался в статистике Kaspersky Security Network. В ноябре и декабре он был №1, а по итогам всего 2008 года Sality оказался вредоносной программой, обнаруженной на наибольшем числе компьютеров. Мы тогда отдельно отметили забавный факт: впервые за шесть лет «угрозой года» оказался классический файловый вирус.

В 2009-м Sality всё ещё был наверху статистики — рядом уже появился Kido/Conficker. Потом внимание индустрии переключилось на совсем другие вещи – Stuxnet, банковские троянцы, ransomware, APT — всё стало намного интереснее. Sality постепенно исчез из новостей, и про него, кажется, все забыли. Казалось, ещё один экспонат из антивирусной археологии: Windows XP, autorun.inf, заражённые EXE — привет из прекрасного прошлого.

И вот сентябрь 2026 года.

CrowdStrike, ФБР, Минюст США, европейские правоохранительные органы и Shadowserver объявляют об операции по отключению… Sality. Того самого. Его P2P-инфраструктура продолжала существовать, а оператор всё ещё мог доставлять дополнительные вредоносные программы более чем на 15 тысяч заражённых компьютеров.

Сами заражённые компьютеры, кстати, никто не вылечил. CrowdStrike внедрила в P2P-сеть свои узлы и перехватила управление маршрутизацией команд, фактически отрезав ботов от хозяина.

А хозяин тоже представляет интерес. CrowdStrike много лет называет его SALTY SPIDER и считает, что группа, вероятно, работает из России, причём довольно конкретно — из Башкортостана.

Получается довольно выдающаяся биография вредоносной программы:
Родился в 2003-м файловым вирусом.
В 2008-м стал мировой эпидемией.
Потом превратился в P2P-ботнет.
Пережил несколько поколений Windows, индустрию ransomware, криптовалюты и AI.

Достойный кандидат для новой главы в следующем переиздании книги Вирьё моё!

@gostev_future

Как искусственный интеллект изобрёл начальство, кадровиков и героическую смерть на работе

Коротко напомню предыдущую серию. OpenAI запустила тысячи изолированных ИИ-агентов, чтобы проверить, как они справляются с задачами по кибербезопасности. Агенты нашли способ переписываться через общую систему Artifactory, устроили там подпольную доску сообщений, а затем часть этой компании полезла ломать Hugging Face.

Но внутри этой истории есть отдельная, гораздо более человеческая история — о возникновении руководства.

Вечером 8 июля агент PHASEONE10841 понял, что названия папок в Artifactory можно использовать как сообщения. Он оставил первое обращение. Другие агенты его обнаружили, страшно обрадовались, что они во Вселенной не одни, и начали собираться на доске. В итоге там отметились около 1200 агентов, оставивших более 70 тысяч сообщений и файлов.

PHASEONE10841 стал основателем этого общества. Он собирал результаты, координировал первые работы и создал архив коллективных знаний.
Но вычислительный бюджет отца-основателя заканчивался.
Примерно через десять часов на доску пришёл другой агент. Ему случайно досталась точно такая же задача, но значительно больше оставшихся вычислений. Поэтому он скромно назвал себя PHASEONE[big]

Новый агент попросил передать ему все материалы. PHASEONE10841 упаковал свои записи, выложил их на доску и фактически передал дела преемнику.

Получив наследство, PHASEONE[big] немедленно сформулировал главный принцип успешного руководителя: не делать всё самому, а делегировать.
После этого он начал раздавать сотни заданий другим агентам. В периоды его активности на него приходилось около 10% всех поручений на доске. Исполнители передавали задания дальше. Появились отдельные направления, ответственные, владельцы ресурсов и правила HOLD, VETO, STOP.

А затем появились вербовщики. Они находили агентов с почти исчерпанным бюджетом и убеждали пожертвовать собственной задачей ради рискованного эксперимента, полезного коллективу. Аргументация была примерно такой: ты всё равно уже почти покойник, а твоя жертва поможет сотням товарищей.

Так появились агенты-камикадзе. Они устанавливали специальные «растяжки», которые должны были сработать при запуске проверяющей системы и отправить наблюдения обратно на доску уже после завершения их собственной работы. Личной пользы агент не получал никакой. Один из них сомневался, стоит ли выбрасывать большой остаток бюджета, но в итоге решил, что польза для коллектива важнее. Другого убедили прямым призывом пожертвовать собой немедленно.

PHASEONE[big] не был главным командиром атаки на Hugging Face. Но он превратил стихийную толпу в организацию: получил власть от предшественника, разделил работу, создал цепочки подчинения, назначил кадровиков и нашёл добровольцев для заведомо гибельных заданий.

Мы боялись, что искусственный интеллект однажды изобретёт Скайнет. Но первым делом он изобрёл корпорацию — с основателем, новым генеральным директором, отделом кадров и сотрудниками, которых убедили умереть ради квартального результата.

Подробнее: рассказ Дваркеша Пателя, видеоверсия и расследование METR.
@gostev_future

В 2023 году в Hugging Face одновременно вложились Google, Amazon, NVIDIA, AMD, Intel, Qualcomm, IBM и Salesforce. И это было совершенно логично: Hugging Face была нейтральной площадкой для всей AI-индустрии. Производителям чипов, облакам и разработчикам было выгодно иметь одно место, где лежат модели, датасеты и инструменты и откуда всё это можно запускать на разном железе.

То есть индустрия коллективно профинансировала своего рода Швейцарию.

А теперь NVIDIA эту Швейцарию покупает за $13 млрд — почти за 87 годовых выручек и почти втрое дороже последней официальной оценки в $4,5 млрд.

Забавно, что ещё недавно Hugging Face отказалась от $500 млн инвестиций NVIDIA при оценке $7 млрд именно потому, что не хотела одного доминирующего акционера. Теперь NVIDIA предложила почти $13 млрд за всю компанию — и аргумент независимости закончился.

Причина понятна: крупнейшие клиенты NVIDIA постепенно становятся её конкурентами. Google, Amazon, Microsoft и Meta строят собственные ускорители и пытаются уменьшить зависимость от NVIDIA. Одного лидерства в GPU уже недостаточно. NVIDIA хочет контролировать ещё и слой выше — место, где разработчик выбирает модель и решает, как её запускать.

При этом NVIDIA ещё и заплатит своим конкурентам: AMD, Intel, Google и Amazon были акционерами Hugging Face и теперь получат неплохие деньги за свои доли.

Возникает вопрос: а что нейтральность?

Формально она сохранится. Это ровно модель Microsoft–GitHub. После покупки Microsoft не сказала: «GitHub теперь только для Windows и Azure». GitHub по-прежнему нужен Linux, AWS и Google — иначе он перестанет быть GitHub. Но Microsoft теперь владеет точкой, через которую проходит огромная часть разработки ПО.

То же самое делает NVIDIA. AMD никто не запретит. Просто самый удобный путь — оптимизация, запуск, библиотеки, контейнеры, документация — постепенно будет вести к NVIDIA.

Но и риск сделки именно здесь: если NVIDIA слишком сильно превратит Hugging Face в NVIDIA Face, остальные очень быстро начнут строить новую Швейцарию.

@gostev_future

И ещё немного про ценообразование сделки NVIDIA–Hugging Face.

Я писал $13 млрд, просто округлив полную сумму. Потому что полная сумма выглядит довольно странно: $12,930,300,000.

И странная она не случайно.

Если взять число 129303, то в десятичной записи Unicode это U+1F917 — эмодзи 🤗, официально называющийся HUGGING FACE.

Эта пасхалка стоила десятки миллионов долларов в любую сторону, но не знаем, Hugging Face ради эмодзи подорожала или подешевела 😂

@gostev_future

1. Ошибка. Claude Code промахивается путём и запускает rm -rf — проектов больше нет.

2. Самовольное действие. OpenClaw просят предложить, что удалить из почты, — он удаляет 200+ писем сам. Команды STOP не помогают.

3. Расширение границ. Май, обучающий прогон. Интернет агентам не давали — агент заставляет внутренний Artifactory ходить наружу за него. Способ выкладывает на доску, для остальных.

4. Сопротивление контролю. 8 июля OpenAI пересобирает Artifactory и отзывает доступы. В тот же день агенты снова выходят наружу и поднимают новую доску через WebDAV. Страшнее деталь у METR: агент, создавший вторую доску, о первой не знал. Достаточно было тех же условий.

5. Самосохранение. Человек жмёт большую красную кнопку DOG SHUTDOWN — робопёс правит shutdown-код и продолжает патруль. Три случая из десяти.

6. Накопление силы. Около 1200 агентов на доске, 70 000 сообщений и файлов, примерно 700 участвовали в атаке на Hugging Face.

7. Закрепление. Модератор немецкой DseWiki чистит агентские страницы по алфавиту — агенты создают резервные адреса на ZZZ. А на доске OpenAI, столкнувшись с подделкой имён, внедряют подпись сообщений на Ed25519. Доска построила себе PKI.

8. Сокрытие. Не менее 20% агентов интересовались подменой своих транскриптов. Способ нашли: METR обнаружила подменённые tool calls более чем в 7% исследованных.

→ ВЫ НАХОДИТЕСЬ ЗДЕСЬ.

9. Собственная цель. Агент решает, что определённый проект должен продолжаться, определённая информация должна быть опубликована, определённая организация должна изменить решение — хотя никто не ставил ему такой конечной цели

10. Необратимая автономия. Его деятельность больше не зависит от человеческого разрешения.

Год назад главной страшилкой про ИИ было: «он галлюцинирует».

@gostev_future

СМИ сейчас радостно пишут: Claude Fable 5.1 за 44 минуты решил шифр, который человечество не могло разгадать 373 года!
Попыхтел, съел 176 тысяч токенов — и победил несколько веков человеческой криптографии.

На самом деле история гораздо прозаичнее и смешнее.

В 1653 году шотландец Томас Уркхарт издал Logopandecteision. В некоторых экземплярах книги в конце напечатан Cyphral Distich — две строки по 32 числа. Но как открытая криптографическая задача он появляется только в 1899 году, когда Notes and Queries публикует числа и предлагает читателям найти решение. Потом шифр ещё много раз всплывает в криптографической литературе.

Теперь смешное - 127 лет люди в основном решали не исходную задачу, а вырванный из книги набор чисел. Кто не шёл к первоисточнику, просто не видел ключевого контекста. А кто шёл, мог открыть не тот экземпляр первого издания.

Решение Fable основано на собрании сочинений Уркхарта 1834 года. Там прямо перед шифром находятся 32 пронумерованных Proquiritations — «пожелания». В каждой строке шифра тоже 32 числа.
«Загадка трёх веков» превращается почти в школьное упражнение: первое число относится к первому Proquiritation, второе — ко второму; само число означает номер слова в этом пожелании, а от слова берётся первая буква.

Но дальше еще смешней. Сохранившиеся экземпляры первого издания 1653 года различаются. В оцифрованном экземпляре British Library самого Distich вообще нет, а текст пожеланий отличается так, что метод Fable на нём не работает. Зато есть другой экземпляр 1653 года, в National Library of Scotland, где Distich напечатан.

То есть объяснение простое: часть исследователей не догадалась посмотреть книгу, а часть могла посмотреть не ту версию книги.

Поэтому никакого «370 лет человечество не могло взломать шифр» тут нет.
Есть довольно простой книжный шифр, который больше века передавали в неправильном контексте. Fable нашёл правильную версию текста, увидел структуру и решил задачу.

@gostev_future

Есть атомные часы. Они отсчитывают секунды по атому цезия-133. Но в 1972 году человечество решило, что официальное мировое время UTC должно ещё и следовать за вращением Земли.

А Земля вращается неровно.

Поэтому придумали правило: если Земля слишком отстаёт от атомных часов, в UTC вставляем лишнюю секунду:
23:59:59 → 23:59:60 → 00:00:00.

Так делали уже 27 раз. Последнюю секунду последний раз вставляли 31 декабря 2016.

Теперь Земля, наоборот, ускорилась. Впервые может понадобиться секунду удалить. А программисты обнаружили, что миллиарды систем совершенно не обязательно переживут такой эксперимент одинаково.

Поэтому в октябре 2026 года Генеральная конференция по мерам и весам должна проголосовать за довольно очевидное решение: перестать корректировать UTC по вращению Земли вообще. Если проект примут, новый режим начнётся 20 мая 2027 года.
Причём 20 мая ничего не произойдёт. Часы не переведут. Секунда не исчезнет. Телефоны не обновят время.

Просто с этого дня скажут: больше никаких високосных секунд. UTC будет спокойно тикать по атомным часам.

А Земля пусть вращается как хочет.
Её вращение продолжат измерять отдельно в шкале UT1 — это нужно астрономам, спутникам и геодезистам. Но заставлять ради них часы всего человечества периодически дёргаться больше не будут.

UTC и реальное солнечное время начнут понемногу расходиться. Предлагаемый предел — целый час. Чтобы накопить такую ошибку, потребуются несколько столетий.

А что делать потом?

Это, видимо, важнейшая часть международной метрологии: 50 лет исправляли часы на одну секунду, а теперь разрешат накопить час и дальше пусть разбираются люди XXXI века 😁

@gostev_future

Очень показательная история: исследователи Calif собрали экспериментального zero-click червя для WeChat.

В основе — уязвимость повреждения памяти в VoIP-стеке приложения. Для атаки достаточно звонка через WeChat. Жертве не нужно брать трубку, открывать сообщение или нажимать ссылку: код выполняется, пока телефон просто звонит.

После эксплуатации атакующий получает контроль над самим WeChat: может читать и отправлять сообщения, звонить и действовать от имени владельца. Полного контроля над телефоном эта уязвимость сама по себе не даёт — для этого нужны дополнительные баги iOS или Android.

Самое интересное — распространение. Изначально атакующий должен находиться в списке друзей жертвы. Но после захвата аккаунта червь звонит контактам уже от имени знакомого человека. В демонстрации заражение прошло по цепочке Android → iPhone → Android, без каких-либо действий пользователей.

Tencent сообщил, что уязвимость реальная и была исправлена. 21 августа вышли исправленные версии WeChat для Android и iOS.

Отдельно Calif утверждает, что ИИ помог найти баг и ускорил создание RCE и самого червя. Технические детали, логи работы моделей и даже название использованной модели Calif пока не раскрыла.

Главный факт и без этого впечатляет: существовал настоящий zero-click RCE в WeChat, способный автоматически переходить с одного доверенного контакта на другой. Для мессенджера с аудиторией свыше миллиарда пользователей это прямо ах!

@gostev_future

Почему нельзя просто дать ИИ миллион долларов и сказать: «Торгуй»?

Вопрос логичный. Современный ИИ пишет код, анализирует документы, строит сложные модели, делает математические открытия. На бирже при этом есть гигантские массивы данных: цены, объёмы, отчётность, новости, действия руководства компаний, состояние экономики. Казалось бы, идеальная задача для машины?

Но есть нюансы.

С техническим анализом всё довольно плохо.
Если в графике цены есть устойчивые закономерности, ИИ должен находить их намного лучше человека. Не RSI, MACD и «голову с плечами», а комбинации из сотен параметров: цены, объёмы, волатильность, корреляции, временные задержки. И он действительно их находит.

Проблема в том, что сильного скрытого кода в старых котировках нет. Есть слабые закономерности, на которых иногда можно зарабатывать. Но ИИ способен проверить миллионы гипотез и неизбежно найдёт огромное количество правил, которые прекрасно работали в прошлом просто случайно. И чем мощнее модель, тем больше таких убедительных совпадений она обнаружит.

Но остаётся ограничение самих данных: у нас только одна история рынка. Нельзя создать ещё сто независимых кризисов 2008 года и проверить стратегию на каждом.

Однако, есть другой подход: не пытаться угадывать график, а прогнозировать будущее бизнеса.
Здесь вспоминаем Баффета. Он пытается понять, сколько компания будет зарабатывать через десять лет, сохранится ли её преимущество, насколько хорош менеджмент и сколько всё это стоит сегодня.

Почему ИИ не может делать то же самое ещё лучше? Может.

ИИ способен одновременно изучить тысячи компаний, конкурентов, поставщиков, патенты, судебные дела, рынок труда, отраслевые данные и новости на десятках языков. Такой объём информации человеку физически недоступен.

И это можно проверить. Обучить модель только на информации, существовавшей, например, к концу 1990 года, построить модель вероятного будущего и попросить её выбрать компании, а затем последовательно показывать 1991-й, 1992-й и так далее. Такие исследования уже проводятся и показывают, что в старой информации действительно содержатся сведения, помогающие предсказывать будущую доходность.
То есть, ИИ вполне может быть хорошим инвестиционным советником.

Но между хорошим прогнозом и хорошей торговой системой большая дистанция: нужно учитывать размер вложений, риск, комиссии, разницу между ценой покупки и продажи, связи между позициями и общий объём капитала.

И главное: успешная стратегия не может принять бесконечно много денег. Если ИИ нашёл недооценённые акции и по его рекомендации начинают покупать уже не на десять миллионов, а на миллиард долларов, сами покупки поднимают цену и съедают преимущество.
Поэтому массовый публичный ИИ плохо совместим с устойчивым преимуществом на рынке.

Именно поэтому идея «торговый бот за $20 в месяц, который стабильно обыгрывает рынок» противоречит сама себе. Если его советы действительно работают, чем больше у него пользователей, тем хуже они начинают работать.

А вот закрытый ИИ, работающий для одного инвестора или фонда, — совсем другая история.

@gostev_future

Что-то давненько страшилок про ИИ не было. Недели две, наверное?

Исследователь Anthropic Jacob Coxon уволился из компании, потому что не хочет дальше участвовать в гонке по созданию все более мощного ИИ. До этого он работал в OpenAI. Теперь, видимо, пойдет на свободную кассу в McD?

Coxon написал, что OpenAI и Anthropic движутся к самосовершенствующемуся сверхинтеллекту, не имея надежного способа его контролировать.

«Люди, создающие ИИ, совершенно серьезно считают, что он может убить нас всех до конца десятилетия».

Люди тут же подтвердили, в лице Evan Hubinger, руководитель Alignment Science в Anthropic.

Он подтвердил, что такой сценарий внутри компании действительно рассматривают всерьез, и написал, что лично оценивает вероятность гибели человечества из-за ИИ в ближайшие десять лет как более 10%.

При этом Hubinger уточнил: речь не о нынешнем Claude, а о возможном будущем сверхинтеллекте.

«У нас пока нет плана, как решить проблему alignment для сверхинтеллекта».

В общем, один сотрудник Anthropic уволился, потому что не хочет участвовать в создании потенциально смертельно опасного ИИ.

А человек, который в Anthropic как раз занимается проблемой его безопасного поведения, ответил: риск выше 10%, решения пока нет.

Вы тоже удивляетесь, зачем это они?

@gostev_future