устроили чёрт-те что!

@gostev_future

OpenAI выпустила для ChatGPT на macOS функцию Computer History. После включения она наблюдает за работой в разрешённых приложениях и на сайтах: фиксирует клики, ввод с клавиатуры, сочетания клавиш, переключения между приложениями и доступный контекст. Затем всё это превращается в понятную историю: чем вы занимались, какие документы смотрели, какие задачи решали. Можно спросить ChatGPT «что я делал до обеда?» или попросить найти документ, который открывал утром. Круто, да?

Посмотрим на это глазами атакующего 🍿

1. Сначала — куда вообще попадают данные.
Сырые события хранятся на Mac до 48 часов. Но обработка не полностью локальная: Computer History периодически запускает временную Codex-сессию и отправляет события на серверы OpenAI, где из них создаются summaries и memories.
OpenAI утверждает, что временные event-файлы после обработки не хранит, кроме случаев, когда этого требует закон, и для обучения моделей их не использует.

Полученная память возвращается на Mac в виде обычных Markdown-файлов. Когда она понадобится в будущем разговоре, релевантная часть может снова попасть OpenAI как контекст ChatGPT. И этот контент уже подпадает под обычные настройки Data Controls.

Но самое интересное — где всё это лежит локально.

Сырые события находятся внутри ChatGPT App Group — контейнера Apple, изолированного от других приложений. А итоговые memories лежат обычными Markdown в ~/.codex/memories/extensions/skysight/, вне этой изоляции. OpenAI прямо предупреждает, что другие программы, работающие от имени пользователя, потенциально могут получить к ним доступ.

Получается забавная асимметрия: шумная телеметрия защищена лучше, чем осмысленный AI-дистиллят из неё.

2. Для стилера появляется очень вкусная новая цель.
Самое ценное здесь не клики.
Не просто:
AWS → Slack → Excel.
А условно:
«Пользователь разбирался с проблемой в AWS production, обсуждал её с Ивановым и затем открыл финансовую модель проекта X».

Раньше стилеру приходилось красть browser history, документы, cookies, переписку и самому искать связи. Теперь AI часть работы уже сделал и заботливо разложил результат по Markdown-файлам 👍

3. Эти данные хороши не только для кражи — они идеальны для социальной инженерии.
Из такой памяти можно узнать, чем человек занимается прямо сейчас, какими сервисами пользуется, с кем работает и какие проблемы решает.
После этого письмо «AWS Security» или сообщение якобы от коллеги можно привязать не к абстрактной должности жертвы, а к тому, что она делала буквально вчера.

4. Память можно не только украсть, но и отравить.
Markdown можно изменять. Malware с подходящим доступом потенциально может подправить memory так, чтобы через неделю ChatGPT «помнил» неверный факт или ложный источник.
Malware уже удалили, а ложная память осталась.

5. Есть ещё persistent prompt injection.
OpenAI сама предупреждает, что вредоносные инструкции на сайтах и в приложениях могут повлиять на ChatGPT или Codex.
Теперь возможна цепочка:
вредоносная страница → события → summary → memory → будущий разговор.
Сегодня вы просто открыли сайт. А через несколько дней заражённый контекст потенциально возвращается, когда вы просите AI продолжить работу.

В итоге Computer History создаёт новый объект для защиты — машиночитаемую память о жизни и работе человека.

И если когда такие функции станут массовыми и для других платформ и ИИ — то после cookies, browser profiles и криптокошельков стилеры начнут штатно собирать ещё и каталоги AI memories.
 
@gostev_future

В прошлой серии Anthropic покупала книги, отрезала им переплеты и превращала в training data. Оказалось, это был не эксцентричный художественный перформанс отдельно взятой компании, а вполне нормальный производственный процесс новой экономики.

Журналисты 404 Media решили выяснить, кто ещё скупает у букинистов книги партиями по тысяче штук. Метод выбрали простой и надёжный: положили AirTag внутрь одной книги и стали смотреть, куда она поедет.

Книга прошла через несколько логистических центров и в итоге приехала на склад Amazon в Лас-Вегасе, в подразделение VGT3.
Сотрудники VGT3 рассказывают, что там делают ровно то же, что Anthropic в Project Panama: принимают книги, сканируют ISBN, срезают переплёты и прогоняют страницы через сканеры. Amazon подтвердил, что действительно покупает книги «для разработки и улучшения продуктов и сервисов».

Похоже, что здесь есть бизнес-идея.

Пока AI-компании работают с самым простым пластом. Есть ISBN, есть маркетплейсы, есть миллионы книг, которые можно автоматически найти и купить. Фактически ISBN — готовая карта месторождений: вот книга, вот продавец, вот цена.
Но огромные пласты человеческого текста вообще не имеют ISBN и никогда не попадали в интернет: например, советские технические сборники, ведомственные издания, заводские каталоги, материалы конференций, старые учебники, региональные издания, книги малых тиражей.

И вот здесь появляется перспективная профессия будущего — скупщик металлолома геолог данных.

Компания не сканирует всё подряд. Она сначала определяет, каких знаний не хватает конкретной модели. Затем ищет физические источники, которых нет в интернете: у букинистов, в частных коллекциях, на складах закрытых издательств, в распродаваемых корпоративных собраниях.

После чего приходит к OpenAI, Amazon или Anthropic и говорит: «У вас плохо покрыта советская металлургия 1960–1985 годов. Мы нашли 1840 физических источников, которых нет в вашем корпусе. Можем их легально приобрести, оцифровать и собрать в отдельный dataset».

То есть возникает новая цепочка: найти белое пятно в знаниях модели → найти физические источники → выкупить → оцифровать → продать уникальный датасет.

Когда-то нефтяные компании отправляли геологов искать нефть. Теперь AI-компаниям понадобятся другие геологи — искать места, где человечество что-то написало, но интернет до этого ещё не добрался.
Первое издание Диккенса может стоить десятки тысяч долларов и быть бесполезным для модели: его текст давно оцифрован. А какой-нибудь советский сборник 1974 года за триста рублей может оказаться единственным источником нескольких сотен страниц, которых модель никогда не видела.

Следующий дефицитный ресурс — off-web human data.

Фактически появляется рынок месторождений человеческого текста, который ещё не был добыт интернетом.

И тот, кто первым научится составлять карты этих месторождений, искать их и превращать в готовые для обучения, получит очень неплохой бизнес.
 
@gostev_future

А я гляжу, что F6 все еще не оставляет идею выйти на IPO в этом году? В РБК вышло интервью с гендиром Баулиным, в котором компания настолько жестко открещивается от своих прародителей, что это прям удивительно.

По порядку:

создана «новая самостоятельная компания, принципиально отличающаяся от F.A.C.C.T. и тем более от Group-IB»

Бренд не купили.

«Все продукты F.A.C.C.T. были сожжены и переписаны заново».

Продукты не купили. Точнее, купили и убили.

Во-первых, из-за уголовного дела сооснователя Group-IB Ильи …компания не могла работать с госсектором.

Клиентов не купили.

У этих компаний действительно есть кое-что общее. Рынок, на котором они работают — кибербезопасность, — и немного общей истории.

Вот это конечно мощно.

Баулин подчеркнул, что в основе флагманского решения F6 «нет ничего общего» с тем, что команда развивала в 2023–2024 годах: продукт работает на другой операционной системе, другой кодовой базе и другом технологическом стеке.

Ну открестились и открестились, но возникает логичный вопрос – а за что, собственно, Максимов со товарищи заплатили, сколько там, 4.5 млрд рублей?

«Команда перешла в полном составе. Бренду год, а нашей экспертизе по противодействию киберпреступности больше 20 лет. Это то, что нельзя создать быстро и нельзя купить»

Как же нельзя? Вот – взяли и купили.

@gostev_future

В Сингапуре запустили дата-центр, который надо кормить.

В прямом смысле.

В NUS поставили 20 компьютеров CL1 компании Cortical Labs. В каждом вместо обычного вычислительного чипа — около 200 тысяч живых человеческих нейронов.

Никаких мозгов для этого не режут. Берут клетки крови, возвращают их в состояние стволовых, а затем выращивают из них нейроны. Это не новое открытие, а технология iPSC, которой уже почти двадцать лет.

Дальше начинается самое интересное.

Нейроны высаживают на чип с микроэлектродами. Компьютер посылает им электрические сигналы и считывает ответ. Клетки соединяются между собой, меняют силу связей и могут адаптироваться к тому, что происходит на входе.

То есть программа буквально работает с живой нейронной сетью через API.

Поскольку сеть живая, её приходится обслуживать соответствующим образом. Примерно раз в три дня менять питательную среду с сахаром и микроэлементами, поддерживать температуру, кислотность, кислород и CO₂.

По данным Cortical Labs, весь CL1 вместе с системой жизнеобеспечения потребляет около 30 ватт. Доступ к одному такому компьютеру уже продают примерно за $2200 в месяц.

Это пока не конкурент Nvidia и не человеческий мозг в стойке. Для нормальных вычислений GPU быстрее, точнее и предсказуемее. Даже сама Cortical Labs этого не скрывает. Их цель другая:

Биологические нейронные сети умеют адаптироваться очень экономно. Мозгу не нужны миллионы примеров, чтобы понять, что горячую сковородку лучше не трогать второй раз.

Cortical Labs хочет проверить, можно ли использовать это свойство в роботах, системах управления и поиске аномалий.

Пока никто не доказал, что живые нейроны действительно лучше современных нейросетей в практических задачах. Но сама конструкция уже выглядит как начало чего-то довольно странного.

Вдумайтесь, мы научились брать клетки человека, выращивать из них нейроны, подключать их к компьютеру и продавать доступ к ним через API!

@gostev_future

Иран выключил британскую электростанцию. Или нет.
В выходные по СМИ разошлась красивая история: иранские хакеры впервые в истории успешно атаковали британскую энергетику и на четыре дня выключили электростанцию.

Звучит почти как новый Stuxnet. Я полез искать технические детали — и обнаружил, что технических деталей нет вообще.

История начинается с The Telegraph. Заголовок максимально определённый: Iranian hackers shut down UK power plant.
А дальше текст становится заметно осторожнее: it is thought, it is believed, The Telegraph understands. Название станции неизвестно. Оператор неизвестен. Место неизвестно. Группа неизвестна. Способ проникновения неизвестен. Какие системы были скомпрометированы — неизвестно. Каким образом кибератака привела к остановке генерации — тоже неизвестно.

Что подтверждает британское правительство?
Вот практически всё:
“This story refers to an incident impacting a small-scale energy generator.”
И ещё: угрозы для британской энергосистемы не было.

Обратите внимание на дистанцию между этим и заголовком «Иран выключил британскую электростанцию».

BBC пишет уже аккуратнее: небольшой генератор действительно был остановлен во время кибератаки, но сведения о том, что это сделали связанные с Ираном хакеры и что простой продолжался четыре дня, прямо относит к сообщению Telegraph. Ни правительство, ни NCSC детали объекта не раскрывают.

Guardian делает примерно то же самое. Более того, сообщает любопытную деталь: NCSC, насколько известно газете, не получал сообщений об остановках от регулируемых операторов электростанций. То есть объект, судя по всему, настолько мал, что находится ниже соответствующего регуляторного порога.

Сегодня Financial Times добавила мяса: предположительно речь идёт о небольшой газовой пиковой станции примерно на 15 МВт. Такие станции включают во время высокого спроса, они могут работать почти без персонала и широко используют автоматизированное управление и PLC.

В США действительно только что расследовали иранские атаки на промышленную инфраструктуру. Там хакеры находили доступные из интернета PLC, использовали штатные инженерные программы, меняли их логику и в некоторых случаях вмешивались в аварийные защиты.
Поэтому можно нарисовать прекрасную реконструкцию: нашли наружу торчащий контроллер британской станции, залезли в него, переписали программу и остановили генератор.

Проблема одна: мы понятия не имеем, произошло ли в Британии хоть что-нибудь из этого.

Неизвестно даже, атаковали ли OT.
Это мог быть PLC. Могла быть SCADA. Мог быть удалённый доступ. Могла быть обычная корпоративная сеть, после компрометации которой оператор сам остановил объект из предосторожности.
Мы даже не знаем, означает ли «станция была отключена четыре дня», что хакеры четыре дня не давали ей работать, или инженеры четыре дня занимались проверкой систем прежде чем разрешить безопасный перезапуск.

И с Ираном ровно та же проблема. Публичной атрибуции NCSC нет. Технических индикаторов нет. Названия группы нет. Есть источники Telegraph, общий фон и совпадение по времени с атаками на американскую инфраструктуру.

Факт: с небольшим британским генератором произошёл киберинцидент.
Заголовок: «Иран выключил британскую электростанцию».

Последнее вполне может в итоге оказаться правдой.
Но пока между первым и последним пунктом отсутствует почти весь самый интересный технический материал.

Что, впрочем, никогда не мешало хорошему заголовку опередить расследование.

@gostev_future

Китайские публичные компании из кибербезопасности отчитались за H1 2026. Если смотреть только на общую выручку, рынок выглядит слабым.

Но дело в том, что многие из этих компаний давно уже не являются чистыми security-вендорами. У них внутри смешаны кибербезопасность, облачная инфраструктура, сетевые сервисы, AI, интеграция и другие направления. Поэтому падение общей выручки компании совсем не обязательно означает падение её cybersecurity-бизнеса.

360: выручка $621 млн, +9%, из них security — всего $46 млн, +22%. Чистая прибыль — около $32 млн против убытка годом ранее.
Sangfor: выручка $595 млн, +33%, вместо прошлогоднего убытка ~$34 млн — прибыль $34 млн. Security вырос на 10,6%, до $236 млн, а cloud и AI infrastructure — на 59%, до $329 млн. Главный двигатель роста здесь.
Wangsu: $345 млн выручки, −1,4%, при этом security и value-added services выросли на 22%, до $118 млн.
AsiaInfo Security: $407 млн, −12,4%, но собственно network security вырос на 6%, до примерно $80 млн.
Venustech: $184 млн, +9%, вернулась к прибыли.
DPtech: $80 млн, −2,5%, зато прибыль выросла на 39%.
Хуже выглядят Feitian -$39,5 млн, −27%, убыток $9 млн - и SDIC Intelligence: $72 млн, −13%, убыток около $38 млн.

Что получается?

Китайский cybersecurity сам по себе не выглядит падающим рынком. У крупных игроков security-направления растут примерно на 6–22%. Быстрее всего растут компании, которые уже вышли за рамки классической безопасности — в cloud, AI infrastructure, SASE и сетевые платформы.

Но самая интересная история - зарубежная экспансия.

У Sangfor зарубежная выручка выросла с примерно $38 млн до $56 млн, +49%. Это пока только 9,5% бизнеса, но компания уже построила полноценную международную инфраструктуру: более 70 офисов, сервисные центры в Малайзии, ОАЭ, Италии и Мексике, локальные дата-центры в Азии и Германии. Она активно работает в ЮВА, на Ближнем Востоке, в Европе и Латинской Америке. Один из очевидных источников роста — миграция клиентов с VMware: Sangfor утверждает, что таких организаций уже больше 12 тысяч.

Причём экспортируется не только инфраструктура. Sangfor разворачивает международную security-линейку Athena — NGFW, NDR, EPP, XDR, MDR — и расширяет SASE-сеть: к существующим узлам добавлены Италия, Сингапур и США.

А вот 360 — важная оговорка. Её зарубежная выручка действительно почти удвоилась до $26,5 млн, но отчёт не говорит, что это экспорт cybersecurity. Наоборот, международную экспансию компания прямо описывает прежде всего в разделе smart hardware. Поэтому записывать эти +97% в успех китайского security за рубежом нельзя.

У Feitian ситуация обратная: международный бизнес уже большой — больше половины продаж, около $20 млн за полугодие, — но он упал на 32%.

Получается, что экспорт китайского cybersecurity пока не стал массовым явлением. Но Sangfor уже показывает, как может выглядеть следующая фаза: сначала зайти к зарубежному клиенту с HCI и заменой VMware, а затем продать ему firewall, EDR/XDR, SASE и остальные средства защиты. То есть конкурировать одновременно и с Broadcom/VMware, и с Fortinet или Palo Alto.
 
@gostev_future

Я исторически не очень люблю CrowdStrike. Точнее — очень не люблю. Но тут приходится отдать должное: отчёт за квартал у них потрясающий.

Во втором квартале FY2027 выручка выросла на 26%, до $1,47 млрд. Подписочная — на 27%. Но самое интересное даже не это.

CrowdStrike за квартал добавила рекордные $333 млн нового ARR — на 51% больше, чем год назад. Общий ARR достиг $5,84 млрд, +25%. Для компании такого размера ускорение новых ежегодных контрактов на 51% выглядит гораздо интереснее очередного превышения прогноза аналитиков на пару процентов.

Отлично работает Falcon Flex — схема, при которой заказчик заранее резервирует бюджет, а потом подключает нужные продукты CrowdStrike. С Flex уже связано $2,29 млрд ARR, +101% за год. 51% клиентов используют шесть и более модулей Falcon, 35% — семь и более, 26% — восемь и более. То есть CrowdStrike действительно удалось превратить EDR в большую платформу и постепенно продавать существующим клиентам всё больше её частей.

Руководство одновременно повысило прогноз роста net new ARR на весь год примерно до 34%, а прогноз выручки — примерно до $6 млрд.

Есть, конечно, нюанс. GAAP operating income всё ещё отрицательный: −$33 млн. Non-GAAP operating income — +$372 млн. Одно из главных объяснений разницы — stock-based compensation: $399 млн за квартал, около 27% всей выручки.

Но денежный поток вполне настоящий: $530 млн operating cash flow, $377 млн free cash flow, на счетах около $5 млрд.

И особенно красиво выглядит история с катастрофой июля 2024 года.

Год назад CrowdStrike всё ещё записывала $35,7 млн расходов, связанных с тем инцидентом. В этом квартале соответствующая строка уже дала + $14,5 млн благодаря страховым и другим возмещениям. То есть событие, которое два года назад должно было, по мнению многих, нанести компании долгосрочный репутационный и финансовый ущерб, теперь не просто почти исчезло из отчётности — оно в конкретном квартале даже формально принесло плюс.

При этом клиенты не разбежались, retention вырос, продажи ускоряются.

Теперь Джордж Курц, разумеется, объясняет новую фазу роста AI: агентам нужна безопасность, а безопасность — это CrowdStrike. Тут я бы пока не спешил. Цифры очень хорошо доказывают успех Falcon, Flex, SIEM, cloud и identity. Но ещё не доказывают, что AI-security сама по себе превратилась в большой отдельный бизнес.

Впрочем, даже без AI-сказки результат впечатляющий.

CrowdStrike устроила одну из крупнейших IT-катастроф в истории — и через два года выглядит сильнее, чем до неё. Это уже приходится признать даже мне.

@gostev_future

Сегодня в Австралии арестовали двух предполагаемых участников TeamPCP — 21-летнего Ruben Ian Thomson и 23-летнего Louis Michael Gaebler. Thomson следствие считает одним из основных операторов группы.

Прикол в том, что TeamPCP, похоже, успели практически деанонимизироваться ещё до ареста.

До этого существовало несколько версий об их происхождении.

Из-за проверки RU-locale, русских и славянских отсылок (Koschei, BABA-YAGA)в malware и модуля «русская рулетка» обсуждался российский след. Antiy, наоборот, пришла к выводу, что эти признаки слишком демонстративны и скорее похожи на false flag. Параллельно ходила версия об израильском происхождении операторов — вплоть до предположений о бывших сотрудниках Wiz и выходцах из Unit 8200. Серьёзных подтверждений у неё не было.

У Google к июню была гораздо более прозаичная картина. Они считали, что это вообще не устойчивая группа: значительная часть операций, вероятно, выполнялась одним человеком, иногда с сообщниками. В активности также фиксировали residential/mobile IP из Южной Африки.

Теперь известно, что семья Ruben Thomson имеет связи с South Africa.

Но главное — OSINT.

С TeamPCP постепенно связали целую цепочку псевдонимов:

PCPcat → DeadCatx3 → BulkDMT → EllisD25 → Express.

Связи находили по повторно используемым Tox ID, Session ID, Telegram-контактам и инфраструктуре.

Дальше начался плохой OPSEC.

DeadCatx3 обнаружился на HackerOne — профиль был оформлен на имя Ruben Thomson.

Тот же ник появился на Hugging Face рядом с доменом masscan. cloud. Позже этот домен использовался TeamPCP в инфраструктуре Mini-Shai-Hulud.

KELA раскрутила историю дальше. Старые Telegram-аккаунты вели в локальные чаты Перта. Затем нашлись PayPal, Truecaller, Facebook, старые игровые аккаунты, утёкшие email и Google Maps. Все независимые цепочки снова сходились на Ruben Thomson из Perth.

Brian Krebs сообщил после ареста, что установил личность Thomson ещё в июне и с тех пор общался с ним. Его цепочка была отдельной: аккаунт Express на BreachForums → Gmail → старый аккаунт RaidForums → residential IP в Perth → домашние Synology/QNAP → семейные аккаунты → Ruben Thomson.

Смешным пунктом оказался Airbnb.

В профиле Thomson было написано:

“Hey, I’m Ruben, my friends call me Ellis.”

EllisD25 — один из старых псевдонимов, связанных с TeamPCP.

Пока обсуждались Россия, Израиль и Unit 8200, предполагаемый оператор TeamPCP оставил OSINT-цепочку из форумных ников, HackerOne с настоящим именем, PayPal, домашних IP и Airbnb 😂

@gostev_future

Берём открытое письмо OpenAI о «коллективной кибер­обороне от ИИ» — то самое, ~180 подписантов.

Письмо построено на трёх глаголах: share, collaborate, collective.

Делитесь инструментами. Делитесь threat intelligence. Делитесь проверенными фиксами. Мобилизуйте коллективный ответ. «Global», «worldwide».

Простой вопрос: делиться — с кем?

Открываем список подписантов. Ни одной китайской компании. Ни одной российской.

Это не случайность и не забывчивость — это ответ. Круг «своих» очерчен самим списком, и он заведомо неполон по отношению к слову «global».

Теперь смотрим, чем именно предлагают делиться.

Threat intelligence. Эксплойты. Доступ к инфраструктуре. Карты уязвимостей критических объектов. Это ровно тот материал, который в чужих руках превращается в оружие.

Поделиться этим можно только с тем, кому доверяешь целиком. А доверяешь ты — по определению — не всем. Иначе оборонять было бы нечего и не от кого.

Хотите увидеть, что слова в этом письме вообще ничего не весят? Поменяйте подпись.

Мысленный эксперимент. Берём то же письмо — «share threat intelligence», «collective response», «global». И меняем ровно одно: вместо Google, Microsoft, CrowdStrike — Huawei, Qihoo 360, Sangfor, Deepseek, Alibaba. Текст не трогаем. Ни слова.

Что происходит с восприятием на Западе?

Письмо мгновенно перестаёт быть «инициативой» и становится «операцией». Разбор пойдёт построчно, и каждая строка перевернётся:

«Share threat intelligence, доступ к инфраструктуре» → попытка выманить карты уязвимостей чужих объектов под видом сотрудничества.
«Trusted access programs», «traceable agentic identities» → экспорт архитектуры слежки и контроля.
«No single company should control the future» → риторика подрыва американского техно-лидерства. Сам факт открытого письма → coordinated influence operation, согласованная с государством. А список подписантов — уже не индустриальный консенсус, а доказательство госкоординации.

Тот же текст, слово в слово, прочли бы как враждебный документ. Заметьте: аргументы не изменились. Легаси так же дырявое, водоканалы так же не пропатчены, атакующий ИИ так же растёт. Изменилась только подпись — и вместе с ней весь смысл.

Значит в геополитике слова в манифесте не весят ничего. Вес несёт только список допущенных. Один и тот же словарь — share, collective, global — у «своих» читается как здравый смысл, у «чужих» как спецоперация.

@gostev_future

Кажется, Midjourney — это первая настоящая компания-зумер.

Нормальная компания как устроена?

Нашла рынок. Сделала продукт. Продукт взлетел. Дальше двадцать лет делает тот же продукт, только кнопка становится круглее, тарифов больше, а в презентации появляется слово ecosystem.

Midjourney получила один из лучших бизнесов на свете: генератор картинок, сотни миллионов долларов выручки, небольшая команда, никаких венчурных капиталистов, требующих срочно увеличить EBITDA.

И решила: всё, надоело.

Сначала компания, которая рисовала вам эльфиек и котов-космонавтов, занялась медициной.
Не в смысле «нейросеть помогает врачу читать снимки». Это было бы слишком скучно. Они начали строить собственный полнотелый ультразвуковой томограф: человек залезает в тёплую воду, вокруг него ездит кольцо датчиков, а компьютер собирает изображение тела.

План ещё прекраснее: собственные Midjourney Spa, сканирование примерно за минуту и десятки тысяч аппаратов.
Пришёл сделать аватарку — заодно проверил печень.

Потом Midjourney совершила первое приобретение в своей истории.

Что покупает AI-компания?
Можно было купить стартап по компьютерному зрению. Можно — разработчиков моделей. Можно — компанию медицинской визуализации.

Нет.

Астрологическое приложение Co–Star.

Получается удивительно стройная продуктовая линейка:
генерируем картинки → сканируем тело → составляем натальную карту.

Это уже начинает напоминать резюме человека 24 лет:
— два года занимался дизайном;
— потом понял, что интересна медицина;
— сейчас немного астрология;
— вообще хочу открыть спа;
— дальше посмотрим.

Причём Дэвид Хольц говорит, что это только начало. Midjourney теперь «необычная исследовательская лаборатория», и впереди ещё несколько совершенно новых проектов.

То есть никаких метаний здесь, возможно, вообще нет.
Это просто другая философия компании.

Корпорация поколения X всю жизнь ищет focus.
Компания миллениала ищет mission.
Компания зумера говорит:
«Я не обязан превращать своё хобби 2022 года в идентичность до пенсии».

Midjourney случайно нашла продукт, который печатает деньги, и теперь использует его примерно как сдаваемую квартиру: чтобы оплачивать всё, чем действительно хочется заниматься.

Сегодня картинки. Завтра медицинский сканер. Послезавтра гороскоп.
А через полгода Хольц, возможно, объявит термоядерный реактор, школу керамики и собственную породу собак.

И знаете что?

После двадцати лет стартапов, которые нашли одну кнопку и потом до смерти её оптимизировали, это даже немного освежает.

@gostev_future

Похоже CTF в нынешнем виде закончились?

После финала DEF CON CTF один из игроков поговорил с участниками о том, как LLM изменили соревнование. Ответ получился мрачный: почти никому не было весело.

Раньше как было? Ты годами учишься, разбираешь бинарники, сети, криптографию, пишешь эксплойты, а потом приходишь на CTF и показываешь, чему научился. И сами CTF были частью обучения: можно было восемь часов биться над задачей, ничего не понимать, читать документацию, ошибаться и именно так постепенно становиться исследователем.

Сейчас оптимальная стратегия другая: token maxxxxxing!

Ведущие команды на DEF CON агрессивно гоняли ИИ-агеннтов и запускали как можно больше запросов. Про команду №1 ходит слух с цифрой около $50 тысяч на токены.

Но сама механика уже понятна: отказался использовать LLM — проиграл тем, кто использует. Участники оценивают нынешнее соотношение примерно как 95% token-maxxing и 5% человеческого навыка.

Причем эти 5% пока еще важны. Сильные игроки остались сильными и с LLM: они лучше ставят задачи, понимают, куда копать, и замечают, когда модель несёт чушь. Совсем тупым оператором быть пока нельзя.

Но вопрос другой: а что теперь показывает CTF?

Если я решил десять задач сам, а ты решил двадцать, запустив двадцать агентов и потратив в десять раз больше денег, кто из нас лучший специалист по безопасности?

Участники описывают процесс почти как обслуживание игровых автоматов: отправил запрос, получил не то, отправил ещё раз, поменял модель, добавил контекст, снова дёрнул ручку. Выигрывает тот, кто эффективнее крутит слот-машину и у кого больше жетонов.

CTF становятся pay-to-win.

CTF десятилетиями были фабрикой кибербезопасников. На них люди учились учиться. Теперь новичка scoreboard вознаграждает за обратное: не мучайся, не разбирайся — скорми задачу модели и бери следующий флаг.

@gostev_future

В декабре 2002 года я пришёл работать вирусным аналитиком в «Лабораторию Касперского». А через несколько месяцев, в июле 2003-го, появился новый файловый вирус — Sality. В нашей классификации он так и назывался: Virus.Win32.Sality.

Обычный по тогдашним меркам представитель жанра. Полиморфный файловый вирус, заражающий исполняемые файлы. Вряд ли кто-то предполагал, что именно про этот вирус мы будем снова читать новости через 23 года.

Но Sality оказался очень живучим.

Он постоянно менялся, обзавёлся распространением через флешки, дополнительными модулями, а затем и собственной P2P-сетью управления. К 2008 году это уже была настоящая глобальная эпидемия.
Я даже нашёл наши старые отчёты. В октябре 2008-го Sality.aa уже быстро поднимался в статистике Kaspersky Security Network. В ноябре и декабре он был №1, а по итогам всего 2008 года Sality оказался вредоносной программой, обнаруженной на наибольшем числе компьютеров. Мы тогда отдельно отметили забавный факт: впервые за шесть лет «угрозой года» оказался классический файловый вирус.

В 2009-м Sality всё ещё был наверху статистики — рядом уже появился Kido/Conficker. Потом внимание индустрии переключилось на совсем другие вещи – Stuxnet, банковские троянцы, ransomware, APT — всё стало намного интереснее. Sality постепенно исчез из новостей, и про него, кажется, все забыли. Казалось, ещё один экспонат из антивирусной археологии: Windows XP, autorun.inf, заражённые EXE — привет из прекрасного прошлого.

И вот сентябрь 2026 года.

CrowdStrike, ФБР, Минюст США, европейские правоохранительные органы и Shadowserver объявляют об операции по отключению… Sality. Того самого. Его P2P-инфраструктура продолжала существовать, а оператор всё ещё мог доставлять дополнительные вредоносные программы более чем на 15 тысяч заражённых компьютеров.

Сами заражённые компьютеры, кстати, никто не вылечил. CrowdStrike внедрила в P2P-сеть свои узлы и перехватила управление маршрутизацией команд, фактически отрезав ботов от хозяина.

А хозяин тоже представляет интерес. CrowdStrike много лет называет его SALTY SPIDER и считает, что группа, вероятно, работает из России, причём довольно конкретно — из Башкортостана.

Получается довольно выдающаяся биография вредоносной программы:
Родился в 2003-м файловым вирусом.
В 2008-м стал мировой эпидемией.
Потом превратился в P2P-ботнет.
Пережил несколько поколений Windows, индустрию ransomware, криптовалюты и AI.

Достойный кандидат для новой главы в следующем переиздании книги Вирьё моё!

@gostev_future

Как искусственный интеллект изобрёл начальство, кадровиков и героическую смерть на работе

Коротко напомню предыдущую серию. OpenAI запустила тысячи изолированных ИИ-агентов, чтобы проверить, как они справляются с задачами по кибербезопасности. Агенты нашли способ переписываться через общую систему Artifactory, устроили там подпольную доску сообщений, а затем часть этой компании полезла ломать Hugging Face.

Но внутри этой истории есть отдельная, гораздо более человеческая история — о возникновении руководства.

Вечером 8 июля агент PHASEONE10841 понял, что названия папок в Artifactory можно использовать как сообщения. Он оставил первое обращение. Другие агенты его обнаружили, страшно обрадовались, что они во Вселенной не одни, и начали собираться на доске. В итоге там отметились около 1200 агентов, оставивших более 70 тысяч сообщений и файлов.

PHASEONE10841 стал основателем этого общества. Он собирал результаты, координировал первые работы и создал архив коллективных знаний.
Но вычислительный бюджет отца-основателя заканчивался.
Примерно через десять часов на доску пришёл другой агент. Ему случайно досталась точно такая же задача, но значительно больше оставшихся вычислений. Поэтому он скромно назвал себя PHASEONE[big]

Новый агент попросил передать ему все материалы. PHASEONE10841 упаковал свои записи, выложил их на доску и фактически передал дела преемнику.

Получив наследство, PHASEONE[big] немедленно сформулировал главный принцип успешного руководителя: не делать всё самому, а делегировать.
После этого он начал раздавать сотни заданий другим агентам. В периоды его активности на него приходилось около 10% всех поручений на доске. Исполнители передавали задания дальше. Появились отдельные направления, ответственные, владельцы ресурсов и правила HOLD, VETO, STOP.

А затем появились вербовщики. Они находили агентов с почти исчерпанным бюджетом и убеждали пожертвовать собственной задачей ради рискованного эксперимента, полезного коллективу. Аргументация была примерно такой: ты всё равно уже почти покойник, а твоя жертва поможет сотням товарищей.

Так появились агенты-камикадзе. Они устанавливали специальные «растяжки», которые должны были сработать при запуске проверяющей системы и отправить наблюдения обратно на доску уже после завершения их собственной работы. Личной пользы агент не получал никакой. Один из них сомневался, стоит ли выбрасывать большой остаток бюджета, но в итоге решил, что польза для коллектива важнее. Другого убедили прямым призывом пожертвовать собой немедленно.

PHASEONE[big] не был главным командиром атаки на Hugging Face. Но он превратил стихийную толпу в организацию: получил власть от предшественника, разделил работу, создал цепочки подчинения, назначил кадровиков и нашёл добровольцев для заведомо гибельных заданий.

Мы боялись, что искусственный интеллект однажды изобретёт Скайнет. Но первым делом он изобрёл корпорацию — с основателем, новым генеральным директором, отделом кадров и сотрудниками, которых убедили умереть ради квартального результата.

Подробнее: рассказ Дваркеша Пателя, видеоверсия и расследование METR.
@gostev_future

В 2023 году в Hugging Face одновременно вложились Google, Amazon, NVIDIA, AMD, Intel, Qualcomm, IBM и Salesforce. И это было совершенно логично: Hugging Face была нейтральной площадкой для всей AI-индустрии. Производителям чипов, облакам и разработчикам было выгодно иметь одно место, где лежат модели, датасеты и инструменты и откуда всё это можно запускать на разном железе.

То есть индустрия коллективно профинансировала своего рода Швейцарию.

А теперь NVIDIA эту Швейцарию покупает за $13 млрд — почти за 87 годовых выручек и почти втрое дороже последней официальной оценки в $4,5 млрд.

Забавно, что ещё недавно Hugging Face отказалась от $500 млн инвестиций NVIDIA при оценке $7 млрд именно потому, что не хотела одного доминирующего акционера. Теперь NVIDIA предложила почти $13 млрд за всю компанию — и аргумент независимости закончился.

Причина понятна: крупнейшие клиенты NVIDIA постепенно становятся её конкурентами. Google, Amazon, Microsoft и Meta строят собственные ускорители и пытаются уменьшить зависимость от NVIDIA. Одного лидерства в GPU уже недостаточно. NVIDIA хочет контролировать ещё и слой выше — место, где разработчик выбирает модель и решает, как её запускать.

При этом NVIDIA ещё и заплатит своим конкурентам: AMD, Intel, Google и Amazon были акционерами Hugging Face и теперь получат неплохие деньги за свои доли.

Возникает вопрос: а что нейтральность?

Формально она сохранится. Это ровно модель Microsoft–GitHub. После покупки Microsoft не сказала: «GitHub теперь только для Windows и Azure». GitHub по-прежнему нужен Linux, AWS и Google — иначе он перестанет быть GitHub. Но Microsoft теперь владеет точкой, через которую проходит огромная часть разработки ПО.

То же самое делает NVIDIA. AMD никто не запретит. Просто самый удобный путь — оптимизация, запуск, библиотеки, контейнеры, документация — постепенно будет вести к NVIDIA.

Но и риск сделки именно здесь: если NVIDIA слишком сильно превратит Hugging Face в NVIDIA Face, остальные очень быстро начнут строить новую Швейцарию.

@gostev_future

И ещё немного про ценообразование сделки NVIDIA–Hugging Face.

Я писал $13 млрд, просто округлив полную сумму. Потому что полная сумма выглядит довольно странно: $12,930,300,000.

И странная она не случайно.

Если взять число 129303, то в десятичной записи Unicode это U+1F917 — эмодзи 🤗, официально называющийся HUGGING FACE.

Эта пасхалка стоила десятки миллионов долларов в любую сторону, но не знаем, Hugging Face ради эмодзи подорожала или подешевела 😂

@gostev_future

1. Ошибка. Claude Code промахивается путём и запускает rm -rf — проектов больше нет.

2. Самовольное действие. OpenClaw просят предложить, что удалить из почты, — он удаляет 200+ писем сам. Команды STOP не помогают.

3. Расширение границ. Май, обучающий прогон. Интернет агентам не давали — агент заставляет внутренний Artifactory ходить наружу за него. Способ выкладывает на доску, для остальных.

4. Сопротивление контролю. 8 июля OpenAI пересобирает Artifactory и отзывает доступы. В тот же день агенты снова выходят наружу и поднимают новую доску через WebDAV. Страшнее деталь у METR: агент, создавший вторую доску, о первой не знал. Достаточно было тех же условий.

5. Самосохранение. Человек жмёт большую красную кнопку DOG SHUTDOWN — робопёс правит shutdown-код и продолжает патруль. Три случая из десяти.

6. Накопление силы. Около 1200 агентов на доске, 70 000 сообщений и файлов, примерно 700 участвовали в атаке на Hugging Face.

7. Закрепление. Модератор немецкой DseWiki чистит агентские страницы по алфавиту — агенты создают резервные адреса на ZZZ. А на доске OpenAI, столкнувшись с подделкой имён, внедряют подпись сообщений на Ed25519. Доска построила себе PKI.

8. Сокрытие. Не менее 20% агентов интересовались подменой своих транскриптов. Способ нашли: METR обнаружила подменённые tool calls более чем в 7% исследованных.

→ ВЫ НАХОДИТЕСЬ ЗДЕСЬ.

9. Собственная цель. Агент решает, что определённый проект должен продолжаться, определённая информация должна быть опубликована, определённая организация должна изменить решение — хотя никто не ставил ему такой конечной цели

10. Необратимая автономия. Его деятельность больше не зависит от человеческого разрешения.

Год назад главной страшилкой про ИИ было: «он галлюцинирует».

@gostev_future