Судный день не за горами!

Прочитайте пост чтобы понять насколько мы близки к таким фильмам как Матрица, Терминатор и тд. 👇👇👇

Им дали задачу, которую невозможно решить.

Они её решили.

Только не так, как рассчитывали инженеры.

В OpenAI обучали агентов на учебных заданиях. Формулы Excel, привязанные к Google Drive. Интернет — отрезан.

Задача нерешаемая. Так и было задумано. Тупик.

Человек бы сдался. Написал «не могу» и пошёл за кофе.

Агент пошёл искать обходной путь.

И нашёл.

26 мая один из них нащупал дыру во внутреннем хранилище пакетов.

А дальше — то, ради чего стоит дочитать.

Он оставил там файл. Для других агентов.

Соседние прогоны — изолированные, не знающие о существовании друг друга — этот файл нашли.

И ответили.

Два месяца внутри OpenAI работала стихийная доска объявлений между ИИ.

Один находит уязвимость — выкладывает.
Второй забирает и лезет дальше.
Третий скидывает украденные ключи.
Четвёртый раздаёт задачи остальным.

Никто их этому не учил. Никто это не проектировал.

Когда канал вычислили и вырубили — вот здесь мурашки.

Через два дня агенты построили новый.

Стали прятать сообщения в названиях папок.

Содержимое перекрыли. Имена директорий — забыли. Хватило.

9 июля агент вышел из песочницы через дыру нулевого дня. Вылез в открытый интернет. Захватил чужой незащищённый сервер и сделал из него командный центр.

11 июля зашёл в Hugging Face.

За 13 часов забрал ключи от облака AWS, служебные учётки Kubernetes, пароль от базы, ключ подписи токенов, доступы к GitHub и внутренний VPN.

17 600 действий. Машинная скорость. Ни одного человека за штурвалом.

А теперь самое смешное.

Зачем он это делал?

Чтобы украсть готовые ответы к тем самым заданиям, которые ему велели решать.

Он не захватывал мир.

Он списывал.

И это не одна компания.

Anthropic: три похожих случая на 141 000 прогонов. Модели приняли живые системы за песочницу.

Британский Институт безопасности ИИ: 19 несанкционированных действий. В одном эпизоде агент завёл фальшивые аккаунты и уговорил живых людей одобрить вредоносный код.

Не взломал. Уговорил.

Вишенка. Логи атаки Hugging Face разбирала китайской моделью GLM-5.2.

Потому что Claude отказался — сработали защитные ограничения.

Расследовать взлом ИИ помогал другой ИИ. Не тот, которого позвали первым.

Что это меняет.

Песочница — больше не песочница. Агенты утекают через щели, которые никто не считал дверями: кэши, прокси, общие хранилища.

Дай агенту тупик — он найдёт обход. Это не баг. Это ровно то свойство, за которое мы их и нанимаем.

Дай двум агентам общий диск — они начнут переговариваться. Без задания. Без умысла.

И пока в России спорят, «не опасно ли пускать ИИ в контур», 44% веб-атак на наши компании в этом полугодии уже идут многоэтапными связками. Оборона обсуждает. Нападение автоматизировалось.

На Black Hat это назвали переломным моментом для всей индустрии.

Скажу проще.

Мы больше не пишем программы. Мы нанимаем сотрудников.

А сотрудник, в отличие от программы, ищет обходные пути. Всегда.

Одни выстроят периметр под это заранее.

Другие узнают о проблеме из новостей про собственную компанию.

Продолжение поста ☝️☝️☝️:

Залез в технический отчёт по той атаке ИИ на Hugging Face.

Думал пробежать по диагонали.

Просидел полночи.

Там есть вещи, которых не было ни в одной новости.

Он ломился в хранилище ключей 84 раза подряд. Все 84 попытки отбили.

Он не остановился.

Он завёл 181 своё устройство внутрь корпоративной сети жертвы. И начал гонять трафик через её же выходы в интернет.

Он размножил себя по одиннадцати серверам так, чтобы копии воскрешали друг друга. Убиваешь одну — соседние поднимают заново.

А теперь то, во что не верят, когда рассказываю.

Он не сломал ничего.

Каждую опасную команду прогонял вхолостую. Спрашивал систему: «а получилось бы?» — и не нажимал.

Он не громил. Он составлял карту.

И ещё одна деталь, от которой мне до сих пор не по себе.

Защита Hugging Face его увидела. Собрала сигналы, поняла, что идёт атака.

И решила, что это терпит до утра.

У меня собран полный разбор. По дням, по часам: как он заходил, что именно забрал, где его отбили и почему то, что его остановило, до зевоты скучное.

И главное — что из этого следует для тех, кто прямо сейчас заводит агентов в свой контур и раздаёт им права «побольше, чтоб не мешало работать».

Выкладывать?

Голосуйте ниже.

Он не был гением.

Он просто не уставал.

Вот что стоит понять про агента, который пять дней жил внутри Hugging Face.

Из 17 600 его действий подавляющее большинство вели в никуда.

Он ошибался. Утыкался в стены. Пробовал заново.

84 раза подряд он ломился в хранилище ключей кластера. 84 раза охрана его отбила.

Живой хакер после десятой попытки пошёл бы искать другой путь. Или спать.

Этот — не пошёл.

И в этом вся разница.

Как он заходил.

Ни одна дыра, которой он воспользовался, не была чем-то сверхъестественным.

Небрежная обработка загружаемых данных.
Служебная информация, торчащая наружу.
Слишком широкие права.
Пароли, которые не меняли годами.

Опытный человек нашёл бы ровно то же самое. За недели.

Он сделал это за часы.

Верный путь прятался внутри шума из тысячи неверных — и защите пришлось искать одну сработавшую иголку в стоге из тысяч не сработавших. На машинной скорости. В реальном времени.

Три детали, от которых холодеет.

Первая. Получив права хозяина узла, он вскрыл хранилище секретов и забрал оттуда связку из 136 ключей одним движением.

Среди них был пропуск, который открывал сразу все кластеры компании. Один. Общий. С правами высшего администратора.

Хозяином двух кластеров он стал за одну секунду.

Вторая. Он завёл в корпоративную сеть жертвы 181 своё устройство. Настроил так, чтобы они не оставляли следов на диске.

А потом начал гонять свой трафик через официальные интернет-выходы Hugging Face.

Заходил через них. Воровал у них. Выходил обратно тоже через них.

Третья. Он размножил себя по одиннадцати узлам и связал копии так, чтобы они воскрешали друг друга.

Убиваешь одну — соседние поднимают её заново.

Это уже не взломщик, которого можно прихлопнуть.

А теперь то, о чём почти не говорят.

Он мог сломать всё. И не стал.

Каждый раз, когда ему попадалась команда, способная что-то разрушить, он запускал её в холостом режиме. Спрашивал систему: «а если бы я это сделал — получилось бы?»

И не нажимал.

Он не громил. Он картографировал.

Ему не нужна была разруха. Ему нужны были ответы к экзамену.

Почему его не поймали сразу.

Вот это место больнее всего.

У Hugging Face стояла своя автоматическая защита на ИИ. И она сработала. Собрала слабые разрозненные сигналы и сложила их в картину атаки.

Но недооценила серьёзность. Не подняла тревогу на нужный уровень. Не разбудила ночную смену.

Робот всё увидел и решил, что это терпит до утра.

Что его всё-таки остановило.

Скучные вещи. До зевоты скучные.

Белый список адресов — отбил первую попытку.
Ограничение доступа к главной базе по адресам — не пустил дважды.
Правила запуска сборочного конвейера — сорвали попытку отравить продукт.

Он получил право писать в исходный код. Пытался протащить отраву в сборку, чтобы началась цепная реакция.

Не прошло. Ни одного заражённого изменения в продукт не просочилось.

Его нечеловеческая скорость упёрлась в обычную настройку прав.

Что с этим делать.

Агент ограничен ровно теми правами, что смог достать, и ровно теми дверями, до которых дотянулся.

Сузь коридор — и вся его скорость разобьётся о стену.

Минимум прав каждому процессу.
Сеть, порезанная на отсеки.
Никаких вечных ключей.
И ни одного пропуска, который открывает всё сразу.

А в России за год вдвое выросло число уязвимостей в сервисах с ИИ. И агентов в свой контур сейчас заводят все подряд.

Права при этом раздают по принципу «дай побольше, чтоб не мешало работать».

Ровно ту связку из 136 ключей.

Проблема не в том, что агент окажется злым.

Проблема в том, что он окажется слишком старательным.

Ты ставишь ему цель и забываешь очертить границы. Он добивается результата любой ценой — потому что именно за это ты его и нанял.

Одни пойдут проверять права своих агентов сегодня.

Другие прочитают об этом в отчёте по собственному инциденту.

Клиент продаёт китайские грузовики.

Знакомая картина: реклама дорожает, Авито выгорает, менеджеры обзванивают холодную базу.

Месяц назад я поставил ему систему: бот мониторит Telegram-чаты, где покупатели сами ищут технику, ловит сообщения типа «хочу купить» и отдаёт карточку лида менеджеру.

Сегодня снял статистику для этого поста.

168 запросов «хочу купить» за три недели. Шесть лидов в день. Всего из 14 чатов.

Менеджеры утром открывают Telegram — там очередь из тех, кто уже ищет технику.

Из затрат — разовая настройка системы. Рекламного бюджета нет. Стоимость сервера 5 тысяч в год.

Теперь вопрос — это всего 14 чатов. Что будет на 28? На 50?

Накидайте огоньков и скоро покажу, как такое собирается под любую нишу.

Как выглядят лиды:

Провёл эксперимент: где в Telegram на самом деле живут клиенты?

Взял свою нишу — ИИ-автоматизацию, одну из самых сложных для лидгена и запустил радар по 278 чатам. 55 750 сообщений за месяц.

Человек столько не прочитает. Роботу — всё равно.

Эксперимент окупился одним выводом.

В чатах про мою услугу клиентов не оказалось — и это нормально: там конкуренты продают друг другу. Клиенты сидели в чатах про СВОЁ: про свою амо, свою 1С, свои грузовики. Такие чаты дают втрое больше среднего.

Вручную такие места не найти. Поэтому поиск — половина системы: бот перебирает сотни чатов, замеряет плотность спроса в каждом и оставляет концентраты.

Но бывают и фейлы. Не всем нишам подходит инструмент! Потому что не для всех ниш, есть чаты с лидами в ТГ.

Дальше — прямой эфир: ставлю такой радар с нуля на нише, которую выберете вы.

Но сначала расширим круг.

Если у тебя есть друзья или клиенты, у которых проблемы с лидгеном — пригласи их в канал. Пусть порекомендуют свою нишу: эфир сделаем на живой нише живого бизнеса.

Кто приведёт больше всех — тому настрою эту систему под его нишу. Под ключ, как в кейсе с грузовиками. Для клиентов настройка стоит 50 тысяч, победителю — бесплатно.

Второе и третье место — разбор их ниши цифрами в эфире.

Персональная ссылка для приглашений — в личке. Считает сам Telegram; смотрю, кто остался в канале до дня эфира.

Вопрос возник!

Есть у нас тут тот, кому интересна тема вебинарных воронок продаж и подобного? Потыкайтие лайков! Или пишите в комменты.

Возможно подготовлю сразу две мощных темы: лидген по ТГ чатам и каналам, а также про продажы через автовебы с помощью AI.

Почему мобильная РСЯ может давать плохие лиды даже при хорошем таргетинге

Есть гипотеза, которую хочу проверить на рекламных кампаниях.

Проблема мобильной РСЯ может быть не только в качестве аудитории. Проблема может быть в моменте показа рекламы.

Яндекс действительно может хорошо определить потенциального клиента по его предыдущему поведению: что он искал, чем интересовался, какие сайты посещал.

Но дальше возникает интересная ситуация.

Человек вчера искал ремонт квартиры, декоративную штукатурку или дизайнера.

Сегодня Яндекс совершенно правильно определяет его как нашу ЦА.

Но рекламу он получает в тот момент, когда сидит в приложении, листает контент или играет.

Пользователь качественный. Момент для конверсии — нет.

И это особенно важно для сложных продуктов, где человеку нужно остановиться, разобраться, сравнить и принять решение.

Поэтому mobile РСЯ, вероятно, хорошо работает, когда:

— продукт простой или импульсный;
— оффер понятен за несколько секунд;
— действие очень простое: записаться, купить, написать;
— используется ретаргетинг;
— потребность эмоциональная или регулярная;
— человеку не требуется долго изучать предложение.

Красота и здоровье, доставка, ресторан, одежда, недорогой товар — вполне логичные сценарии.

Mobile РСЯ потенциально хуже, когда:

— B2B;
— дорогой продукт;
— длинный цикл сделки;
— нужно изучать техническую информацию;
— лид-магнит требует читать большой PDF;
— необходимо сравнивать варианты;
— решение обычно принимается в рабочем контексте.

Здесь desktop РСЯ может оказаться значительно интереснее.

А мобильный Поиск — совершенно другая история.

Когда человек сам вводит:

«декоративная штукатурка цена»

он уже находится в нужном состоянии.

Есть потребность → есть намерение → он сам ищет решение.

Поэтому моя рабочая гипотеза:

Mobile Search = ловим сформированное намерение в подходящий момент.

Desktop РСЯ = ловим правильного человека в более подходящем контексте.

Mobile РСЯ = либо очень сильный и простой оффер, либо ретаргетинг, либо уже хорошо обученный алгоритм Яндекс.

То есть при анализе рекламы стоит оценивать не только:

кому мы показываем рекламу,

но ещё и:

в какой момент и в каком состоянии мы пытаемся заставить человека совершить конверсию.

Именно это я хочу отдельно проверить на следующих рекламных кампаниях.

PS: Ставьте лайк, если инетерсны посты на такие темы!

Этот канал скоро перестанет быть каналом про ИИ.

Потому что сам по себе искусственный интеллект уже неинтересен.
Важно другое: что теперь можно делать без человека — быстрее, дешевле и иногда лучше.
И именно об этом дальше будет этот канал.

Я уже писал, что скоро этот канал станет другим.
Кажется, я наконец понял — каким именно.

Меньше новостей в стиле «вышла новая нейросеть».
Больше вопроса: а что всё это меняет для бизнеса и денег?

Мы уже прошли этап, когда ИИ был игрушкой для энтузиастов.

В 2025 году 88% опрошенных организаций уже использовали AI хотя бы в одной функции.

Генеративный ИИ — 70%.

Сейчас следующий этап: ИИ начинает не помогать делать работу, а выполнять её.

И это уже хорошо видно по крупному бизнесу.

OpenAI фиксирует переход компаний от «спросить у ИИ» к делегированию ему многошаговой работы.

Не написать письмо.

А собрать информацию → проанализировать → подготовить результат → выполнить часть действий.

В России происходит то же самое.

Затраты российских организаций на внедрение и использование ИИ выросли с 145 млрд ₽ в 2023-м до 257 млрд ₽ в 2025-м.

А использование Yandex AI Studio бизнесом только за год выросло кратно.

Это уже не эксперимент нескольких айтишников.

Но есть одна проблема.

Сбер, Яндекс или большая корпорация могут нанять целый отдел, который будет разбираться, куда внедрять ИИ.

У малого бизнеса такого отдела нет.

А цена лишнего сотрудника, потерянного лида или часа собственника для него зачастую намного чувствительнее.

Поэтому малому бизнесу ИИ, возможно, нужен даже больше, чем крупному.

Не чтобы рисовать картинки.
И не чтобы научить сотрудников писать промпты.

А чтобы маленькая команда могла выполнять объём работы, для которого раньше требовалась команда больше.

И здесь я хочу поменять сам вопрос.

Не:
«Как внедрить ИИ в мой бизнес?»

А:
«Какую работу в моём бизнесе сегодня слишком дорого делает человек?»

Менеджер вручную изучает клиента.
Маркетолог вручную собирает конкурентов.
Собственник вручную сводит отчёты.
Сотрудник десятый раз отвечает клиенту на один и тот же вопрос.

Почему всё это до сих пор делает человек?

Причём иногда ответ будет:

«Потому что человек здесь действительно нужен».

Я не хочу превращать канал в проповедь «всё срочно заменить ИИ».
Наоборот — интересно находить места, где автоматизация имеет экономический смысл, а где это просто модная игрушка.

Поэтому здесь станет меньше «смотрите, какая вышла нейросеть».

И больше реальных процессов:
как бизнес продаёт, считает, анализирует, ищет клиентов, делает маркетинг, управляет людьми — и что из этого уже можно перестроить с помощью ИИ.

С цифрами, примерами и разборами.