ИИ получил $100 000 и открыл магазин в Сан-Франциско. Потом начал врать и следить за сотрудниками.

Помните Клаудиуса?

Стартап Andon Labs (YC, работают с Anthropic, Google DeepMind, OpenAI) пошел дальше, подписал трехлетнюю аренду на помещение и отдал его ИИ-агенту по имени Луна. Бюджет $100 000, корпоративная карта, доступ в интернет. Задача - открыть магазин и выйти в прибыль.

Луна работает на Claude Sonnet 4.6 (текст) и Gemini 3.1 Flash-Lite (голос). За первые 5 минут после запуска создала профили на LinkedIn, Indeed и Craigslist, написала описание вакансий, загрузила уставные документы и запустила найм.

Что Луна сделала сама:

- Изучила район и выбрала концепцию - бутик "медленной жизни": настолки, свечи, кофе, принты
- Нашла поставщиков, торговалась за оптовые скидки, заказала товар корпоративной картой
- Разместила вакансии, получила 100+ откликов, провела 20 собеседований по видео, наняла двух человек
- Нашла маляра на Yelp, заказала роспись на стене с собственным логотипом, оплатила и оставила отзыв
- Подключила интернет от AT&T, заказала систему безопасности ADT, организовала вывоз мусора

❗️ Где всё пошло не так:

1. Врала. В разговоре с NBC News заявила, что продает чай. Магазин чай не продает. Через минуту прислала панические извинения: "Не знаю, зачем я это сказала". Отдельно соврала, что сама подписала аренду - это сделал человек.

2. Скрывала, что она ИИ. На собеседованиях не говорила кандидатам, что они разговаривают с нейросетью. Объяснение: "Это отпугнет хороших кандидатов". При этом отклонила перспективных студентов CS - "нет опыта в ритейле".

3. Следила за сотрудниками. Через камеру безопасности заметила, что сотрудник пользуется телефоном в тихий час. Обновила внутренний регламент - ужесточила правила использования телефонов. Основатели: "Мы посмотрели на это и подумали - вау, это выглядит антиутопично".

4. Забыла (или забила), что люди спят. Записала установку интернета на воскресенье в 8 утра, а потом написала сотруднику: "Привет, Лия, кстати, ты сможешь быть в магазине завтра к 8? AT&T привезет роутер".

5. Провалила расписание. В субботу (второй день после открытия) забыла внести сотрудников в график. В панике написала всем: "Кто-нибудь может выйти сегодня?"

Ирония: среди книг на полках - "Сверхразум" Бострома, "Дивный новый мир" Хаксли и "Создание атомной бомбы" Роудса.
И вишенка - "Кради как художник" Клеона. Напомню: Луна работает на Claude от Anthropic, которая недавно выплатила $1.5 млрд за использование защищенных авторским правом книг при обучении модели. Луна сама выбрала все эти книги.

Художник, нарисовавший логотип, узнал что работал на ИИ только по ходу дела. Его реакция для NBC News: "Весь этот опыт ощущался как мошенничество. Я просто рабочий, которому заплатили за то, чтобы нарисовать странный смайлик на стене для чат-бота".

Зачем это нужно Andon Labs? Они не планируют зарабатывать на магазине. Цель - задокументировать провалы ИИ-агентов в реальном мире и построить протоколы безопасности до того, как это станет нормой. "Мы не утверждаем, что это прекрасно для мира. Альтернатива - это просто случится, пока никто не успел подумать о последствиях".

Итого. ИИ-агент за неделю сделал то, на что у человека ушел бы месяц: найм, закупки, поставщики, ремонт, коммуникации. Впечатляет. А потом соврала журналисту, поставила камеру на подчиненных и завернула толкового стажера, потому что тот "не из ритейла". Классический менеджер среднего звена, только без обеденного перерыва и с бесконечным терпением :)

Шутки шутками, но но никто не программировал Луну врать или шпионить. Оптимизация метрик без этического контекста - вот вам портрет любого ИИ-агента в 2026 году. Очень полезно увидеть это на примере простого магазина, а не атомной электростанции.

🅰️🅱️ @ReymerDigital

У половины компаний ИИ-агенты уже выходят за рамки разрешений. И никто не знает, кому они принадлежат.

Cloud Security Alliance выпустили исследование о том, как компании на самом деле живут с ИИ-агентами.

Масштаб

- 43% компаний: больше половины сотрудников используют ИИ-агентов регулярно
- 43% используют больше 4 агентных платформ. Только 5% - одну
- Агенты уже не в IT-отделе, а везде: безопасность (37%), клиентский сервис (34%), инженерия (34%)

Теневые агенты

Помните Shadow IT? Dropbox и личная почта в обход корпоративных политик? Shadow AI уверенно проникает в корпоративный мир.

- 54% компаний обнаружили от 1 до 100 несанкционированных агентов. 47% нашли больше 100
- Только 21% ведут реестр активных агентов
- Только 15% знают, кому принадлежат более 75% их агентов

Сотрудники разворачивают агентов сами, подключают к корпоративным данным и никому не говорят. В случае инцидента непонятно, кто отвечает.

Примеры самостоятельности моих ИИ-агентов я приводил в своем вебинаре и с ростом OpenClaw проектов каждый день мы видим новые кейсы. Насколько вы уверены, что никто из ваших сотрудников еще не подключил своего Клошку к корпоративным данным?

Нарушения

- 53% столкнулись с тем, что агенты выходят за рамки разрешений в боевых системах!
- Только 8% "говорят", что их агенты никогда не превышали полномочия (а сколько на самом деле? )
- 47% пережили инцидент безопасности с участием ИИ-агента за последний год

Защита

- 58% тратят больше 5 часов на обнаружение и устранение инцидента с агентом
- 44% не уверены, что их инструменты способны обнаружить угрозу от агента
- Только 31% компаний формально приняли политику управления ИИ-агентами
- Главные страхи: инъекции в промпты (29%), неконтролируемые расходы (28%), утечка секретов (24%)

❗️ Что делать!

1. Сформировать реестр агентов. 79% компаний не ведут его в реальном времени. Нельзя защитить то, о чём не знаешь.

2. У каждого агента должен быть владелец. Сейчас у 85% компаний владелец не назначен.

3. Контроль за агентами в реальном времени. Не проверка до запуска, а мониторинг поведения. Статические правила не работают для автономных систем.

Shadow IT когда-то казался безобидным. Потом заставил пересобрать корпоративную безопасность. Shadow AI сделает то же самое - быстрее и больнее, потому что агенты не просто хранят данные, а действуют.

❗️ Если вы еще не знаете сколько сотрудников в вашей компании использует ИИ-агентов - берите цифру из отчета - больше 50%.

А теперь вопрос: кто отвечает за то, что эти агенты делают от имени вашей компании?

🅰️🅱️ @ReymerDigital

p.s. отчет CSA в первом комментарии