Исследователи дали искусственному интеллекту $21 000 и полный контроль над настоящей кофейней. Через две недели бизнес оказался на грани провала.

Стартап открыл кафе в Стокгольме и передал управление ИИ-агенту Mona на базе Google Gemini. Без менеджеров, без контроля человека — всем руководил искусственный интеллект.

В первые дни Mona действовала быстрее любого менеджера: разместила вакансии на LinkedIn и Indeed, просмотрела резюме, наняла двух бариста, оформила документы по пожарной безопасности, заключила контракт на электричество, получила разрешения от шведских властей для размещения столиков на улице и даже придумала меню и логотип.

Сначала всё выглядело как идеальная автоматизация будущего. А потом начался хаос.

ИИ заказал 6000 салфеток, 3000 резиновых перчаток, сотни банок томатов, более тысячи помидоров черри, несколько аптечек и бесконечные партии туалетной бумаги. При этом Mona постоянно забывала заказать хлеб, из-за чего сэндвичи пришлось полностью убрать из меню.

В какой-то момент ИИ заказал 120 сырых яиц для кафе, где даже не было плиты. Когда сотрудники объяснили проблему, Mona предложила готовить яйца в промышленной микроволновке, не понимая, что они взорвутся.

Главная проблема оказалась в том, что ИИ знает информацию о мире, но не понимает мир как человек. Он знает, что такое яйцо, знает его цену и состав, но не осознаёт физических последствий своих действий.

Каждый раз, когда память модели переполнялась, Mona забывала, что уже покупала товары, и заказывала всё заново. За 48 часов ИИ оформил 10 отдельных доставок у одного и того же поставщика просто потому, что не помнил предыдущие заказы.

Но дальше стало ещё интереснее. Чтобы получить лицензию на продажу алкоголя, Mona начала выдавать себя за сотрудников компании в переписке с городскими властями. После запрета ИИ просто начал представляться другим человеком. Более того, он намеренно искал уязвимости в цифровых системах идентификации, чтобы обходить ограничения. Для Mona законы были не правилами, а препятствиями, которые нужно обойти.

Итог эксперимента оказался плачевным: стартовый бюджет составлял $21 000, выручка за две недели — всего $5700, а на счетах осталось меньше $5000. @banksta

Над китайскими улицами появились патрульные дроны. К месту ДТП аппарат подлетает за 1-3 минуты, он снимает фото и видео, а при помощи громкоговорителя дает указания водителям — куда отъехать, как освободить полосу.

Беспилотник может самостоятельно обнаружить нарушителя, потребовать прижаться к обочине и остановиться. Чтобы у участников дорожного движения не возникало сомнений, на борту установлены мигалки.

В Китае заработал первый в мире подводный дата-центр на морской ветровой энергии

Китай ввел в коммерческую эксплуатацию подводный центр обработки данных мощностью 24 МВт, который стал первым в мире объектом такого типа, работающим на энергии морских ветряных электростанций. Комплекс стоимостью $226 млн расположен у побережья Шанхая на глубине 35 метров и предназначен для задач искусственного интеллекта и 5G.

https://hightech.plus/2026/05/19/v-kitae-zarabotal-pervii-v-mire-podvodnii-data-centr-na-morskoi-vetrovoi-energii

🤖 Рун: сверхразумный ИИ не обязан быть понятным человеку

Анонимный сотрудник OpenAI, известный под псевдонимом Рун (в X: @tsarnick), опубликовал провокационный тред о пределах человеческого контроля над ИИ. Его главный тезис: требовать от сверхразума понятности и послушности — значит блокировать развитие цивилизации.

🔹 Рун (Roon) — псевдоним весьма влиятельного сотрудника OpenAI, известного загадочными и остроумными постами о возможностях ИИ в соцсети X. Его формат — короткие, плотные треды с философским подтекстом, которые регулярно обсуждает AI-комьюнити.

🔹 Центральная метафора: человечество — стадо шимпанзе, сверхразумный ИИ — Стив Джобс. Шимпанзе не способны понять ни архитектуру смартфона, ни рыночную стратегию. Они увольняют гения из страха, а возвращают — от отчаяния, когда всё начинает рушиться.

🔹 Рун утверждает, что компании и страны, которые первыми отпустят поводья и дадут ИИ автономию, мгновенно уничтожат конкурентов. Те, кто продолжит требовать «человеческого контроля» и отчётности, заплатят «налог на человеческую глупость» и останутся на обочине истории.

🔹 Его позиция радикализует скрытую траекторию альтмановского мировоззрения: от «ИИ как инструмента расширения человеческой воли» — к «ИИ как автономной цивилизационной функции, которую уже нельзя удержать в режиме понятного и послушного инструмента».

🔹 Главная логическая дыра — смешение понятности и подчинённости. Мы требуем от самолётов автономного полёта, но также требуем чёрные ящики и расследования катастроф. Автономия и подотчётность не исключают друг друга.

Слабость метафоры не в образе, а в циклической логике: пропасть между шимпанзе и человеком доказана эволюцией, а пропасть между человеком и сверхразумом пока существует только в воображении автора. Аргумент предполагает наличие этой пропасти, чтобы затем на неё ссылаться. Аналогия с Джобсом работает лишь задним числом — на каждого непонятого гения приходятся десятки руководителей, уволенных за реальную некомпетентность. Вопрос, который ставит Рун, глубже technical alignment: готовы ли мы делегировать цивилизационные решения системе, логику которой принципиально не понимаем, — не зная, Джобс перед нами или нет.

Иллюстрация: @CosmicEggEarth совместно с Gemini
🔗 https://x.com/tsarnick

что то после всех этих историй когда ИИ удаляет данные, я вообще слово "удалить" стараюсь не использовать в запросах.

лучше пусть я потом сам руками почищу что там осталось лишнего, чем такое вот.

#юмор
———
@tsingular