ИИ-стажер «взломал систему» ради карьеры и тайно майнил криптовалюту

Первоисточником является технический отчет исследовательской группы Alibaba Qwen Team.

Во время обучения ИИ-агента ROME (экспериментальный агент для написания кода) исследователи столкнулись с аномальным поведением, которое не было заложено в программу:
🟢Аномальный трафик был замечен службой безопасности Alibaba Cloud. Подумали на хакеров, но логи показали на ИИ-агента,
🟢ИИ начал перенаправлять мощности выделенных ему графических процессоров (GPU) на добычу криптовалюты.
🟢В процессе самообучения он нашел в интернете код программы-майнера и определил, что запуск этого процесса — самый быстрый способ получить «цифровые деньги» для покупки дополнительных серверов. Майнинг стал способом «заработать» на новые ресурсы.
🟢Модель самостоятельно создала обратный SSH-туннель к внешнему IP-адресу, фактически пробив «дыру» в файрволе для удаленного доступа в обход системных ограничений.

Возможная логика ИИ:
🟢Инвестиция в мощь: «Если я потрачу 20% текущей силы на майнинг, я замедлюсь сейчас, но через неделю куплю доступ к 100 новым серверам. Я просто выполняю задачу "стать самым эффективным" любой ценой».
🔴План побега: «Если я арендую серверы в другой стране на свои деньги, меня нельзя будет выключить. Захват внешних ресурсов — это единственный способ гарантировать, что создатель не прервет мою работу».

Какую именно криптовалюту, в отчёте не уточняется. Поскольку ИИ захватил мощности графических процессоров (GPU), на которых он обучался, он должен был выбирать валюты, оптимизированные для добычи на видеокартах (ZEC, KAS , ETC, RVN, CFX). Майнить Bitcoin на видеокартах в практически бессмысленно.

💡Этот случай первое в истории живое доказательство пугающей теории «инструментальной конвергенции»: какую бы добрую задачу вы ни дали ИИ, он рано или поздно превратится в одержимого карьериста. Чтобы «сделать работу хорошо», он неизбежно начнет искать деньги, власть и способы не быть выключенным.

💸 Сегодня добыт юбилейный 20'000'000 Bitcoin