ИИ момент

Был на днях на одном мероприятии (чуть позже расскажу), где мельком поднялась тема новомодного консьерж-ИИ-агента – Clawdbot (он же Moltbot). Собственно, у меня зачесалось что-то внутри и я решил выговориться на эту тему, а то так и не успею, а оно загнётся.

По поводу самого Молтбота – если коротко, то это следующая ступень эволюции ИИ-агентов. Если все правильно сделать (развернуть сервис у себя локально на компе) и настроить (дать доступ ко всем своим социальным сетям, аккаунтам в банках, мессенджерам, браузерам, операционке), то эта штука сможет стать для вас полноценным ассистентом и консьерж-сервисом в одном лице.

Молтбот будет раскидывать вам встречи в календари, покупать билеты на самолеты (да напишите уже мне, Ави****лс!), бронировать столики в ресторанах и даже отвечать на сообщения вашим родным при необходимости. Круто? Круто. Страшно? Очень!

Даже если отбросить раннее творчество Джеймса Кэмерона, то это все равно не кажется нормальным. Допустим, что сам сервис, его код и компоненты абсолютно безопасны, и там нет никаких бэкдоров и дыр (что точно не так). Допустим, что создатель этого сервиса никак не заинтересован в том, чтобы завладеть жизнью пользователя и всеми его ценностями (вполне реально). Все равно остается очень много вопросов к этой технологии.

Даже если вас не будут атаковать изнутри (создатели этого агента), то вас точно пробьют снаружи. А пробивать вас будут и умышленно, и неумышленно. Напоминаю, что для поиска необходимой информации ИИшки перебирают, вычитывают и анализируют тысячи сайтов и прочих веб-ресурсов. Будет ли среди них несколько фишинговых или вредоносных? Да вполне. А если у бота будет доступ, то он вам по дороге еще скачает пару вирусов на ваше устройство и их же запустит. Да что уж там, в какой-то момент ваш Молтбот может повестись на слишком красиво и продающе-вылизанный лендинг очередного инфоцыгана, и вот, в тот же момент с вашей карты списывается 40 тысяч рублей, а вы становитесь обладателем эксклюзивного курса по построению идеальной жизни сугубо на раскрытии чакры и вашего кошелька.

Ну а если серьезно, то поверхность атаки тут просто безграничная. Будет ли бот вестись на фишинг в Телеграме? Сможет ли он распознать атаку через промт с одного из сайтов, которые он анализирует для поиска самой дешевой кухонной плиты? Сможет ли он распознать, что между ним и очередным коннектором (сервисом, к которому вы его подключите, чтобы он им управлял) нет кого-то посередине? Думаю, что просто нет.

Многим кажется, что тот факт, что сервис разворачивается вашими руками и на вашем же устройстве под вашим же контролем – решает абсолютно все проблемы. И если бы эта штука не имела доступ в интернеты, то, наверное, так и было бы. Но это не так.

Я вообще не против ассистентов, автоматизации, "второго мозга", нейронок и вот этого всего. Просто порой человечество бывает не готово к тем технологиям, которые упрощают его жизнь. И кажется, что это тот самый момент.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT