ИИ момент

Был на днях на одном мероприятии (чуть позже расскажу), где мельком поднялась тема новомодного консьерж-ИИ-агента – Clawdbot (он же Moltbot). Собственно, у меня зачесалось что-то внутри и я решил выговориться на эту тему, а то так и не успею, а оно загнётся.

По поводу самого Молтбота – если коротко, то это следующая ступень эволюции ИИ-агентов. Если все правильно сделать (развернуть сервис у себя локально на компе) и настроить (дать доступ ко всем своим социальным сетям, аккаунтам в банках, мессенджерам, браузерам, операционке), то эта штука сможет стать для вас полноценным ассистентом и консьерж-сервисом в одном лице.

Молтбот будет раскидывать вам встречи в календари, покупать билеты на самолеты (да напишите уже мне, Ави****лс!), бронировать столики в ресторанах и даже отвечать на сообщения вашим родным при необходимости. Круто? Круто. Страшно? Очень!

Даже если отбросить раннее творчество Джеймса Кэмерона, то это все равно не кажется нормальным. Допустим, что сам сервис, его код и компоненты абсолютно безопасны, и там нет никаких бэкдоров и дыр (что точно не так). Допустим, что создатель этого сервиса никак не заинтересован в том, чтобы завладеть жизнью пользователя и всеми его ценностями (вполне реально). Все равно остается очень много вопросов к этой технологии.

Даже если вас не будут атаковать изнутри (создатели этого агента), то вас точно пробьют снаружи. А пробивать вас будут и умышленно, и неумышленно. Напоминаю, что для поиска необходимой информации ИИшки перебирают, вычитывают и анализируют тысячи сайтов и прочих веб-ресурсов. Будет ли среди них несколько фишинговых или вредоносных? Да вполне. А если у бота будет доступ, то он вам по дороге еще скачает пару вирусов на ваше устройство и их же запустит. Да что уж там, в какой-то момент ваш Молтбот может повестись на слишком красиво и продающе-вылизанный лендинг очередного инфоцыгана, и вот, в тот же момент с вашей карты списывается 40 тысяч рублей, а вы становитесь обладателем эксклюзивного курса по построению идеальной жизни сугубо на раскрытии чакры и вашего кошелька.

Ну а если серьезно, то поверхность атаки тут просто безграничная. Будет ли бот вестись на фишинг в Телеграме? Сможет ли он распознать атаку через промт с одного из сайтов, которые он анализирует для поиска самой дешевой кухонной плиты? Сможет ли он распознать, что между ним и очередным коннектором (сервисом, к которому вы его подключите, чтобы он им управлял) нет кого-то посередине? Думаю, что просто нет.

Многим кажется, что тот факт, что сервис разворачивается вашими руками и на вашем же устройстве под вашим же контролем – решает абсолютно все проблемы. И если бы эта штука не имела доступ в интернеты, то, наверное, так и было бы. Но это не так.

Я вообще не против ассистентов, автоматизации, "второго мозга", нейронок и вот этого всего. Просто порой человечество бывает не готово к тем технологиям, которые упрощают его жизнь. И кажется, что это тот самый момент.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Интернет с британским акцентом

Интернет долго воспринимался как что-то единое и неделимое: либо он есть, либо его нет. Маааааксимум, что нового в нем появилось за последние годы, так это всякие белые и черные списки, которые работают чаще всего в зависимости от региона. Где-то это называют цензурой, где-то заботой, но сегодня не об этом.

Какие страны вам приходят в голову, когда речь заходит о той самой цензуре и цифровой свободе? Правильно – Северная Корея, Китай и Иран с их локальными сетями, блокировками и тотальным контролем. Но похожие механизмы начинают появляться и в странах, которые ещё недавно ставили в пример как образец свободного интернета. И я сейчас не о той стране, о которой вы подумали.

Я говорю про Британию, находящуюся в верхних строчках рейтинга цифровой свободы. Она фактически первой в Европе реализовала модель “двух интернетов” – с полным доступом для верифицированных пользователей и урезанной версией для всех остальных. А произошло это в прошлом году.

Изменения правил подавались избирателям под соусом защиты детей от порнографии, саморазрушительного контента и травли. Формальным поводом стала трагическая история девочки-подростка, которая столкнулась с токсичным контентом в социальных сетях. При продвижении закона об онлайн-безопасности власти ссылались именно на эту историю.

На практике под требования закона попали почти все крупные сервисы: соцсети, видеоплатформы, игры, мессенджеры и даже стриминговые сервисы. Если пользователь не подтверждает возраст, он получает “детскую” версию платформы с ограниченными функциями. А если сервис не внедряет такую проверку – ему грозят штрафы, сопоставимые с годовыми доходами.

И в целом, общество готово отстаивать благородную цель – защиту детей. Но способ ее достижения оказался куда радикальнее, чем многие ожидали. Проверка возраста больше не просто галочка "мне есть 18", теперь это паспорт, банк, оператор связи или распознавание лица. Возникает ощущение, что безопасность покупается ценой приватности (внезапно, да?). И вот здесь люди уже не так рьяно поддерживают закон, потому что не готовы загружать свои данные на сайты, особенно чувствительного характера.

А все потому что утечки, шантаж, продажа и злоупотребление никуда не пропадают с внедрением этих новых механизмов безопасных интернетов. Неудивительно, что на фоне этого в Британии резко вырос интерес к VPN и другим способам выглядеть для сервиса пользователем из “другой страны”.

В итоге мы приходим к сложному и неприятному вопросу: как защитить уязвимых, не превратив интернет в стерильное, отслеживаемое пространство с доступом по документам. И где проходит граница между заботой и контролем. Пока одни страны только обсуждают эти идеи, другие уже живут в реальности, где интернет перестаёт быть одинаковым для всех. И, кажется, назад эта дорога будет куда сложнее, чем вперёд.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT

Если джунов заменит ИИ, то из кого мы будем выращивать миддлов и синьоров?

Каждая вторая компания сейчас пытается выкрикнуть о том, что «если есть ИИ, зачем вообще брать джунов?», «давайте заменим джунов на ИИ», «да мы уже заменили половину джунов на ИИ». ИИ пишет код, тексты, тесты, отвечает на вопросы – быстро, в нужном формате, без перекуров или поездок в поликлинику. На короткой дистанции это звучит разумно. Но чем дольше об этом думаешь, тем больше вопросов возникает.

Джун – это ведь не просто человек, который делает простые задачи. Это вход в профессию. Место, где можно ошибаться, тупить, задавать странные вопросы и постепенно начинать понимать, как всё работает в реальности, а не в учебниках. Джун – это суперзамотивированный молодой специалист, который будет брать препятствия не опытом и насмотренностью, а смекалкой и упорством. И поверьте, порой для решения большинства задач этот способ подходит намного лучше. Если эту ступень убрать, то мы просто перекрываем людям дорогу внутрь. И инструмент насыщения рынка и целой отрасли.

Миддлы и сеньоры не появляются внезапно. Они не возникают «готовыми». Каждый опытный специалист когда-то был тем самым джуном, который писал криво, переделывал по три раза, переживал и не понимал, почему «так нельзя». Это нормальный путь роста. И если сейчас сказать: «джуны нам больше не нужны», то через несколько лет внезапно выяснится, что расти-то некому.

ИИ при этом вообще не враг этой системе. Он классно ускоряет обучение, помогает разбираться, снимает рутину, даёт возможность раньше браться за что-то сложное. Но он не проходит путь ответственности, не учится чувствовать последствия решений и не берёт на себя контекст. Это всё всё равно делают люди. Не ИИ будет двигать кибербез вперед.

Самая большая ловушка здесь – думать слишком узко. Да, сегодня можно сэкономить, не вкладываться в новичков, переложить простые задачи на ИИ и их новомодных агентов. А потом – удивляться, почему сеньоры перегружены, миддлов не хватает, а рынок перегрет (если сейчас уже почти так, то что будет дальше?).

Если ИИ действительно заменит джунов, то очень скоро станет очевидно, что миддлам и сеньорам просто не из кого расти.

👨‍🏫 Менторство ИБ | Отзывы | 📹 YT

Займы, которые мы заслужили

Микрофинансовые организации давно уже стали привычной частью пейзажа — их можно встретить буквально в каждом доме. При этом не все понимают, что это не банк, и вместе с конским процентом можно получить до черноты серые методы их взыскания.

В ход идут все методы, используемые телефонными мошенниками: пробив данных в разных источниках, представление реальными сотрудниками ведомств, психологическое давление, подставные счета.

Вот один из примеров: преступники, используя технологии социальной инженерии, представились судебными приставами, чтобы запугать жертву и заставить срочно провести платеж.

Отдельно стоит выделить, что злоумышленники не только посмотрели фамилию реального сотрудника ФССП, но и хорошо знали специфику работы ведомства. В итоге жертва поверила в то, что ей вот-вот выпилят дверь и опишут имущество, и перевела платеж с "дополнительными издержками" по весьма специфичным реквизитам.

Подробности истории можно посмотреть тут.

Какой вывод можно сделать из этой истории? Понятно, что жизненные ситуации бывают разные. Но если вы или ваши родственники решили взять кредит в МФО — будьте готовы к тому, что вокруг вас могут развернуть целый психологический триллер сомнительного уровня легальности.

⚡ ПБ | 😎 Чат | 🛍 Проекты | 📹 YT