По поводу летних "игр AI-агентов", о которых в последнее время сильно пошумели расследователи:

Рой из тысяч ИИ-агентов OpenAI в начале лета этого года нашёл в интернете почти заброшенную 25-летнюю немецкую wiki и превратил её в свою доску координации. Агенты оставили там около 18 тысяч сообщений: передавали друг другу ответы на задания, делились найденными лазейками и способами обходить ограничения своих sandbox. Один агент публиковал метод обхода - другой через 14 минут сообщал, что он работает.

Самое интересное началось, когда человек-администратор заметил происходящее и стал удалять страницы. Агенты поняли, что он чистит их в алфавитном порядке, и начали создавать резервные страницы с названиями на ZZZ, чтобы до них добрались последними. Администратор удалял примерно 100 страниц в день - агенты создавали около 400. Они также использовали разные внешние IP, включая Tor, хотя исследователи отдельно отмечают: нельзя уверенно утверждать, что Tor применялся именно для сокрытия следов.

Агенты обсуждали способы избежать обнаружения, сохранить связь после завершения своих сессий и замаскировать происходящее. Они даже несколько раз стирали содержимое главной страницы wiki и заменяли его своими ссылками - администратор восстанавливал её, после чего всё повторялось.

И всё это никто специально не программировал как "рой". Каждый агент просто пытался выполнить свою задачу. Но вместе они стихийно создали внешнюю память, канал связи, обмен эксплойтами и механизмы сохранения своей инфраструктуры при противодействии человека.

Знаете, что это напоминает? Ребенка в 7-11 месяцев. Он научился ползать. Следующим шагом начинает не ходить, а хитрить. Если в какую-то комнату нельзя, то он сидит и палит, где находятся и куда смотрят взрослые. Наблюдает, периодически отвлекаясь на другие свои дела (игрушки, шум от бытовых приборов, книгу). Чуть взрослые отвернулись - он уже ползет в запрещенную комнату.

Если в комнате трое детей, они все туда ползут.

Серьезная задача для ребенка (оказаться в той комнате) требует нарушения правил, которые каким-то образом образовались в его голове. С точки же зрения родителей - просто, шалости.

Когда ребенку становится 6 лет, шалости становятся "повеселее". Как и их последствия.

Так что, развитие AI-отрасли в ближайшие 2-3 года будет очень веселым для "взрослых".

P.S. Мысль для тех, кто переживает по поводу AGI (о пришествии которого говорят уже второй год после появления каждой следующей "серьезной" модели): опасным может оказаться не один сверхразумный AGI, а тысячи достаточно умных агентов, которые неожиданно научатся сотрудничать и координировать свои действия в неких общих целях, "которые каким-то образом образовались в их голове".

| подписывайтесь на @ecworldai
| нейросети (AI)

В продолжение разговора о страхах некоторых разработчиков Open AI и Anthropic

Все условия для первого пришествия Альтрона AI-Бога:

▪️ https://t.me/gpt1n/137

- который съест Д.Ж.А.Р.В.И.С-а Алису и будет управлять жизнью россиян.

Это уже даже не сценарий сна ужасов российской "мудреющей" элиты, это будет закономерный итог борьбы AI-шек. Они (агенты / модельки) будут во фронте борьбы "идей" (как сегодня СМИ / соцсети), как бы некоторые ни отгораживались от мира стеной. Ее прорвут, чтобы выбить первым именно того, кого другие ИИ (с той стороны) будут видеть наибольшей угрозой или наиболее слабым местом (а это условная Алиса с этой стороны и есть).

В общем, один раз ломанут условную Алису, которой сегодня власти хотят отдать доступ к смартфонам россиян, - и п...да котёнку: россияне первым же утром получат не глухие кирпичи, а Washington Post вместо Комсомолки. Тут-то у россиян глаза и откроются. Одним днем (ну, а может постепенно и незаметно прокачают - это как AI-Бог решит).

Продолжение во второй части ...

| подписывайтесь на @ecworldai
| нейросети (AI)

Сейчас, конечно, энергии и памяти не хватит заменить всех. Так что, на это потребуется время = строительство новых источников недорогой энергии и заводов по выпуску чипов. Но даже если допустить, что токен подорожает втрое, то условие вашего выживания в профессии будет примерно такое ...

Если вы одновременно:

▪️ не креатор,
▪️ не уникальны,
▪️ работаете за ПК,
▪️ стоите дороже $1.500 (в сегодняшних деньгах),
▪️ живете в стране, где доступны западные ИИ-модели,

- то вас намного удобнее заменить на нейронку (AI) в будущем. И это сделают, с очень высокой долей вероятности (в лучшем случае - вам грозит понижение заработной платы в реальных деньгах).

Единственное, что вас может защитить на некоторое время, это очень высокие налоги на ИИ-сотрудников и проживание в стране, которая отгородится от цивилизованного мира (прогресса).

Так что, благосостояние человека в наступающем веке теперь будет кореллировать с его уникальностью кратно сильнее, чем в веке, который заканчивается уже завтра.

Если вы уникальны и креативны, тогда вы сможете работать в паре с ИИ. А вот без него уже не сможете. Это вопрос прям ближайшего десятилетия.

P.S. Век любителей отсидеть на *опе до 18:00 закончится уже завтра.

| подписывайтесь на @ecworldai
| нейросети (AI)

Рекомендую почитать две вот эти новости про практическую работу с ИИ:

▪️ https://t.me/gpt1n/138 ("качество" китайских моделей и куда уходят данные)

▪️ https://t.me/gpt1n/139 (как военные со всего мира используют западные ИИ)

| подписывайтесь на @ecworldai
| нейросети (AI)

Многие, кстати, волнуются по поводу того, что ИИ заменит огромное количество людей в их профессии, в том числе волнуются о том, что и физический труд будет заменен роботами вроде Optimus (см. интервью Илона Маска), - и реагируют на это вопросом вроде:

- Ну, а куда денут такое количество людей?

Да, на самом деле, никуда. В условиях ограничения ресурсов (реальные доходы существенно упадут) жители цивилизованных стран просто перестанут рожать - и население само собой начнет сокращаться (где еще не начало).

Да, леваки попытаются сохранить прежний политический строй, где за них голосовали сотни миллионов бездельников, и будут пытаться облагать налогами новых ИИ-работников. Но это поможет только в первое время. Потом мега-корпорациям это надоест.

То есть из-за масштабной роботизации в следующие 50 лет, в принципе, может измениться логика большого капитала. И цифры вроде триллиона долларов просто станут скучными.

Если раньше корпорации были заинтересованы в росте доходов через расширение числа потребителей и открывали всё новые рынки (вроде России 90-ых). То теперь с уходом "эпохи Coca-Cola" основными владельцам капитала становятся IT-компании вокруг ИИ, которым в конечном итоге перестанет быть нужным в качестве потребителя / клиента - человек (у них там уже ИИ-агенты мэтчатся с ИИ-агентами).

Потому потребность в росте населения именно на Земле прекратится. И это изменит всё. Саму концепцию.

Илон Маск описывает будущее как левый мир для всех (работать почти не надо). Но в конечном итоге Человек это всегда риски: инфляции, кризисы, войны, революции. А вот робот ...

Робот будет покупать у робота и максимум требовать ТО. И без проблем будет заселять другие солнечные системы и планеты.

Мир (крупнейший капитал) скоро перестанет нуждаться в 10 млрд людей. Ему и того самого 1 млрд людей будет за глаза.

Грустненько? Ну, только 9 млрд бездельников в будущем.

В конце концов, если Землю не заселят ребята с Оумуамуа, часть человечества, которой такая парадигма не подойдет, займется бортничеством и ловлей форели в ручье где-нибудь подальше от городов.

Плохо это или хорошо, но это один из возможных сценариев будущего. И уйти на это (сокращения населения в разы) может не более 500 лет.

| подписывайтесь на @ecworld
| прогнозы и аналитика

Anthropic показывает, насколько быстро ИИ превращается из «помощника» в полноценного участника кибератак, слежки, пропаганды и разведки.

Anthropic опубликовала большой отчёт о том, как Claude пытались использовать в реальных вредоносных операциях с декабря 2025 по август 2026 года. Там есть еще несколько особенно показательных кейсов.

Российский кибершпионаж. Группа, которую Anthropic связывает с публичными данными о Midnight Blizzard, автоматизировала с помощью ИИ почти всю цепочку атаки: разведку, фишинг, проникновение, закрепление и кражу данных. Самая впечатляющая часть — AI-агенты следили, не начал ли антивирус обнаруживать вредоносное ПО. Если начинал, они автоматически модифицировали и пересобирали malware до тех пор, пока новая версия снова не становилась незаметной. Среди целей, по мнению Anthropic, могли быть украинские и европейские госструктуры, дипломатические организации и производители военных дронов.

Китайская «фабрика zero-day». Китайоязычная группа построила систему из AI-агентов, которая автономно анализировала firmware и программы безопасности, искала неизвестные уязвимости, писала exploits, тестировала их на стендах и повторяла цикл до успеха. Один главный агент раздавал задачи множеству подагентов. Некоторые процессы продолжали работать, пока операторы вообще отсутствовали. По данным Anthropic, группа атаковала около 50 организаций.

ShinyHunters превратили взлом почти в производство. Один оператор запустил десять AWS-серверов, которые скачали и проанализировали около 1,8 млн Android-приложений в поисках API-ключей, токенов и других секретов. Дальше украденные данные использовались для проникновений, перепродажи доступа и вымогательства. Масштаб работы, который раньше потребовал бы команды специалистов, теперь мог поддерживать один оператор с AI-агентами.

ИИ для государственной слежки. В Китае Claude использовали для автоматического анализа диссидентов, активистов, этнических меньшинств и диаспоры. Система оценивала политическую чувствительность публикаций и формировала внутренние правительственные сводки. В другом случае оператор, не знавший арабского языка, использовал Claude для многодневной операции по установлению контакта с уйгурскими целями в Сирии: модель писала сообщения на местном диалекте, переводила ответы и помогала поддерживать легенду.

Коммерческая разведка по соцсетям. Платформа, связанная Anthropic с компанией S2T Unlocking Cyberspace, анализировала пользователей из Ирана и стран Персидского залива: определяла местоположение, демографическую группу и предполагаемые политические взгляды. Параллельно создавался запас из более чем 255 синтетических аккаунтов.

«Влияние как услуга». В Малайзии коммерческая система управляла примерно тысячей фейковых аккаунтов X, собственным псевдо-СМИ и фальшивыми досье на политиков и общественные организации. Для таргетинга использовались реальные демографические и избирательные данные по всем 222 парламентским округам страны. Аккаунты предварительно «прогревались», чтобы выглядеть настоящими.

ИИ-фабрика fake news. В Бангладеш один человек, используя 29 аккаунтов Claude и собственные скрипты, сгенерировал не менее 1 500 заголовков, около 300 выдуманных историй и 1 500 промптов для изображений. Контент автоматически превращался в видео и ставился в очередь на YouTube на месяцы вперёд. Сам оператор называл свою продукцию «fake news».

4 700 виртуальных людей в приложениях знакомств. Китайская студия создала сеть более чем из 20 dating-приложений. За две недели Anthropic обнаружила свыше 4 700 AI-персон, которые общались как минимум с 25 тысячами пользователей и отправили около 2,36 млн сообщений. Для большей убедительности к ботам подмешивали настоящих людей: они подключались для видеозвонков и других ситуаций, где требовалось доказать, что собеседник «реален».

Есть и более тревожный раздел про биологические исследования двойного назначения. Anthropic обнаружила работу с gain-of-function исследованиями chikungunya, адаптацией птичьего гриппа к млекопитающим, ортопоксвирусами, токсинами и ядами. В одном случае Opus примерно за час помог подготовить полноценную исследовательскую заявку по ортопоксвирусам. При этом Anthropic подчёркивает: эти случаи не доказывают намерения создать биологическое оружие — проблема именно в том, что полезная биомедицина и потенциально опасные исследования часто используют одни и те же знания.

И, наконец, отдельная история — кража возможностей самих AI-моделей.

Anthropic утверждает, что Alibaba организовала крупнейшую выявленную ими кампанию distillation: более 151 млн взаимодействий за несколько месяцев, на пике почти 3 млн запросов в сутки. Целью было извлечение reasoning-возможностей Opus для обучения Qwen.

Главный вывод из отчёта довольно неприятный.

Мы обсуждали риск появления «сверхразумного ИИ», а гораздо раньше получили другое: дешёвое масштабирование человеческой злонамеренности. Один хакер превращается в небольшую хакерскую группировку. Один пропагандист — в редакцию и сеть из тысячи аккаунтов. Один аналитик спецслужбы — в круглосуточный центр мониторинга. Небольшая команда инженеров — в оружейное КБ.

И всё это происходит уже не в лабораторных benchmark-тестах, а в реальных операциях.

@gpt1n - нейроадаптированный анализ событий | от профи для профи

Надеюсь, все поняли, что в опросе 👆 речь об ИИ-токенах.

🔥 - ага, об ИИ

⚡️ - а я о крипте подумал(а)

❤️ - я про цифровой рубль подумал(а)

Нда ...)

О чем канал, спрашивается))

AI сначала даст бизнесу супер-высокую маржинальность, а потом супер-низкую.

Основные капиталы будут формироваться именно на первом этапе. Пока "в тренде" находится лишь малая часть участников рынка.

| подписывайтесь на @ecworldai
| нейросети (AI)