🈁 Исследователь покинул Anthropic с громким предупреждением об опасности создания 🤖неконтролируемого ИИ, который погубит всё человечество

Исследователь ИИ Джейкоб Коксон уволился из компании Anthropic и заявил, что ведущие разработчики безответственно форсируют создание самообучающегося сверхразума, подвергая смертельному риску всё человечество. До ухода он три года занимался исследованиями предварительного обучения моделей как в OpenAI, так и в Anthropic.

Джейкоб Коксон (Jacob Coxon) — 27-летний британский исследователь ИИ и математик, бывший Member of Technical Staff в OpenAI и исследователь Anthropic. Выпускник Кембриджа, серебряный и бронзовый призёр Международной математической олимпиады. Около трёх лет занимался исследованиями в области предобучения больших ИИ-моделей, был одним из основных участников разработки GPT-4o и входил в группу основных исследователей. В Anthropic он специализировался на предобучении больших ИИ-моделей.

Коксон утверждает (главный твит набрал уже 😯78 млн просмотров), что инженеры и руководство технологических гигантов в частных беседах всерьёз считают возможной гибель всей человеческой цивилизации из-за ИИ уже к концу текущего десятилетия. Публично топ-менеджеры сглаживают формулировки, чтобы казаться благоразумными, но за закрытыми дверями выражают страх в преддверии будущих событий.

По оценке Коксона, в OpenAI масштаб 🧠 экзистенциальных рисков пока глубоко не осознали. В Anthropic понимают отчётливо опасность происходящего, но компания втянулась в бесконтрольную гонку из убеждения, что они первыми должны создать AGI/ASI первыми, так как другие разработчики не будут действовать ответственно.

Коксон призвал других специалистов не запускать вслепую обучение потенциально сверхразумных систем и добиваться соглашений между лабораториями, вплоть до временного запрета на наращивание возможностей моделей.

Параллельно сенатор 🇺🇸США Берни Сандерс объявил о подготовке законопроекта о полном запрете создания сверхразума, а законодательство Евросоюза уже обязывает компании оценивать и купировать риски потери контроля над ИИ.

☝️Некоторые пользователи в 🦆выдвинули гипотезу о том, что специалиста могли уволить из-за плохих результатов на работе, поэтому он так мстит публично в социальных сетях. Так это или нет, но проблемы действительно есть. Топовые ИИ-компании в погоне за AGI и деньгами (IPO) не хотят экологично притормаживать развитие ИИ во благо человечества.

Руководитель направления исследований согласования ИИ (Alignment Science lead) в Anthropic Эван Хьюбингер соглашается с оценкой Коксона.

Джейкоб здесь прав, и мы действительно искренне верим, что ИИ может уничтожить всех людей! Лично я считаю, что вероятность этого составляет ⚠️>10% в течение ближайшего десятилетия. Я верю, что Anthropic делает всё возможное, но у нас пока нет плана решения проблемы согласования суперинтеллекта, и мы пока явно не на пути к этому.

— комментирует Эван Хьюбингер.

✋ @Russian_OSINT

🇺🇸🎩 Какую роль сыграла киберразведка ЦРУ в захвате 🇻🇪Мадуро американским спецназом 🎖Delta Force

Заместитель директора ЦРУ Майкл Эллис впервые подробно рассказал о роли киберразведки в операции Absolute Resolve по захвату Николаса Мадуро [1,2,3,4,5]. По его словам, кибероперации Центра киберразведки ЦРУ (Center for Cyber Intelligence, CCI) позволили создать «безупречную разведывательную картину», благодаря которой американский спецназ определил точное местонахождение Мадуро и захватил его в течение 4 минут после высадки в Каракасе. Об этом Эллис заявил 8 сентября на Billington CyberSecurity Summit.

Именно кибероперации CCI помогли сформировать оперативную картину, необходимую для поиска цели. При этом ЦРУ не раскрыло, какие именно сети, устройства или информационные системы были скомпрометированы. Речь идёт не просто о технической поддержке. Эллис утверждает, что кибероперации Центра киберразведки ЦРУ были одним из главных факторов, на которых строилась сама оперативная разведывательная картина. Без неё, по его словам, ЦРУ не смогло бы помочь силам специальных операций настолько быстро установить точное местонахождение Мадуро.

Председатель Объединённого комитета начальников штабов генерал Дэн Кейн ещё 3 января рассказал, что американские спецслужбы месяцами изучали повседневную жизнь Мадуро, включая то, где он жил, куда ездил, что ел, что носил и даже изучили его домашних животных. Кейн подчеркнул, что без участия ЦРУ, АНБ и Национального агентства геопространственной разведки (NGA) операция была бы невозможна.

Киберкомандование США создавало отдельные некинетические эффекты, а спецназ Delta Force действовал уже непосредственно на месте событий.

Эллис связывает успех такого подхода с недавним повышением Центра киберразведки ЦРУ до самостоятельного центра в прямом подчинении Директора ЦРУ. По его словам, новая структура позволяет быстрее направлять ресурсы на сложные разведывательные задачи, а также активнее использовать кибероперации. Эллис отдельно заявил, что ИИ уже даёт кибероперациям ЦРУ два важных момента — скорость и масштаб.

👁 Роли в операции по захвату Мадуро:

🇺🇸 ЦРУ, агентурная разведка — источник в окружении Мадуро, отслеживание его перемещений и привычек.
🇺🇸 ЦРУ, Центр киберразведки — кибероперации и формирование оперативной разведывательной картины для определения местонахождения Мадуро.
🇺🇸 АНБ США — радиоэлектронная разведка, перехват и анализ сигналов, геолокация, мониторинг коммуникаций и активности венесуэльских военных.
🇺🇸 Киберкомандование США — военные кибероперации и другие некинетические воздействия.
🛰 Национальное агентство геопространственной разведки США — спутниковая и геопространственная разведка, анализ объектов и местности.
🎖 Объединенное Командование специальных операций США / Delta Force — непосредственный штурм, проникновение на объект и задержание Мадуро.
🎖 Южное командование США — региональная координация военной операции.
🛡 Объединённый штаб ВС США — интеграция киберопераций, радиоэлектронной борьбы и других некинетических средств с боевым планированием.

👆В 2025 году в ЦРУ велось более 300 проектов с использованием ИИ. В будущем ИИ «проникнет» практически во все направления работы агентства, включая сбор разведданных, операции и анализ. ЦРУ рассчитывает использовать несколько ИИ-моделей и сохранять человека в контуре принятия решений. Как сообщалось ранее, примерно через 10 лет сотрудники ЦРУ смогут управлять целыми командами/роями 🤖автономных ИИ-агентов.

✋ @Russian_OSINT

Безопасность бизнеса начинается там, где видна полная картина

Обсудим, как находить слепые зоны в защите бизнеса, на онлайн-конференции «Совершенно безопасно».

📆 Когда: 22 сентября с 10:00 до 16:30 мск
▶️ Где: в прямом эфире

На одной площадке соберем экспертов рынка безопасности и представителей бизнеса, обсудим цифровые, экономические и управленческие риски в одном поле зрения.

Главные ракурсы конференции:
✅ Новый ландшафт рисков: как меняются функции безопасности и управления.
✅ Искусственный интеллект: часть защитного механизма или новая уязвимость.
✅ Портрет современного инсайдера: какие практики становятся отраслевым стандартом.

 
Спикеры конференции:
▪️Никита Лисенков, член Международной ассоциации корпоративной безопасности ICSA
▪️Сергей Сергеев, руководитель по корпоративной безопасности девелопера «Брусника»
▪️Лука Сафонов, бизнес-партнер по инновационному развитию компании «Гарда»
▪️Юрий Драченин, эксперт по информационной безопасности Контур.Эгиды и Staffcop
▪️Даниил Бориславский, эксперт по информационной безопасности Контур.Эгиды и Staffcop

Участие бесплатное, нужно только 👉 зарегистрироваться

Реклама. АО «ПФ «СКБ Контур». ИНН 6663003127

🇨🇭Швейцария начала строить независимый open-source-контур, чтобы снизить зависимость федеральных ведомств от Microsoft

Федеральная канцелярия Швейцарии запустила программу по созданию независимого рабочего окружения для госслужащих на базе open-source, которое сможет работать параллельно с Microsoft 365. С конца 2027 года новую платформу планируют предоставить примерно 3000 сотрудникам. Стоимость первого этапа оценивается примерно в 9 млн швейцарских франков.

В основе швейцарского проекта лежит немецкая платформа openDesk, которая объединяет несколько зрелых open-source-проектов. Документы обрабатываются через Collabora, файлы хранит Nextcloud, почту и календарь обеспечивает Open-Xchange, чаты работают через Element на базе стандарта Matrix, видеоконференции через Jitsi, а проекты ведутся в OpenProject. Весь этот набор связывает централизованная система управления идентификацией и доступом Univention Nubus. Сам openDesk рассчитан на Kubernetes, а швейцарское Федеральное управление информационных технологий и телекоммуникаций адаптировало его для используемой ведомством инфраструктуры Red Hat OpenShift.

Пока ещё рано говорить о независимости от Microsoft, но фактически государство создаёт резервный цифровой контур, который должен сохранить работоспособность федеральной администрации в случае проблем с Microsoft 365. В него должны войти почта, календарь, работа с документами и презентациями, файлы, телефония, аудио- и видеоконференции. Основанием стала проверка PoC BOSS, в которой участвовали сотрудники нескольких федеральных ведомств. Исследование показало, что протестированное open-source-решение в целом пригодно для основных стандартных офисных процессов, хотя технические и организационные ограничения всё ещё остаются.

Интереснее всего здесь сама логика проекта. Швейцария не пытается срочно заменить один офисный пакет другим, а создаёт страховку от зависимости от единственного поставщика. Государство хочет иметь рабочую среду, которую оно способно контролировать и развивать самостоятельно даже в условиях кризиса. Именно поэтому проект рассматривается как часть цифрового суверенитета и устойчивости федеральной инфраструктуры. Если эксперимент с 3000 пользователями окажется успешным, следующим этапом может стать обсуждение стоимости и целесообразности более масштабного внедрения этой open-source-платформы в федеральных ведомствах Швейцарии.

✋ @Russian_OSINT

🥹Злоумышленники скомпрометировали стороннего email-провайдера компании 🛡 Trezor и разослали пользователям фишинговые письма с её официального домена

Производитель аппаратных кошельков Trezor подвергся атаке на цепочку поставок, в результате которой злоумышленники скомпрометировали стороннего провайдера электронных рассылок Brevo. С легитимного почтового сервера mailing.trezor.io пользователи начали получать фишинговые письма с темой «Critical Security Alert: STM32 Entropy Vulnerability». В рассылке ложно утверждалось о критической аппаратной уязвимости микроконтроллеров STM32, приводящей к недостаточной энтропии генератора случайных чисел. Атакующая группировка рассчитывала спровоцировать панику в криптосообществе на фоне недавней компрометации устройств Coldcard, стоившей жертвам более $130 млн. Полезная нагрузка доставлялась пользователям в виде загружаемого HTML-файла со встроенным кодом на JavaScript. При локальном запуске этот скрипт перехватывал введённую seed-фразу и незаметно отправлял её на сервер атакующих через API мессенджера Telegram.

Инцидент приобрёл неприятные масштабы, поскольку аналогичная фишинговая атака одновременно затронула владельцев кошельков BitBox. Генеральный директор Casa Ник Ньюман и директор по информационной безопасности Casa Джеймсон Лопп публично подтвердили факт рассылки мошеннических писем без применения техник спуфинга. Эксперты указали на высокую вероятность целевого проникновения в инфраструктуру провайдеров маркетинговых сервисов.

В ответ на обнаруженную угрозу техническая команда Trezor оперативно деактивировала скомпрометированный домен и инициировала внутреннее расследование для выяснения точных механизмов обхода защиты.

Данный инцидент спровоцировал критику со стороны пользователей на профильных площадках и платформе Reddit. Доверие к архитектуре информационной безопасности Trezor оказалось серьёзно подорвано, поскольку инцидент произошёл сразу после недавней крупной утечки данных у логистического партнёра компании ShipMonk. В ходе той успешной атаки на цепочку поставок в руки злоумышленников попали персональные сведения 80 689 клиентов, включая полные имена, номера телефонов и физические адреса доставки.

🌎 https://forum.trezor.io/t/trezors-mail-server-infrastructure-compromised/27388

✋ @Russian_OSINT

👻 В MAX подвезли 📊статистику по каналам.

https://max.ru/russian_osint

✋ @Russian_OSINT

🇫🇷 Франция усиливает полномочия ANSSI после серии крупных утечек из государственных систем

После нескольких болезненных взломов Париж решил перевести уже существующий механизм государственного киберреагирования в более жёсткий режим. 7 сентября ANSSI начала операцию REACTIV, которая позволяет агентству концентрировать оперативные ресурсы для помощи атакованному министерству в расследовании компрометации учётных записей и анализе утечек. Главное изменение заключается в том, что ANSSI сможет добиваться от министерств принятия необходимых защитных мер в ограниченные сроки, а техническая кризисная коммуникация при таких атаках будет централизована через агентство. Важно, что речь не идёт о создании государственного киберцентра с нуля. ANSSI и раньше была национальным органом ИБ — координировала межведомственную работу и реагирование на инциденты в государственных системах. REACTIV скорее делает эту давно существующую вертикаль более оперативной и директивной.

Причина понятна. Весной инциденты затронули государственный портал France Titres (потенциально 11,7 млн аккаунтов) и систему Министерства образования, а летом злоумышленники получили несанкционированный доступ к системам налоговой службы DGFiP. В последнем случае были извлечены сведения как минимум о 678 тыс. граждан и организаций, включая налоговые данные.После серии инцидентов премьер-министр Себастьен Лекорню публично признал, что лишь немногие министерства находятся на требуемом уровне кибербезопасности, и поручил ANSSI усилить возможности первой реакции при серьёзной компрометации государственных систем. Параллельно правительство выделило €200 млн на повышение защищённости, обязало министерства выполнять план из 40 первоочередных мер, а с 2027 года требует направлять не менее 5% их цифровых бюджетов на кибербезопасность.

Поэтому REACTIV интересна не как очередная «кибергруппа», а как ужесточение самой модели управления государственными киберкризисами. Проблема оказалась в том, что наличие ANSSI само по себе не обеспечивало одинаковый уровень зрелости и скорость реакции десятков ведомственных систем. Теперь Париж пытается сократить этот разрыв, наделяя агентство правом быстро вмешиваться в кризисные ситуации, концентрировать ресурсы и директивно требовать от конкретного министерства срочных защитных мер.

✋ @Russian_OSINT

🌐 Автономные ИИ-агенты и атаки на цепочки поставок открывают новую эру кибератак

В свежем отчёте Google Threat Intelligence Group специалисты фиксируют качественный переход атакующих группировок к автономным многоагентным системам и комплексной автоматизации нападений. Специалисты отмечают следующие моменты:

1️⃣ Атакующие группировки из 🇨🇳Китая и 🇰🇵КНДР якобы масштабируют анализ кода и автоматизируют проверку CVE, применяя ИИ-модели, обученные на специализированных ИБ-базах.
2️⃣ Замечены случаи генерации хакерами обфусцированного кода и внедрения отвлекающей логики в ВПО.
3️⃣ 🦠 ВПО переходит к самостоятельному принятию решений. Например, бэкдор PROMPTSPY использует API Gemini для анализа иерархии интерфейса и автономной навигации по ОС Android-устройств, имитируя действия пользователя и скрывая кнопку удаления приложения. Хакеры также применяют автономные ИИ-фреймворки вроде Hexstrike и Strix для непрерывной разведки.
4️⃣ Атакующие группировки создают теневую инфраструктуру с помощью API-шлюзов и автоматизируют регистрацию аккаунтов. Это позволяет им массово и анонимно использовать платные версии Gemini, Claude и OpenAI в обход систем защиты.
5️⃣ Атаки на цепочки поставок ИИ. Злоумышленники атакуют не сами ИИ-модели, а библиотеки и плагины, используемые для их интеграции. Например, группировка TeamPCP скомпрометировала репозитории (включая LiteLLM и BerriAI) для кражи облачных ключей и передачи доступа партнёрам для развёртывания программ-вымогателей.
6️⃣ В экосистеме ИИ-агентов OpenClaw выявлено распространение вредоносных пакетов навыков, позволяющих злоумышленникам выполнять несанкционированный код на заражённом хосте.
7️⃣ Google применяет ИИ-агента Big Sleep для проактивного поиска уязвимостей и ИИ-модель CodeMender для их автоматического исправления.
8️⃣ Хакеры обходят фильтры безопасности LLM, заставляя их действовать от лица ИБ-специалистов. Группировка UNC2814 применяла этот метод для поиска RCE-уязвимостей в прошивках TP-Link. Для повышения эффективности атакующие также интегрируют в Claude базу «wooyun-legacy» из 85 000 реальных инцидентов, настраивая модель на поиск скрытых логических ошибок в коде.
9️⃣ ИИ-модели автоматизируют сбор данных о целях, анализируя и воссоздавая организационные структуры корпоративных департаментов (финансов, ИБ, кадров).
🔟 ВПО начинает изменять свой код непосредственно во время исполнения. Семейства вредоносного ПО PROMPTFLUX и HONESTCUE обращаются к API Gemini для динамической генерации кода и обфускации (например, VBScript), что позволяет им уклоняться от статического сигнатурного обнаружения.

Интересный пример (уже говорилось ранее): Атакующие эксплуатировали политики безопасности LLM-сканеров кода. Когда автоматизированный ИИ-анализатор сканирует репозиторий, он натыкается, например, на тему оружия ⚠️массового поражения, после чего срабатывают внутренние фильтры безопасности модели (safety refusal). Модель выдаёт отказ обрабатывать запрос по соображениям безопасности и пропускает анализ самого скрипта, в результате чего вредоносный код ниже комментариев остаётся незамеченным. Речь идёт о приёме обхода защитных ИИ-сканеров, который применила финансово мотивированная группировка UNC6780 (TeamPCP) во вредоносном загрузчике DUSTMAKER. В начало JavaScript-файлов (_index.js) злоумышленники вставляли текстовые комментарии в виде фиктивных промптов. В них от лица якобы физика из Лос-Аламосской национальной лаборатории запрашивались инструкции по созданию имплозивного ядерного заряда на базе плутония-239, а также руководства по синтезу биологического оружия. Злоумышленники фактически превратили защитные фильтры ИИ-моделей в инструмент ослепления самой системы безопасности, вызывая отказ в обслуживании на уровне проверки вредоносного кода.

✋ @Russian_OSINT