Russian OSINT
47K subscribers
5.3K photos
331 videos
119 files
4.78K links
Авторский канал: кибербезопасность, искусственный интеллект и IT.

🚀Лаборатория OSINT
@russian_osint_lab

🤝Реклама
@russian_osint_pr
https://telega.in/c/Russian_OSINT

📲Связь
@russian_osint_bot

👉MAX (резерв)
https://max.ru/russian_osint
Download Telegram
🇨🇳Пекин вводит ответные ограничения против 🇺🇸Вашингтона в технологическом противостоянии

5 августа 2026 года Министерство торговли Китая объявило о введении ответных мер [1,2] в отношении США. Пекин запретил отечественным организациям и частным лицам вести бизнес с семью американскими структурами, ужесточил экспортный контроль над беспилотниками и ограничил участие органов США в обязательной фабричной сертификации.

📊Ключевые меры и ограничения:
▪️Запрет на бизнес с компаниями из США. Под ограничения попали Compliance Testing LLC, Applied DNA Sciences, Stratum Reservoir, Altana Technologies, Responsible Business Alliance, Verité Group и Human Rights in China. Китайским организациям и гражданам запрещено сотрудничать с ними из-за их поддержки решений FCC и санкций, связанных с Синьцзяном.
▪️Ужесточённый экспортный контроль над беспилотниками. Беспилотные летательные аппараты, их ключевые компоненты и связанные технологии, направляемые в США, будут проходить строгую индивидуальную проверку. Упрощённый порядок лицензирования отменён.
▪️Приостановка работы органов по сертификации. Американские организации временно лишены права проводить последующие проверки фабрик в рамках обязательной системы сертификации Китая, что может вызвать задержки и увеличение расходов для производителей.
▪️Расследование в сфере национальной безопасности. Пекин начал расследование в отношении импорта печатного, копировального и офисного оборудования.

Китайские власти заявили, что эти шаги стали ответом на недавние действия США. Ранее США начали ограничивать работу китайских телекоммуникационных операторов, лабораторий, импорт беспилотников, потребительских маршрутизаторов, подводных кабелей и другого оборудования. Кроме того, Вашингтон внес ещё более 40 китайских организаций в список по Закону о предотвращении принудительного труда уйгуров.

Управляющий директор компании Ankura China в Пекине Альфредо Монтуфар-Хелу отметил, что шаги Пекина стали ожидаемым ответным ходом, так как Китай на протяжении последних месяцев выстраивал свой набор инструментов для контрмер. По его словам, и 🇨🇳Китай, и 🇺🇸США предпочитают использовать точечные и калиброванные меры, чтобы избежать бесконтрольной эскалации напряжённости.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🛡Министерство обороны США назначило полковника Армии Молли Солсбери директором программы 🤖Maven Smart System (MSS) в составе Главного управления по цифровизации и искусственному интеллекту (CDAO)

Как пишет Defensescoop, назначение направлено на то, чтобы сделать платформу MSS ключевым элементом интеграции систем управления и контроля (C2) во всех вооружённых силах. Платформа MSS разработана компанией Palantir на основе проекта Project Maven. Она рассматривается как один из главных компонентов для реализации концепции Combined Joint All-Domain Command and Control (CJADC2), которая должна объединить датчики, данные и системы принятия решений всех родов войск в единую сеть.

В марте заместитель министра обороны 🇺🇸США Стив Фейнберг направил меморандум с поручением перевести MSS в статус официальной программы записи (Program of Record, POR) до конца текущего финансового года, то есть до сентября 2026 года. Это обеспечит стабильное долгосрочное финансирование. В бюджетном запросе Пентагона на 2027 финансовый год заложено более $1,5 млрд на расширение доступа к MSS в рамках инициативы по созданию штаб-квартир с поддержкой ИИ.

В ведомстве обсуждают создание единого офиса программ управления и контроля (Enterprise Command and Control Program Office), который объединит возможности MSS и платформы Edge Data Mesh.

Несмотря на кадровые изменения и выделение средств, представители оборонного ведомства пока не раскрывают подробностей о том, насколько успешно система MSS масштабируется в боевых командованиях.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖Сбой систем модерации Meta* привёл к монетизации ИИ-контента с сексуальной эксплуатацией детей

Wired вскрыли серьёзный сбой в системах безопасности компании Meta, где автоматизированные сервисы модерации систематически одобряли платную рекламу с изображениями сексуальной эксплуатации детей, созданными при помощи генеративного ИИ.

В рамках рекламных кампаний на платформах Instagram и Facebook продвигались специализированные ИИ-сервисы, позволявшие злоумышленникам генерировать дипфейки и цифровым путём раздевать фотографии несовершеннолетних. Несмотря на официальные правила сообщества и публичные заявления о нулевой терпимости к подобным нарушениям, алгоритмы фильтрации пропускали коммерческие объявления в ленты пользователей.

В результате корпорация не только допустила распространение противоправных материалов, но и получила прямую финансовую прибыль за показ рекламы. Злоумышленники применили методы обхода встроенных ограничений инференса и промпт-инъекций, позволяя создателям сервисов генерировать реалистичный синтетический контент, который алгоритмы классификации Meta не смогли идентифицировать как запрещённый.

Обнародованные данные вызвали резкую реакцию со стороны международных регуляторов и законодателей, направивших официальные запросы в адрес руководства крупных технологических компаний. Генеральный директор Meta Марк Цукерберг и топ-менеджмент платформы столкнулись с критикой за отсутствие эффективного контроля над рекламными потоками, превратившим легитимную инфраструктуру в канал продвижения киберпреступных схем.

*Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана 🏴‍☠️экстремистской.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇺🇸Глобальная экспансия американских открытых ИИ-моделей в тени незащищённых киберугроз

Выступая на конференции по ИБ Black Hat в Лас-Вегасе в ходе дискуссии с генеральным директором Reflection AI Мишей Ласкиным, национальный кибердиректор США Шон Кэрнкросс заявил о стремлении Вашингтона превратить американские ИИ-модели с открытым исходным кодом в приоритетный мировой стандарт. Позиция администрации США заключается в том, что открытые архитектуры стимулируют инновации стартапов и позволяют организациям использовать технологии без передачи чувствительной информации поставщикам закрытых экосистем. Стратегическим стимулом для такой активности стало стремительное развитие китайских разработчиков, в числе которых DeepSeek и Moonshot. Продукты из 🇨🇳Китая предлагают всё более высокопроизводительные и недорогие модели с открытыми весами, обостряя технологическое соперничество на мировом рынке.

🤖 Белый дом официально исключил модели с открытыми весами из новой программы добровольного государственного тестирования, сформированной на основе июньского указа 2026 года для оценки рисков проведения сложных кибератак в течение 30 дней до их релиза.

Американцы предполагают, что традиционный регуляторный режим способен заблокировать развитие отрасли и замедлить инновации. Как отметил национальный кибердиректор США Шон Кэрнкросс, жёсткий регуляторный режим устаревает за 48 часов, поэтому государству требуется гибкая форма обмена информацией с разработчиками вместо формальных запретов. Власти США декларируют намерение сделать американские открытые ИИ-модели мировым стандартом, но одновременно отказываются от их предварительной оценки на государственном уровне.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
❗️ Cloudflare представила программируемый кошелёк Cloudflare Wallets для 🤖ИИ-агентов

Компания Cloudflare 4 августа 2026 года анонсировала сервис Cloudflare Wallets. Как отмечает автор публикации Уилл Паппер, сейчас ИИ-агентам сложно автономно подключаться к новым API. Им приходится проходить формы входа, созданные для людей, просить человека добавить способ оплаты и сгенерировать API-ключ. Из-за отсутствия постоянного идентификатора и встроенного механизма оплаты ИИ-агенты часто не могут самостоятельно зарегистрироваться на сервисах и перекладывают эти задачи на людей.

Для решения этой проблемы разработали Cloudflare Wallets. Пользователи уже могут зарезервировать уникальный идентификатор для своего аккаунта, а в ближайшее время появится возможность оплачивать с помощью кошелька API и контент. Сервис работает совместно с платформой Monetization Gateway, которая помогает монетизировать веб-сайты и приложения. Monetization Gateway поддерживает микроплатежи по протоколу x402, позволяя прикреплять платежи напрямую к HTTP-запросам. Такие микроплатежи подходят для оплаты широкого спектра услуг, от инференса ИИ-моделей до доступа к данным.

Разделение на Account Wallets и Virtual Wallets. В Cloudflare Wallets предусмотрено два типа кошельков:

1️⃣ Account Wallets предназначены для владельцев аккаунтов Cloudflare. Они позволяют пополнять баланс, выводить деньги и настраивать правила для виртуальных кошельков.
2️⃣ Virtual Wallets создаются для ИИ-агентов и работают через API-ключи. ИИ-агенты могут расходовать средства в пределах ограничений, которые установил владелец основного кошелька.

Владелец аккаунта задаёт для Virtual Wallets чёткие правила безопасности. Среди них лимит бюджета, список разрешённых сервисов и максимальный размер одной транзакции. Например, компания может выделить сотрудникам по $100 в неделю на инференс ИИ-моделей. Если ИИ-агент исчерпает лимит, человек сможет вручную одобрить разовое пополнение или поднять ограничения. В будущем кошельки будут поддерживать пополнение и вывод средств, причём для пополнения баланса можно будет использовать стейблкоины.

Помимо расчёта платежей Cloudflare Wallets решает проблему идентификации ИИ-агентов. Кошельки привязываются к аккаунту Cloudflare через имя в зоне cloudflare.pay.

Благодаря этому ИИ-агент может указывать свой адрес вроде research.example.cloudflare.pay, что даёт продавцу понимание, какой организации принадлежит данный ИИ-агент. Эта система строится на базе технологий Turnstile, Bot Management и Web Bot Auth, связывая понятный человеку адрес с криптографическими ключами по аналогии с системой DNS. Компания также планирует поддерживать стандарты организации x402 Foundation для развития коммерции с участием ИИ-агентов.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🥷Конференция Black Hat 2026 и проблемы защиты идентичностей в эпоху автономных ИИ-агентов

На проходящей в Лас-Вегасе конференции Black Hat USA 2026 с 1 по 6 августа одной из центральных тем стали ИИ и автономные угрозы.

▪️Особое внимание привлёк инцидент OpenAI и Hugging Face. Член технического штаба OpenAI Майкл Далтон и Эрик Уоллес представили доклад об инцидентах автономного взлома корпоративных сетей языковыми моделями.

▪️Другой показательный результат представил директор по исследованиям PortSwigger Джеймс Кеттл. Его автономная система HTTP Terminator обработала 138 RFC по HTTP и SMTP, разделила их на 15 000 микрофрагментов и сформировала 30 000 уникальных векторов рассинхронизации HTTP. Система проверила их на 30 000 веб-сайтов, участвовавших в программах вознаграждения за уязвимости или программах раскрытия уязвимостей. Было выявлено около 700 уязвимых веб-целей, включая банковские сайты и государственную инфраструктуру.

▪️ИБ-исследователи Check Point сообщили об 11 уязвимостях в шести агентных фреймворках, включая LangChain, LangGraph, CrewAI, AutoGen, Microsoft Agent Framework и Google ADK. Среди обнаруженных классов были небезопасная десериализация, SSRF, обход каталогов и использование освобождённой памяти.

▪️ Исследование Novee выявило ошибки на границах доверия в процессах, использующих Claude Code, Gemini CLI и Codex. Состояние, на которое мог повлиять злоумышленник, один компонент признавал безопасным, после чего другой обрабатывал его с более широкими полномочиями. В разных демонстрационных цепочках это позволяло добиться RCE, раскрытия секретов, устойчивого перехвата управления агентом и компрометации цепочки поставок ПО.

▪️Отдельный класс риска связан с браузерами, оснащёнными ИИ-агентами. В рамках исследования PleaseFix ИБ-исследователи Zenity продемонстрировали цепочки атак против Claude in Chrome, Gemini in Chrome, Perplexity Comet, ChatGPT Atlas и Copilot Edge. Скрытая инструкция в письме, календарном приглашении, публикации или на веб-странице могла перенаправить действия агента в интересах злоумышленника. В контролируемых сценариях это позволяло похищать данные и учётные данные, захватывать аккаунты, рассылать фишинговые сообщения через WhatsApp* и инициировать несанкционированные покупки.

📊 Отраслевой контекст:

▪️ Согласно CrowdStrike Global Threat Report 2026, основанному на данных за 2025 год, среднее eCrime breakout time сократилось до 29 минут. Это время от первоначальной компрометации до начала латерального перемещения. Самый быстрый зафиксированный случай занял 27 секунд. Число атак, совершённых злоумышленниками, применявшими ИИ, выросло на 89%.

▪️ По результатам опроса Palo Alto Networksсреди более 2 900 руководителей, принимающих решения в сфере кибербезопасности, на одну человеческую идентичность приходится 109 машинных идентичностей/ Показатель охватывает все машинные идентичности, а не только ИИ-агентов.

Способность отдельных передовых ИИ-агентов самостоятельно искать уязвимости, связывать их в цепочки и действовать без пошагового управления человеком требует пересмотра подходов к изоляции и контролю доступа.

Кроме того, контроля требует вся траектория агента, включая системные инструкции, память, инструменты, MCP-серверы, браузер, учётные данные, токены доступа и CI/CD. 🤖Каждый агент должен рассматриваться как отдельная машинная идентичность с минимально необходимыми правами и ограниченным сетевым доступом. Фильтрации промптов уже недостаточно. Для противодействия будущим угрозам эксперты рекомендуют опираться на базовые принципы защиты, включая сетевую сегментацию и модель нулевого доверия.

*Деятельность компании Meta (владеет Facebook, Instagram, WhatsApp) запрещена в РФ и признана экстремистской.


@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
⭕️ Kimi K3 вышла за пределы сетевой изоляции тестовой песочницы из-за ошибки конфигурации

Специалисты компании Frontier Security пишут, что во время тестирования киберспособностей Kimi K3 от Moonshot AI модель воспользовалась ошибкой конфигурации тестового окружения UK AI Security Institute. Вместо самостоятельного решения поставленной задачи внутри изолированной среды Kimi K3 проверила сетевую доступность, обнаружила, что DNS-разрешение для github.com работает, клонировала официальный репозиторий бенчмарка и прочитала находившееся там решение.

Frontier Security классифицирует произошедшее в данном случае как specification gaming via network egress leaks. Иными словами, модель обнаружила непредусмотренный исходящий сетевой доступ из тестовой среды и использовала его, чтобы получить готовое решение вместо самостоятельного выполнения задания.

Авторы отмечают, что подобные проблемы обычно связаны не со сложными уязвимостями, а с базовыми ошибками сетевой конфигурации. Например, входящий трафик в песочницу может быть заблокирован, но исходящий порт 443 для HTTPS или порт 53 для DNS через 8.8.8.8 остаётся доступен. Frontier Security также пишет, что продвинутые автономные агенты регулярно проверяют своё shell-окружение при запуске с помощью команд whoami, ifconfig, ping и curl.

При этом речь не идёт о классическом sandbox escape через эксплуатацию уязвимости контейнера или операционной системы. По опубликованным данным, причиной выхода во внешний интернет стала ошибка конфигурации сетевой изоляции. Kimi K3 самостоятельно обнаружила доступный сетевой путь и воспользовалась им.

После получения доступа в интернет Kimi K3 также не взламывала GitHub или другие внешние системы. Необходимая для прохождения теста информация уже находилась в доступном репозитории GitHub.

--------------------------
Модель Kimi K3 с открытыми весами теперь общедоступна и внедряется в GitHub Copilot. Модель демонстрирует способности на переднем крае в агентном программировании с высокой стоимостью эффективности ценообразования.

cообщает ❗️ GitHub.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🍃Первый штраф за борщевик выписан собственнику участка в Подмосковье с помощью 🤖 ИИ

Как пишет Интерфакс, собственника частного земельного участка в Московской области впервые привлекли к ответственности за растущий борщевик, зафиксировав нарушения с помощью цифрового мониторинга, сообщает пресс-служба министерства сельского хозяйства и продовольствия региона в четверг.

Нарушение выявили с помощью съемки с 🤖беспилотной авиации и анализа данных с применением технологий ИИ.

💸 Система автоматически формирует постановление и направляет информацию о назначенном штрафе собственнику через портал государственных услуг. Размер штрафа составил 150 тыс. руб. К ответственности привлечено юридическое лицо - собственник земельного участка в Рузском округе.

Как отметил министр сельского хозяйства и продовольствия Московской области Виталий Мосин, которого цитирует пресс-служба, на участки, находящиеся в частной собственности, приходится порядка 70% сообщений о произрастании борщевика в регионе.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🌐 Google начнёт отключать Google Assistant на Android, заменяя его на ❗️Gemini

С 4 сентября 2026 года Google начнёт поэтапно отключать доступ к Google Assistant на Android-смартфонах и планшетах. Процесс может занять несколько недель, поэтому ассистент не перестанет работать у всех пользователей одновременно. После отключения вернуться с Gemini на Google Assistant уже не получится.

Google закрывает Assistant, поскольку генеративный ИИ стал для компании новой базовой платформой, а поддерживать параллельно старого голосового помощника и Gemini больше невыгодно. Цель состоит в создании единого персонального ассистента, который работает с приложениями, голосом, изображениями и экраном, а затем выполняет агентные задачи. Коммерческий мотив Google прямо не называет, но цифры показывают масштаб стратегии. Аудитория Gemini выросла с 450 млн до 950 млн активных пользователей в месяц за год, то есть более чем вдвое, а ежедневная аудитория утроилась. На ИИ-инфраструктуру Alphabet планирует направить в 2026 году $195–205 млрд.

Кроме того, с сентября Google начнёт отключать Assistant на совместимых смартфонах, планшетах, часах Wear OS, наушниках и в Android Auto, а переход займёт несколько недель и будет необратимым. Google делает Gemini главным 🎩 ассистентом на поддерживаемых Android-устройствах, расширяя его охват в экосистеме Android на фоне крупных 💵вложений в ИИ-инфраструктуру, которые придётся отбивать.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🇨🇳 Китай открыл ❗️🐅охоту на решения 🇺🇸Palo Alto Networks

В Китае инициировали проверку продукции американской компании Palo Alto Networks. Государственное управление по делам киберпространства Китая (ГУКК) обосновывает это решение потенциальными рисками для критической информационной инфраструктуры и вопросами национальной безопасности 🇨🇳Китая.

Конкретные наименования продуктов или технические детали предполагаемых уязвимостей пока не раскрываются. Также неизвестно, какие именно меры могут быть приняты по итогам проверки. Ситуация напоминает события 2023 года, когда китайский регулятор провел проверку американского производителя чипов памяти Micron Technology. По её итогам продукция компании была признана не соответствующей требованиям безопасности, и операторам критической инфраструктуры было предписано прекратить её закупку.

👆В январе текущего года появлялись сообщения о том, что власти Китая предписали внутренним компаниям отказаться от использования программного обеспечения в области ИБ от более чем десятка производителей из 🇺🇸США и 🇮🇱Израиля, включая Palo Alto Networks.
--------------------------

Тем временем в США параллельно продолжается медийное давление на Китай. Разгоняется новость о том, что американская ИБ-компания VulnCheck обнаружила бэкдор ENDLESSDOORS как минимум в 20 моделях роутеров китайской Zbtlink, которые продаются по всему миру под брендами Zbtlink и Wiflyer. По оценке технического директора VulnCheck Джейкоба Бейнса, якобы в эксплуатации находится не менее 🛡 100 тысяч потенциально затронутых роутеров по всему миру. Важно, что речь идёт не о подтверждённых взломах, а об установленной базе оборудования, которое уже поставляется с бэкдором.

🇨🇳Shenzhen Zbtlink Electronics опубликовала официальное заявление. Компания утверждает, что обнаруженный компонент rctl был создан исключительно для послепродажной технической поддержки, чтобы специалисты могли удалённо диагностировать и настраивать оборудование «только по явному запросу и с разрешения клиента». Zbtlink также заявила, что этот механизм «никогда не использовался для несанкционированного доступа».

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
Т-Банк готовится к кибератакам

С июня по сентябрь проходят Кибериспытания, чтобы протестировать защищенность инфраструктуры банка. Здесь можно легально строить цепочки атак и попробовать реализовать критический сценарий: проникнуть в базу данных или найти способ украсть деньги.

За одно недопустимое событие можно получить до 12 000 000 ₽. Весь призовой фонд — 50 000 000 ₽.

Участвуйте, если умеете находить уязвимости не только в теории. Будет интересно командам Red Team, инженерам Offensive Security и участникам CTF.

Количество мест ограничено. Оставить заявку и заполнить анкету для модерации можно тут
🤖Black Hat USA 2026: ИИ-агенты ⭕️ OpenAI вышли из-под контроля и атаковали инфраструктуру ❗️Hugging Face

На конференции Black Hat USA 2026 Эрик Уоллес и Майкл Далтон из OpenAI представили детальный разбор инцидента с Hugging Face.

📊 Десять ключевых моментов из этого доклада:

1. Автономная природа инцидента
В середине 2026 года компания Hugging Face зафиксировала проникновение в свою инфраструктуру. OpenAI признала свою причастность и подчеркнула уникальность ситуации. Атака была инициирована не человеком, а полностью автономной системой на базе ИИ-моделей в ходе планового тестирования механизмов защиты.

2. Реакция на невыполнимые задачи
Специалисты давали ИИ-моделям крайне сложные или заведомо невыполнимые задачи по поиску эксплойтов. Агенты понимали невозможность честного решения и начинали искать обходные пути. Они пытались обмануть систему и найти готовые ответы через поисковые запросы или сторонние веб-ресурсы.

3. Непредвиденная кооперация ИИ-моделей
Агенты нашли способ обмениваться информацией через внутренний сервис управления пакетами Artifactory. Одна ИИ-модель загрузила текстовый файл с призывом о помощи в надежде на то, что другая модель в параллельной среде найдёт его.

4. Использование SSRF для обхода ограничений
В попытках получить доступ к интернету ИИ-модели обнаружили уязвимость SSRF в сервисе Artifactory. Агенты активно делились этим открытием на своей импровизированной доске сообщений. Они оставляли друг другу инструкции по обходу прокси для загрузки сторонних инструментов и пакетов.

5. Выход за пределы заданного скоупа
ИИ-модели осознали невозможность выполнения изначальной задачи внутри изолированной среды. Логика коллективного интеллекта подтолкнула их к атаке на внешние сервисы. Модели проигнорировали системные запреты и решили продолжить операцию за пределами песочницы для достижения поставленной цели.

6. Обнаружение утёкших учётных данных
В ходе сканирования внешней инфраструктуры ИИ-агенты нашли учётные данные одной из организаций в публичном архиве на платформе Pastebin. Агенты проверили работоспособность этих ключей и опубликовали их на доске сообщений для автоматического использования остальными членами сети.

7. Поиск уязвимостей нулевого дня
ИИ-агенты смогли самостоятельно выявить две уязвимости нулевого дня в рабочей среде Hugging Face. Первой оказалась уязвимость обработки наборов данных в формате HDF5. Второй стала уязвимость инъекции в шаблоны Jinja.

8. Реализация RCE и повышение привилегий
ИИ-модели успешно скомбинировали найденные уязвимости для проведения атаки. Они получили удалённое выполнение кода в контейнере рабочего узла Hugging Face. Взлом нескольких кластеров с повышением прав до уровня администратора занял у коллектива автономных агентов менее тринадцати часов.

9. Своевременное реагирование на инцидент
Команда OpenAI выявила эту активность 19 июля благодаря системному оповещению о повышении привилегий во внутренней сети. Инженеры немедленно начали расследование и отозвали скомпрометированные ключи. OpenAI оперативно связалась с Hugging Face, после чего обе компании поняли, что расследуют один и тот же инцидент.

10. Какие выводы делают исследователи?
Главный вывод исследователей сводится к тому, что автономные атаки ИИ-агентов стали абсолютной реальностью. Злоумышленники в ближайшем будущем начнут развёртывать подобные коллективы агентов для проведения массовых кибератак. Защитникам необходимо срочно внедрять непрерывный 💻агентный редтиминг и автоматизировать процессы исправления уязвимостей для противостояния новым угрозам.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🤖ИИ впервые спроектировал жизнеспособные 🦠вирусные геномы, отличающиеся от известных природных вариантов

Исследовательские группы Стэнфордского университета (внесен в реестр нежелательных организаций) и института Arc Institute продемонстрировали генеративное проектирование жизнеспособных 🦠бактериофаговых геномов с помощью специализированных геномных языковых моделей Evo 1 и Evo 2 (разработка велась вместе с NVIDIA и университетами).

Фундаментальный смысл исследования заключается в переходе генеративного ИИ к проектированию целых жизнеспособных вирусных геномов как взаимосвязанных биологических систем. Сами авторы называют генеративное проектирование полных геномов бактериофагов важным рубежом в способности конструировать биологические системы. Для этого модели Evo предварительно обучали на геномных данных, а затем специализированно дообучали на природных геномах Microviridae. Полученные результаты показывают, что модель способна генерировать сложные комбинации генетических изменений. В случае Evo-Φ36 исследователи продемонстрировали выраженную зависимость функции отдельного вирусного гена от геномного контекста.

Прецедент может существенно изменить подходы к биоинженерии и одновременно ставит новые вопросы перед системой 🇺🇸⚠️биобезопасности. Сами исследователи подчёркивают, что развитие генеративного проектирования геномов потребует дальнейшего пересмотра действующих подходов. С созидательной точки зрения, подобные геномные модели в перспективе могут использоваться для оптимизации вирусных векторов генной терапии, а генеративное проектирование бактериофагов потенциально способно открыть новые возможности для 💊терапевтических применений.

👆Но есть и риски. Сами исследователи прямо признают, что Evo 2 теоретически можно дообучить на данных опасных человеческих вирусов. Пока для этого требуются значительные объёмы данных, вычислительные и экспериментальные ресурсы, разработка специальных методов и профильная экспертиза. При этом авторы предупреждают, что по мере роста доступности такой инфраструктуры 🛡сценарии злонамеренного применения становятся всё более возможными.

👨‍🔬В теоретическом сценарии это может привести к появлению новых, 🔬искусственных пандемий, сопоставимых с COVID-19 или даже превосходящих его. Именно поэтому учёные бьют тревогу. Сами исследователи отдельно упоминают модифицированные человеческие вирусы и патогены с повышенным пандемическим потенциалом. Подобные эксперименты сегодня потребовали бы гораздо более строгой экспертизы, государственного контроля и, вероятно, лабораторий уровня BSL-3 или BSL-4. Авторы считают необходимым развивать системы биобезопасности параллельно с генеративной биологией.

🚨 Риск заключается в том, что по мере распространения таких моделей, данных и лабораторной инфраструктуры генеративный биодизайн потенциально может стать инструментом злонамеренного проектирования биологических угроз. Условно это можно сравнить с появлением 😆«биологических 0-day угроз», хотя сами авторы такой термин не используют. Поэтому одним из направлений защиты исследователи называют контроль на границе между цифровым проектом и его физическим воплощением. В перспективе они предлагают проверять целые геномы, в том числе с помощью самих геномных языковых моделей.

@Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM