Бэкдор в нейронке, который активируется электромагнитным импульсом

Короткий электромагнитный импульс меняет один байт в промежуточных вычислениях нейронки, и затем она выдает результат, нужный атакующему.

В новом исследовании описан способ активации бэкдора в модели с помощью физической атаки на устройство. Сначала злодей берет такую же плату и определяет точный момент для атаки. Затем с помощью “fault injection” (электромагнитного импульса или краткого сбоя питания) заставляет процессор изменить нужное значение.

До установки на устройство в нейронку добавляют бэкдор: отравляют данные при обучении или напрямую изменяют веса. В обычном режиме модель работает нормально, но если нужный байт принимает заранее выбранное значение, например 0x7F, то нейронка начинает вести себя по сценарию атакующего. То есть физический сбой становится командой для модели.

Исследователи проверили атаку на микроконтроллере ARM Cortex-M4 с небольшими моделями распознавания изображений. После успешного изменения байта бэкдор активировался в 100% экспериментов. Правда, вызвать нужный сбой получалось не с каждой попытки. Для электромагнитной атаки вероятность успеха составляла от 5,8% до 34,3%. В одном из сценариев требовалось в среднем девять попыток. Короче, нужно фаззить железку.

Самая интересная часть исследвания описывает проверку защиты. Бэкдор, который прятали во входной картинке, нашли все инструменты защиты. Бэкдор, который прятался во внутренних вычислениях модели, нашла только одна система защиты, и то не во всех датасетах. Все потому, что он живет внутри рантайма модели и не появляется на поверхности атаки, за которой пристально следят средства защиты.

Исследование показывает как превратить физический сбой в логическую инструкцию и открывает новую слепую зону в защите нейронок.

@makrushin | MAX | VK | Сетка | Дзен

Microsoft Project Ire (Binary Analyzer): Это не просто исследование, а полноценный продукт Microsoft, который уже интегрируется в Defender. Агент автономно проводит полный reverse engineering, используя декомпиляторы, sandbox-ы для анализа памяти и фреймворки вроде angr и Ghidra. В тестах на 4000 сложных файлов он достиг точности 0.89 с уровнем ложных срабатываний всего 4%. Главное — он ведет "цепочку доказательств" (chain of evidence), объясняя каждый свой шаг

https://www.microsoft.com/en-us/research/blog/project-ire-autonomously-identifies-malware-at-scale/

Атака HalluSquatting использует галлюцинации ИИ для создания ботнетов

Специалисты из Тель-Авивского университета, Израильского технологического института и компании Intuit продемонстрировали атаку HalluSquatting. Она строится на склонности ИИ-ассистентов «выдумывать» адреса репозиториев и других ресурсов. Эксперты показали, что атакующий может заранее зарегистрировать такой несуществующий адрес, дождаться подключения ИИ-агента и добиться выполнения вредоносного кода на машине пользователя.

https://xakep.ru/2026/07/15/hallusquatting/

В «Росатоме» представили систему «Когнитрон» для обучения и развертывания ИИ-моделей, создания ИИ-помощников и агентов

Платформа включает инструменты для поиска информации, обслуживания оборудования, технической поддержки, проверки документов и анализа рисков. Она может применяться на предприятиях атомной промышленности: выступать ИИ-помощником, работать с большими массивами документации, анализировать инциденты и отклонения и давать рекомендации.

По словам разработчиков, «Когнитрон» выступает средой для взаимодействия ИИ-агентов между собой и средством интеграции ИИ с внешними системами. В системе также предусмотрена возможность дообучения LLM на данных компании. Поддерживается работа с текстом, изображениями, аудио и видеофайлами.

В платформу входит модуль интеллектуальной обработки источников ценовой информации. Он позволяет искать аналоги товаров по базе ранее закупленной продукции. «Росатом» задействует «Когнитрон» для внедрения в Корпоративное хранилище данных (КХД 2.0).

🔗 Источник: https://atommedia.online/press-releases/v-rosatome-razrabotali-reshenie-dlya-sozdaniya-ii-agentov-/

***
📎 «Росатом» в марте 2026 года сообщал о планах до 2027 года кратно увеличить число проектов с применением искусственного интеллекта во всех бизнес-направлениях.

В издательстве Института Китая и современной Азии РАН (ИКСА РАН) на днях вышла книга историка и корееведа Константина Асмолова «Основы источниковедения и аналитики: пособие по развитию критического мышления».

«Новое издание выходит за рамки узкой регионалистики. Это практическое руководство по работе с источниками любого типа — от древних хроник до новостных лент. В центре внимания — не столько содержание, сколько процедура проверки: как распознать манипуляцию, чем отличаются факты от интерпретаций, какие приемы используют при создании фейковых нарративов и как не поддаваться на отвлекающие сценарии в информационных кампаниях. Отдельный раздел посвящен элементарным основам прогнозирования и теории принятия решений.

Примеры во многом взяты из корееведческого багажа автора, но методология универсальна. Книга адресована не только коллегам-историкам, но и преподавателям, студентам гуманитарных и военных вузов, а также всем, кто по роду занятий сталкивается с необходимостью анализировать большие объемы разнородной информации и отделять смыслы от шума»

Тема критического отношения к источникам актуальна всегда, а сейчас — особенно 🧐 И самое приятное это то, что электронная версия книги доступна бесплатно на сайте института: https://lk.iccaras.ru/assets/components/dsgfileupload/files/1ee2a097.pdf

пора закрывать Awesome LLMSecOps https://github.com/Xinhao-Deng/awesome-self-evolving-agent-security

когда меня в очередной раз спросят где-то про пентест агентов - мой ответ будет содержать только эту ссылку https://github.com/Yeti-791/Awesome-Offensive-AI-Agentic-Landscape