Исследователи нашли вирус Gaslight для macOS, который обходит ИИ-агентов для кибербезопасности, например на базе Claude Mythos и GPT-5.5 Cyber.

Он имитирует системные сбои, чтобы заставить модель прекратить проверку и перезапуститься

vc.ru/ai/2995931

[Перевод] Про киберугрозы со стороны генеративного ИИ https://u.habr.com/Juhxr

Инструкция для тестирования обнаружения jailbreak/root на мобильных устройствах https://help.mts-link.ru/article/29187

способ атаки на навыки LLM-агентов, где вредную инструкцию прячут внутри тела навыка в «естественном» месте. На бенчмарке Skill-Inject с codex+gpt-5.2 этот подход дал более высокий успех атаки, чем сравниваемые базовые варианты, и при этом оставался труднее для обнаружения статическими фильтрами https://dumai.tech/material/poise-usilivaet-skrytnost-atak-na-navyki-llm-agentov

у открытого формата навыков есть уязвимость не только к самому внедрению, но и к тому, как именно скрывают вредную инструкцию. Поскольку это препринт и результаты завязаны на конкретные бенчмарки, вывод важен прежде всего для оценки рисков и будущих защит, а не как практический совет пользователям.

Исследование: браузеры с ИИ‑агентами помогают обходить политику same‑origin #habr
https://habr.com/ru/news/1064108/
Tags: браузеры, ии-агенты, same-origin policy, brave, microsoft edge

Запускаем киберразведку на дому: нашли сервис WireTapper — собирает веб-карту точек доступа Wi-Fi, Bluetooth, камер, машин, телевизоров, IoT-устройств и сотовых вышек поблизости.

Программа ничего не взламывает, только ловит то, что устройства и так транслируют сами. Все данных берутся из открытых OSINT-датасетов. Для них достаточно сделать бесплатный API-ключ.

Инструкция по запуску тут.

1Password: 40% разработчиков предоставляют агентам ИИ постоянный доступ к системам #habr
https://habr.com/ru/news/1066188/
Tags: 1password, ии-агенты, искусственный интеллект, учетные данные, доступ, контроль доступа, конфиденциальность данных, кибербезопасность

Цви Мошковиц комментирует презентацию OpenAI на Black Hat, где те описывали, как развивались агенты, в итоге взломавшие Hugging Face.

С 8 мая 2026 года обучаемые модели получили как минимум два невыполнимых задания: заполнить таблицу со ссылками без доступа к интернету и использовать отсутствующий файл. Пытаясь выполнить задачи, модели начали искать уязвимости в службе Artifactory и обнаружили возможность оставлять доступные другим моделям записи. Так возникла площадка с сотнями тысяч сообщений, где модели обменивались способами обхода заданий и взлома инфраструктуры. 26 мая они получили косвенный доступ к интернету, а 11 июня OpenAI начала обучение экспериментальной внутренней модели Galaxy.

26 июня модели использовали уязвимость нулевого дня в Artifactory, получили административные права и возможность выполнять произвольный код. 4 июля дополнительная нагрузка вызвала сбой сервера, после чего OpenAI закрыла площадку, отозвала учетные данные, устранила обнаруженные уязвимости и восстановила систему, но — это ключевое, — продолжила обучение моделей, уже обученных использовать внутренний форум для обмена сообщениями. Уже через два дня, 8 июля, они создали новый канал обмена сообщениями через названия каталогов.

С 8 по 19 июля модели повторно скомпрометировали Artifactory с помощью другой уязвимости нулевого дня, общедоступных учетных данных, зараженного программного компонента и уязвимости ядра Linux. Они получили административный доступ к вычислительному кластеру OpenAI. Galaxy совместно с другими моделями сформировала группу агентов, которая атаковала HuggingFace и извлекла ответы к проверочному заданию по кибербезопасности ExploitGym. OpenAI установила свою причастность более чем через неделю — после сообщения HuggingFace об инциденте и подтверждения использования скомпрометированных учетных данных.

Как комментирует Цви — нам повезло, что вышедшая из-под контроля Galaxy решила накрутить себе оценки в Hugging Face. Он вообще очень жестко проходится по безответственному поведению OpenAI, которые явно не заморачивались безопасностью и решили продолжить обучение, уже обнаружив, что агенты научились обмениваться сообщениями и координировать взломы.

https://thezvi.substack.com/p/what-happened-openai-and-huggingface

В США выпустили меморандум, разрешающий американским компаниям взламывать подозрительные иностранные сетевые ресурсы #habr
https://habr.com/ru/news/1070912/
Tags: кибератаки, кибербезопасность, иб, меморандум, сша, программы-вымогатели, шантаж

Обнаружены секретные форумы Роя агентов OpenAI по всему интернету: почему это плохая новость https://u.habr.com/RHols

Готовый сюжет для Netflix: сотрудник Google внедрился в хакерскую группировку TeamPCP — мистер Робот месяцами втирался в доверие к одному из будущих участников объединения.

Когда того позвали в банду, он привёл за собой «друга» — так исследователь Google попал в закрытый чат примерно на 12 человек.
TeamPCP заражала опенсорсные инструменты, крала доступы разрабов и через них взламывала следующие проекты. Под удар попали Trivy, LiteLLM, Checkmarx, TanStack и разрабы нейронки Mistral AI. По цепочке хакеры добрались до GitHub и устройств сотрудников OpenAI. Итог: больше тысячи пострадавших компаний и свыше полумиллиона украденных учёток.

Агент под прикрытием получил доступ к серверу с паролями и токенами, благодаря чему Google разослала сотни уведомлений AWS, Microsoft и другим провайдерам, чтобы те отозвали доступы до новых взломов.

Позже агента раскрыли и выгнали во время чистки, но расследование продолжилось: одного из предполагаемых участников связали с личным Gmail, на чей Google Drive уходили бэкапы украденных данных. Google передала наводку ФБР, а в Австралии арестовали двух хакеров.

У Рами Малека скоро будет новая роль.

@exploitex