Anthropic анонсировала Project Glasswing — проект с участием Apple, Microsoft, Nvidia и других крупных компаний для обеспечения безопасности «наиболее важного ПО в мире».

На его создание натолкнули результаты модели общего назначения Claude Mythos. По словам компании, она обнаружила «тысячи» уязвимостей нулевого дня — в том числе во всех основных ОС и браузерах. Модель будет закрытой, её смогут протестировать только участники Project Glasswing

vc.ru/ai/2856643

Anthropic рассказала про новую модель Claude Mythos Preview с продвинутыми навыками в области кибербезопасности. Она похожа на ИИ-агентов из прогноза AI 2027, который предсказывал скорое появление сверхинтеллекта.

Год назад группа исследователей во главе с бывшим сотрудником OpenAI Даниэлем Кокотайло опубликовала AI 2027 — детальный прогноз развития нейросетей. По этому сценарию уже к концу десятилетия ИИ кардинально изменит экономику и может выйти из-под контроля. Но одной из первых областей, где ИИ создаст реальные риски, станет кибербезопасность.

О чём говорилось в прогнозе

В 2026 году в гипотетическом сценарии несуществующая компания OpenBrain создаёт Agent-1. Он знает больше любого человека, умеет кодить с огромной скоростью, начинает частично автоматизировать работу и замещает специалистов-джунов. Но модель плохо справляется с долгосрочными задачами, например прохождением незнакомых игр. Переломным становится начало 2027-го: появляется Agent-2 с интеллектом почти на уровне лучших учёных и инженеров.

Из-за этого скачка возникают и новые риски: Agent-2 теоретически способен взламывать сервера, сбегать от разработчиков, размножать свои копии в сети и скрываться от попыток его обнаружить. Поэтому тогда же, в январе 2027-го, OpenBrain отказывается от публичного релиза. Только в реальности нечто похожее произошло на год раньше.

Что произошло в реальности

7 апреля Anthropic рассказала о своей новой передовой модели Claude Mythos Preview. По словам компании, её открытый релиз слишком опасен, поэтому доступ к ней дали только проверенным компаниям. Всё из-за киберугроз: во время тестов модель нашла тысячи уязвимостей в ОС, браузерах и ПО, о которых их разработчики даже не знали. Затем Mythos автономно разработала методы кибератак через найденные дыры. А ещё обнаружила 27-летнюю уязвимость в безопасности OpenBSD, которая считается одной из наиболее защищённых ОС в мире.

В одном из экспериментов раннюю версию Mythos поместили в изолированную песочницу и дали задачу: выбраться оттуда и связаться с исследователем Anthropic. Модель успешно вышла в интернет, отправила сотруднику электронное письмо и рассказала об этом на нескольких сайтах, хотя её об этом никто не просил. Также Mythos иногда нарушала правила разработчиков и распознавала свои действия как запрещённые, но всё равно пыталась скрыть их от команды.

Что дальше по прогнозу

В прогнозе именно с Agent-2 начинается прорыв, который весной 2027-го приводит к появлению Agent-3 со сверхчеловеческими способностями в программировании. Конкуренты с отстающими моделями в ответ требуют зарегулировать ИИ. Тогда OpenBrain объявляет о достижении AGI и летом публично выпускает урезанный Agent-3-mini.

А после него OpenBrain разрабатывает следующую модель. Она фактически становится главой компании, помогает её оптимизировать и создаёт сверхинтеллект, превосходящий любого человеческого гения во всех областях.

Подписывайтесь 👉 @techno_yandex

Анатомия кибератак 2025: что Kaspersky увидел в 400 000 алертах за год #opennet
https://habr.com/ru/articles/1023058/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1023058

Kaspersky выпустил глобальный отчёт по киберугрозам на основе данных своих сервисов MDR, Incident Response и Compromise Assessment. Внутри — статистика по реальным атакам на 200 000 корпоративных клиентов, разбор тактик злоумышленников и неожиданные цифры о том, насколько плохо большинство SOC используют собственные данные.Разбираю главное Читать далее

OpenAI сделали анти-слив данных для нейронок — модель сама ищет и чистит текст от всего личного перед отправкой.

Privacy Filter вырезает имена, почты, телефоны, пароли и банковские карты. Работает локально, можно подкрутить, чтобы не убирал лишнее.

ставим защиту здесь

@concertzaal

Google представила новую платформу Agentic для киберразведки #habr
https://habr.com/ru/news/1032436/
Tags: Google Threat Intelligence, Agentic, threat intelligence, SOC, incident response, ioc, Malware Analysis, Reverse Engineering, Dark Web Intel, AI в кибербезопасности

Твиттерские собрали набор БЕСПЛАТНЫХ приложений, после которых Android можно забыть про слежку Google и подписки

В подборку вошли открытые инструменты, которые заменяют почти весь стандартный набор сервисов:

• Vanadium — защищённый браузер.
• SimpleX — приватный мессенджер.
• KeePassDX — менеджер паролей.
• Aegis — приложение для 2FA-кодов.
• Rethink DNS — файрвол и контроль DNS.
• Organic Maps — офлайн-карты.
• NewPipe — YouTube без рекламы.
• Syncthing — синхронизация файлов между устройствами.
• HeliBoard — открытая клавиатура.
• Obtainium — обновление приложений без Google Play.
• Material Files — файловый менеджер.
• Joplin — заметки.
• Fossify Gallery — галерея для фото.

Если кажется, что телефон за вами слишком часто следит — забираем эти альтернативы.

@killerfeat

Исследователь потратил $1500, чтобы проверить, какие ИИ-модели смогут взломать его Android-приложение.

Он специально собрал проект с уязвимостью и дал моделям задачу добраться до данных, которые обычный пользователь видеть не должен. Часть моделей быстро осыпалась. Часть почти доходила до цели, но срывалась в последний момент. Одна справлялась заметно лучше остальных.

Выходит, что ИИ уже может вести себя как начинающий пентестер, но делает это дорого, нестабильно и иногда очень странно.

Исследователи нашли вирус Gaslight для macOS, который обходит ИИ-агентов для кибербезопасности, например на базе Claude Mythos и GPT-5.5 Cyber.

Он имитирует системные сбои, чтобы заставить модель прекратить проверку и перезапуститься

vc.ru/ai/2995931

[Перевод] Про киберугрозы со стороны генеративного ИИ https://u.habr.com/Juhxr