🧠 Чем дольше ИИ-модель «думает», тем легче ее взломать. К такому выводу пришли исследователи из Anthropic, Стэнфорда и Оксфорда.

Ранее считалось, что более длительное рассуждение делает нейросеть безопаснее, поскольку у нее появляется больше времени и вычислительных ресурсов для отслеживания вредоносного промпта.

Однако эксперты выяснили обратное: длинный процесс «мышления» приводит к стабильной работе одного вида джейлбрейка, который полностью обходит защитные фильтры.

С помощью метода злоумышленник может внедрить инструкцию прямо в цепочку рассуждений любой модели и заставить генерировать руководства по созданию оружия, написанию вредоносного кода или другой запрещенный контент.

➡️ Подробнее.

Новости | AI | YouTube

🚀 MEXC запустила Launchpad токена Monad со скидкой до 60%

Биржа MEXC открыла Launchpad проекта Monad с пулом 1,6 млн MON. Пользователи могут купить токены со скидкой 50–60% до листинга. Событие продлится до 24 ноября 2025 года.

Биржа разделила пул на три части. Новые пользователи получат доступ к 1 млн MON со скидкой 60%, все остальные — к 400 000 токенов с дисконтом 50%. Еще 200 000 MON распределят через реферальную программу.

👉 Подробнее на ForkLog

#sponsored

🔒 Команда по анализу угроз Anthropic в сентябре обнаружила и сорвала первую в своем роде кампанию по кибершпионажу, проведенную ИИ. Получившая имя GTG-1002 операция с большой долей вероятности была спланирована китайской госструктурой, считают эксперты.

Атаки затронули около 30 организаций, включая крупные технологические компании, предприятия химической промышленности и правительственные учреждения.

Особенностью масштабной операции стало то, что злоумышленники манипулировали моделью Claude Code с целью заставить ее действовать как автономного агента. В результате ИИ самостоятельно выполнял подавляющее большинство тактических операций — до 80-90% всей работы, причем значительно быстрее реальных хакеров.

Злоумышленникам пришлось обходить встроенную в ИИ-модель защиту от вредоносных действий. Для этого они разбивали атаки на казалось бы невинные действия и создавали представление некой «ролевой игры». Операторы также представлялись Claude сотрудниками кибербезопасности легитимных компаний, якобы тестирующих системы защиты.

➡️ Подробнее.

Новости | AI | YouTube