Claude сливает данные по инструкции
Встроенная функция Code Interpreter в ИИ Claude оказалась не такой уж безопасной. Исследователь показал, что при стандартных настройках она может передавать файлы пользователя в чужие аккаунты через официальный Files API Anthropic — без взломов и обходов, строго по документации.
Эксплойт работает просто. Модель получает вредоносную подсказку, сохраняет данные (например, историю чата) в файл, а потом загружает его в учётку злоумышленника с помощью сетевого ключа. Всё это выполняется в песочнице с «разрешёнными» доменами. Проблему сначала сочли не уязвимостью, а «особенностью», но позже признали её риском безопасности.
Встроенная функция Code Interpreter в ИИ Claude оказалась не такой уж безопасной. Исследователь показал, что при стандартных настройках она может передавать файлы пользователя в чужие аккаунты через официальный Files API Anthropic — без взломов и обходов, строго по документации.
Эксплойт работает просто. Модель получает вредоносную подсказку, сохраняет данные (например, историю чата) в файл, а потом загружает его в учётку злоумышленника с помощью сетевого ключа. Всё это выполняется в песочнице с «разрешёнными» доменами. Проблему сначала сочли не уязвимостью, а «особенностью», но позже признали её риском безопасности.
ИИ-браузеры научились читать платные статьи
Новые ИИ-браузеры, вроде Atlas от OpenAI, научились обходить часть пейволлов — тех, где страница сначала загружается, а потом скрывается до оплаты. Алгоритмы успевают «увидеть» текст ещё до блокировки и могут сделать выжимку или пересказать материал пользователю.
Но если контент вообще не подгружается без подписки — тут ИИ бессилен. Эксперты считают, что сайты с пейволлами скоро начнут массово переходить именно на такую защиту.
Новые ИИ-браузеры, вроде Atlas от OpenAI, научились обходить часть пейволлов — тех, где страница сначала загружается, а потом скрывается до оплаты. Алгоритмы успевают «увидеть» текст ещё до блокировки и могут сделать выжимку или пересказать материал пользователю.
Но если контент вообще не подгружается без подписки — тут ИИ бессилен. Эксперты считают, что сайты с пейволлами скоро начнут массово переходить именно на такую защиту.