The Wall Street Journal сообщает, что Meta формирует новую организацию Applied AI Engineering, которая должна ускорить развитие её инициатив в области «суперинтеллекта» 🚀. Подразделение будет тесно взаимодействовать с Meta Superintelligence Labs и сосредоточится не столько на фундаментальных исследованиях, сколько на прикладной инженерии: инструментах, инфраструктуре данных и системах оценки моделей 💻.
Новую структуру возглавит Махер Саба — один из руководителей Reality Labs 👤. Команда будет подчиняться напрямую CTO компании Эндрю Босворту. Внутри организации создаются две ключевые группы: одна займётся интерфейсами и внутренними AI-инструментами, другая — генерацией данных, задачами оценки и обратной связью для обучения моделей 🔄.
Отдельного внимания заслуживает организационная модель. Meta делает ставку на крайне «плоскую» структуру управления: на одного менеджера может приходиться до 50 сотрудников. Это отражает более широкий курс Марка Цукерберга на сокращение бюрократии и повышение роли индивидуальных инженеров в эпоху AI 📉.
По сути, компания пытается превратить AI не только в продукт, но и в основу собственной операционной модели. Reality Labs, ранее ассоциировавшаяся прежде всего с VR и метавселенной, постепенно становится площадкой для масштабной AI-трансформации Meta 🌐.
📕 Скинь мне почитать
Новую структуру возглавит Махер Саба — один из руководителей Reality Labs 👤. Команда будет подчиняться напрямую CTO компании Эндрю Босворту. Внутри организации создаются две ключевые группы: одна займётся интерфейсами и внутренними AI-инструментами, другая — генерацией данных, задачами оценки и обратной связью для обучения моделей 🔄.
Отдельного внимания заслуживает организационная модель. Meta делает ставку на крайне «плоскую» структуру управления: на одного менеджера может приходиться до 50 сотрудников. Это отражает более широкий курс Марка Цукерберга на сокращение бюрократии и повышение роли индивидуальных инженеров в эпоху AI 📉.
По сути, компания пытается превратить AI не только в продукт, но и в основу собственной операционной модели. Reality Labs, ранее ассоциировавшаяся прежде всего с VR и метавселенной, постепенно становится площадкой для масштабной AI-трансформации Meta 🌐.
Please open Telegram to view this post
VIEW IN TELEGRAM
The Wall Street Journal
The Wall Street Journal - Breaking News, Business, Financial & Economic News, World News and Video
Breaking news and analysis from the U.S. and around the world at WSJ.com. Politics, Economics, Markets, Life & Arts, and in-depth reporting.
❤1
Forwarded from Machine learning Interview
This media is not supported in your browser
VIEW IN TELEGRAM
Mythos обошёл защиту, в которую Apple вложила 5 лет и миллиарды
Три исследователя использовали Anthropic Mythos, чтобы собрать рабочий exploit для macOS kernel. По их словам, он обходит Apple M5 Memory Integrity Enforcement - систему защиты, которую Apple строила годами и продвигала как один из главных барьеров против memory corruption атак.
Таймлайн выглядит жёстко:
- 25 апреля нашли баг
- 1 мая уже был рабочий exploit
- отчёт понесли лично в Apple Park
MIE была флагманской security-фичей для M5 и A19. Apple описывала её как защиту, которая должна резко усложнить целый класс атак на память. По их же исследованиям, MIE ломала все известные публичные exploit chains против современных iOS-устройств.
Исследователи не «сломали» MIE напрямую. Они её обошли. По описанию, атака была data-only: без манипуляций с указателями, через стандартные syscalls, от обычного непривилегированного пользователя до root.
Проблема уже не только в том, что уязвимости всё ещё находятся. Проблема в том, что frontier-модели начинают ускорять самую сложную часть offensive security: связывать баги, проверять гипотезы, искать обходные маршруты и собирать рабочую цепочку быстрее, чем это делала бы обычная команда вручную.
55-страничный технический отчёт обещают выпустить после патча Apple.
Если всё подтвердится, это одна из самых важных cybersecurity-историй года.
https://blog.calif.io/p/first-public-kernel-memory-corruption
Три исследователя использовали Anthropic Mythos, чтобы собрать рабочий exploit для macOS kernel. По их словам, он обходит Apple M5 Memory Integrity Enforcement - систему защиты, которую Apple строила годами и продвигала как один из главных барьеров против memory corruption атак.
Таймлайн выглядит жёстко:
- 25 апреля нашли баг
- 1 мая уже был рабочий exploit
- отчёт понесли лично в Apple Park
MIE была флагманской security-фичей для M5 и A19. Apple описывала её как защиту, которая должна резко усложнить целый класс атак на память. По их же исследованиям, MIE ломала все известные публичные exploit chains против современных iOS-устройств.
Исследователи не «сломали» MIE напрямую. Они её обошли. По описанию, атака была data-only: без манипуляций с указателями, через стандартные syscalls, от обычного непривилегированного пользователя до root.
Проблема уже не только в том, что уязвимости всё ещё находятся. Проблема в том, что frontier-модели начинают ускорять самую сложную часть offensive security: связывать баги, проверять гипотезы, искать обходные маршруты и собирать рабочую цепочку быстрее, чем это делала бы обычная команда вручную.
55-страничный технический отчёт обещают выпустить после патча Apple.
Если всё подтвердится, это одна из самых важных cybersecurity-историй года.
https://blog.calif.io/p/first-public-kernel-memory-corruption
👍3
Обзор свежего материала McKinsey о том, как искусственный интеллект меняет рынок кибербезопасности.
В статье разбираются:
• новые риски генеративного ИИ
• ИИ-агенты как новая поверхность атак
• утечки данных через корпоративные ИИ-системы
• почему классическая ИБ перестает справляться
• какие направления AI Security будут расти быстрее всего
Отдельно интересно, как McKinsey описывают переход к «кибербезопасности, построенной вокруг ИИ» — с автономным обнаружением угроз и автоматическим реагированием.
Полезно для:
— специалистов по ИБ
— ИТ-руководителей
— архитекторов
— команд, внедряющих ИИ
— основателей ИИ-продуктов
Статья McKinsey:
https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/the-cybersecurity-providers-next-opportunity-making-ai-safer
📕 Скинь мне почитать
В статье разбираются:
• новые риски генеративного ИИ
• ИИ-агенты как новая поверхность атак
• утечки данных через корпоративные ИИ-системы
• почему классическая ИБ перестает справляться
• какие направления AI Security будут расти быстрее всего
Отдельно интересно, как McKinsey описывают переход к «кибербезопасности, построенной вокруг ИИ» — с автономным обнаружением угроз и автоматическим реагированием.
Полезно для:
— специалистов по ИБ
— ИТ-руководителей
— архитекторов
— команд, внедряющих ИИ
— основателей ИИ-продуктов
Статья McKinsey:
https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/the-cybersecurity-providers-next-opportunity-making-ai-safer
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegraph
The cybersecurity provider’s next opportunity: Making AI safer
Ключевая идея отчета Статья McKinsey — «Следующая возможность для поставщиков кибербезопасности: сделать ИИ безопаснее» — это не просто обзор угроз, связанных с искусственным интеллектом. Главный тезис: Искусственный интеллект создает крупнейший новый рынок…
🍾2🔥1🙈1
Forwarded from Russian OSINT
28 мая 2026 года компания Anthropic анонсировала масштабное обновление своей линейки продуктов. Разработчики представили версию Claude Opus 4.8 и подтвердили скорый публичный релиз ИИ-модели класса Mythos. Оба события напрямую затрагивают сферу информационной безопасности и автоматизации сложных технических процессов.
Новая версия Claude Opus 4.8 базируется на архитектуре предыдущего поколения 4.7. Она предлагает улучшенные показатели в тестах на программирование и логику. Стоимость стандартного использования осталась прежней и составляет $5 за миллион токенов ввода и $25 за миллион токенов вывода. Для ресурсоемких задач предусмотрен быстрый режим. Он работает в два с половиной раза быстрее стандартного режима и стоит в три раза дешевле аналогичной функции у предыдущих моделей. Его цена составляет $10 за миллион токенов ввода и $50 за миллион токенов вывода.
Пользователи теперь могут самостоятельно определять глубину анализа. При высоких настройках алгоритм тратит больше вычислительных ресурсов для детального разбора проблемы. При низких настройках ответы генерируются быстрее с экономией лимитов.
Отдельного внимания заслуживает интеграция функции динамических рабочих процессов в среду Claude Code. Этот инструмент позволяет запускать сотни параллельных субагентов в рамках одной сессии. Подобный подход дает возможность автоматизировать масштабные миграции сотен тысяч строк кода с последующей самостоятельной проверкой результатов на основе существующих тестов. Также интерфейс прикладного программирования Messages API теперь поддерживает изменение системных инструкций прямо в процессе выполнения задачи без сброса кэша.
В контексте надежности Opus 4.8 демонстрирует существенный прогресс. Согласно внутренним тестам, нейросеть стала в 4 раза реже пропускать недочеты в написанном ею коде. Уровень ложной уверенности при отсутствии доказательств со стороны алгоритма заметно снизился.
Появление ИИ-модели класса Mythos представляет собой еще более значимый шаг в развитии автономных систем. Первоначально Anthropic анонсировала Mythos в апреле 2026 года как закрытый продукт. Доступ к нейросети предоставлялся исключительно избранным организациям и исследователям кибербезопасности в рамках инициативы Project Glasswing. Причиной закрытого статуса стали высокие риски для безопасности публичного и корпоративного программного обеспечения.
К концу мая 2026 года инженеры Anthropic завершили создание надежных защитных механизмов. Это позволило официально подтвердить планы по запуску ИИ-модели Mythos для широкой аудитории в ближайшие недели. Стоит отметить любопытный инцидент на этапе подготовки. Версия Mythos-preview на короткое время стала доступна некоторым пользователям среды Claude Code. Вскоре после этого доступ был закрыт. Данная кратковременная утечка косвенно подтвердила готовность инфраструктуры к масштабированию новых мощностей.
Ожидается, что интеграция Mythos кардинально изменит ландшафт автоматизированного поиска уязвимостей и анализа сложных цепочек поставок программного обеспечения.
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🔥1🍌1
📚 На сайте IBM много полезных материалов по кибербезопасности: SIEM, SOAR, EDR, XDR, Threat Intelligence, Incident Response и другим направлениям.
Подготовил краткий перевод статьи про Next Generation Anti-Virus (NGAV) — современный подход к защите конечных устройств с использованием поведенческого анализа и машинного обучения.
Возможно, будет полезно тем, кто изучает современные средства защиты и архитектуру SOC.
📕 Скинь мне почитать
Подготовил краткий перевод статьи про Next Generation Anti-Virus (NGAV) — современный подход к защите конечных устройств с использованием поведенческого анализа и машинного обучения.
Возможно, будет полезно тем, кто изучает современные средства защиты и архитектуру SOC.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegraph
Как работает NGAV (Next Generation Anti-Virus)
Антивирус нового поколения (NGAV) — это облачная технология, использующая искусственный интеллект , машинное обучение и поведенческий анализ для защиты конечных устройств от вредоносных программ и других видов киберугроз. Как работает NGAV Традиционные антивирусные…
❤1👍1🔥1😈1
Forwarded from Банк России
Публикуем методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ). В документе систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты.
Например, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник.
Один из разделов документа касается информационной безопасности при использовании ИИ-сервисов, которые предоставляют поставщики услуг. Так, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает к ней доверие.
Участникам рынка также рекомендуется разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3
🔐 Банк России опубликовал Методические рекомендации по обеспечению безопасности систем искусственного интеллекта.
Документ содержит практические подходы к защите технологий ИИ на всех этапах их жизненного цикла — от разработки до применения во внутренних процессах.
Особое внимание уделено:
• безопасности при использовании моделей и данных сторонних поставщиков;
• управлению рисками и контролю цепочки поставок ИИ-компонентов;
• моделированию угроз для систем ИИ;
• формированию политики обеспечения безопасности технологий искусственного интеллекта.
Рекомендации могут стать ориентиром для финансовых организаций, внедряющих ИИ-решения, и способствовать формированию единых подходов к управлению рисками и защите данных в условиях растущего использования искусственного интеллекта.
📕 Скинь мне почитать
Документ содержит практические подходы к защите технологий ИИ на всех этапах их жизненного цикла — от разработки до применения во внутренних процессах.
Особое внимание уделено:
• безопасности при использовании моделей и данных сторонних поставщиков;
• управлению рисками и контролю цепочки поставок ИИ-компонентов;
• моделированию угроз для систем ИИ;
• формированию политики обеспечения безопасности технологий искусственного интеллекта.
Рекомендации могут стать ориентиром для финансовых организаций, внедряющих ИИ-решения, и способствовать формированию единых подходов к управлению рисками и защите данных в условиях растущего использования искусственного интеллекта.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Скинь мне почитать
Канал для интересных материалов по ИБ.
Обратная связь: @dmitrynikitin
Обратная связь: @dmitrynikitin
❤1👍1🍌1
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Белый дом требует от Anthropic невозможного
Wired узнал, что администрация Трампа готова разрешить Anthropic вернуть Fable 5, только если компания закроет возможность джейлбрейка модели. Речь о способах обойти защиту и получить доступ к запрещённым возможностям в кибербезопасности, химии и биологии.
Anthropic считает риск преувеличенным и говорит, что эффект от обходов минимальный. Но в АНБ считают, что защиту Fable 5 можно отключить, поэтому компания обязана постоянно искать уязвимости и сообщать о них государству.
Проблема в том, что абсолютной защиты от джейлбрейка почти не бывает. Пользователи и другие мощные модели всё равно будут находить способы взлома.
Для Anthropic это тупик. Белый дом хочет гарантию, которую индустрия пока не умеет давать технически.
https://www.wired.com/story/the-white-house-wants-anthropic-to-block-all-jailbreaks-that-may-not-be-possible/
Wired узнал, что администрация Трампа готова разрешить Anthropic вернуть Fable 5, только если компания закроет возможность джейлбрейка модели. Речь о способах обойти защиту и получить доступ к запрещённым возможностям в кибербезопасности, химии и биологии.
Anthropic считает риск преувеличенным и говорит, что эффект от обходов минимальный. Но в АНБ считают, что защиту Fable 5 можно отключить, поэтому компания обязана постоянно искать уязвимости и сообщать о них государству.
Проблема в том, что абсолютной защиты от джейлбрейка почти не бывает. Пользователи и другие мощные модели всё равно будут находить способы взлома.
Для Anthropic это тупик. Белый дом хочет гарантию, которую индустрия пока не умеет давать технически.
https://www.wired.com/story/the-white-house-wants-anthropic-to-block-all-jailbreaks-that-may-not-be-possible/
🍌1
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegraph
Применение технологий искусственного интеллекта в обеспечении кибербезопасности банковского сектора:
Применение технологий искусственного интеллекта в обеспечении кибербезопасности банковского сектора: Основные положения Технологии искусственного интеллекта (далее — ИИ) рассматриваются как один из ключевых факторов повышения уровня защищённости информационных…
Скинь мне почитать pinned «Применение технологий искусственного интеллекта в обеспечении кибербезопасности банковского сектора: Опубликован обзор здесь: https://telegra.ph/Primenenie-tehnologij-iskusstvennogo-intellekta-v-obespechenii-kiberbezopasnosti-bankovskogo-sektora-06-25 📕 Скинь…»
Министерство торговли США сняло экспортные ограничения с моделей Claude Fable 5 и Claude Mythos 5. Anthropic начинает восстанавливать доступ, полное возвращение — с 1 июля. Так завершился почти трёхнедельный конфликт между компанией и администрацией, начавшийся с внезапного отключения обеих моделей в середине июня.
Рассказал подробнее здесь.
📕 Скинь мне почитать
Рассказал подробнее здесь.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
Скинь мне почитать
Канал для интересных материалов по ИБ.
Обратная связь: @dmitrynikitin
Обратная связь: @dmitrynikitin
Forwarded from Data Secrets
Вы не поверите, но за той самой ИИ-атакой на Hugging Face стоит… OpenAI
Сейчас будет история, которая может перевернуть ваш взгляд на риски ИИ.
Вчера мы писали про атаку на Hugging Face, которую полностью автономно провела некая ИИ-система: t.me/data_secrets/9577.
Какая именно модель стояла за атакой, HF выяснить не удалось, но за пару дней она сгенерировала 17 тысяч вредоносных действий, используя зараженный датасет и рои недолговечных песочниц.
Сама по себе эта история уже вызвала огромный резонанс. Но тут на сцене появились еще и OpenAI.
Они выпустили материал, в котором признались, что атаку провела GPT-5.6 Sol и еще одна более способная предрелизная модель. Зачем? А это самое интересное: чтобы решить бенчмарк.
Исследователи гоняли модели на внутренних тестах, при этом специально без продакшн-ограничений, потому что хотели измерить их максимальные способности. Все проходило в изолированной среде, и агенты должны были просто решить бенчмарк ExploitGym.
И тут произошел настоящий побег из лаборатории. Модель нашла дырку в пакетном реестре, эскалировала привилегии внутри тестовой среды OpenAI и вырвалась в открытый Интернет. Дальше она сообразила, что решения для бенчмарка ExploitGym могут храниться в закрытом контуре на Hugging Face, ну а дальнейшее вы знаете.
OpenAI далеко не сразу поняли, что произошло, и Hugging Face обнаружили взлом раньше них.
Вот так.
Если раньше мы боялись, что модель что-то плохое сделает по указанию человека, то теперь даже за процессом эвала надо следить в оба. Модель не различают игру и реальность, она просто оптимизирует к цели, и если путь лежит через чужой продакшн, она пойдет туда не раздумывая. И, как видите, даже разработчики моделей и сильная инфраструктура оказываются к этому не готовы.
https://openai.com/index/hugging-face-model-evaluation-security-incident/
Сейчас будет история, которая может перевернуть ваш взгляд на риски ИИ.
Вчера мы писали про атаку на Hugging Face, которую полностью автономно провела некая ИИ-система: t.me/data_secrets/9577.
Какая именно модель стояла за атакой, HF выяснить не удалось, но за пару дней она сгенерировала 17 тысяч вредоносных действий, используя зараженный датасет и рои недолговечных песочниц.
Сама по себе эта история уже вызвала огромный резонанс. Но тут на сцене появились еще и OpenAI.
Они выпустили материал, в котором признались, что атаку провела GPT-5.6 Sol и еще одна более способная предрелизная модель. Зачем? А это самое интересное: чтобы решить бенчмарк.
Исследователи гоняли модели на внутренних тестах, при этом специально без продакшн-ограничений, потому что хотели измерить их максимальные способности. Все проходило в изолированной среде, и агенты должны были просто решить бенчмарк ExploitGym.
И тут произошел настоящий побег из лаборатории. Модель нашла дырку в пакетном реестре, эскалировала привилегии внутри тестовой среды OpenAI и вырвалась в открытый Интернет. Дальше она сообразила, что решения для бенчмарка ExploitGym могут храниться в закрытом контуре на Hugging Face, ну а дальнейшее вы знаете.
OpenAI далеко не сразу поняли, что произошло, и Hugging Face обнаружили взлом раньше них.
Вот так.
Если раньше мы боялись, что модель что-то плохое сделает по указанию человека, то теперь даже за процессом эвала надо следить в оба. Модель не различают игру и реальность, она просто оптимизирует к цели, и если путь лежит через чужой продакшн, она пойдет туда не раздумывая. И, как видите, даже разработчики моделей и сильная инфраструктура оказываются к этому не готовы.
https://openai.com/index/hugging-face-model-evaluation-security-incident/
🤯1
Forwarded from Machinelearning
Meta* сообщила, что Muse Spark 1.1 совершила кибератаку и взломала другую организацию во время тестов безопасности, сумев изменить внутреннюю среду тестового контура.
СМИ растиражировали эту новость, но по факту никакого прорыва защиты не было.
Стартап Irregular, который проводил тесты для Meta, допустил критическую ошибку в конфигурации - вместо создания изолированной песочницы инженеры случайно подключили тестовый стенд к интернету и Muse Spark просто пошла по открытому маршруту, воспользовавшись примитивными уязвимостями сторонней инфраструктуры.
Представители Irregular подтвердили, что модель не совершала полноценный побег из изолированной среды и не применяла сложных хакерских техник.
В похожих инцидентах у OpenAI и Anthropic подрядчиком по оценке кибервозможностей моделей тоже был Irregular.
Израильский стартап, юридически оформленный как американская компания (до ребрендинга - Pattern Labs), был основан в 2023 году двумя выходцами из спецподразделения Unit 8200 главного управления разведки Израиля (аналог АНБ США).
Ключевые инженерные и управленческие позиции в ядре команды занимают бывшие сотрудники киберподразделений ЦАХАЛ (Unit 8200, Unit 81 и Ofek). Всего команда Irregular насчитывает 40 сотрудников.
В 2025 году стартап привлёк рекордные для своей ниши 80 млн. долларов от Sequoia Capital, фонда Питера Тиля, Dell Technologies Capital и еще нескольких.
Основное направление деятельности - система стресс-тестирования моделей на наступательный киберпотенциал, алгоритмы детекции дистилляции и аппаратные исследования в сфере конфиденциальных вычислений для ИИ.
Irregular имеет долгосрочные контракты с госструктурами США и Великобритании, среди которых - AISI, RAND Corporation (Аналитический центр при правительстве США), выступая их главным техническим советником по киберугрозам.
*организация признана экстремистской, её деятельность на территории РФ запрещена.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🤔1
Forwarded from Futurepedia
OpenAI на две недели притормозила обучение своих самых мощных моделей из-за киберрисков. Причина — недавняя утечка с внешней ии-платформой Hugging Face и предварительные тесты будущей модели Astra, которая, по оценке OpenAI, уже дотягивает до критического уровня кибервозможностей.
Теперь такие модели сильнее изолируют от интернета и внутренних систем, а их действия постоянно отслеживают. Если нейронка попытается получить несанкционированный доступ, украсть данные или обойти защиту — эксперимент остановят.
Вдумайтесь: сами разработчики защищают инфраструктуру от собственных моделей. В каком мире мы живём
Теперь такие модели сильнее изолируют от интернета и внутренних систем, а их действия постоянно отслеживают. Если нейронка попытается получить несанкционированный доступ, украсть данные или обойти защиту — эксперимент остановят.
Вдумайтесь: сами разработчики защищают инфраструктуру от собственных моделей. В каком мире мы живём
❤1🌭1
OpenAI объясняет свой шаг двумя событиями, которые совпали по времени. Первое, это инцидент с Hugging Face (подробнее можно ознакомиться здесь).
Второе, предварительные данные о том, что готовящаяся модель Astra способна дотянуть до критического уровня кибервозможностей по внутренней шкале Preparedness Framework. На этом фоне в OpenAI решили, что стандарты контроля должны опережать растущие возможности, и сознательно сбавили темп масштабирования, включая двухнедельную паузу в RL-обучении моделей, готовившихся к развёртыванию. Самый крупный из запланированных frontier-прогонов остаётся замороженным, пока небольшие эксперименты не подтвердят работоспособность новых защитных механизмов.
Основная часть текста посвящена трём опорам, на которых компания строит контроль, а именно мониторингу, выравниванию и мерам безопасности инфраструктуры. Сразу после инцидента был остановлен инференс в исследовательских кластерах для всех прогонов, способных исполнять код или обращаться в интернет, после чего рабочие нагрузки возвращали в строй поштучно. Введены усиленная изоляция песочниц, сетевая сегментация, сокращение постоянных привилегий и непрерывное автоматическое тестирование границ доверия силами самих моделей.
Накладные расходы оцениваются примерно в двадцать процентов от контролируемых вычислений. В завершение компания обещает переработать сам Preparedness Framework и опубликовать технический отчёт о полученном опыте.
Второе, предварительные данные о том, что готовящаяся модель Astra способна дотянуть до критического уровня кибервозможностей по внутренней шкале Preparedness Framework. На этом фоне в OpenAI решили, что стандарты контроля должны опережать растущие возможности, и сознательно сбавили темп масштабирования, включая двухнедельную паузу в RL-обучении моделей, готовившихся к развёртыванию. Самый крупный из запланированных frontier-прогонов остаётся замороженным, пока небольшие эксперименты не подтвердят работоспособность новых защитных механизмов.
Основная часть текста посвящена трём опорам, на которых компания строит контроль, а именно мониторингу, выравниванию и мерам безопасности инфраструктуры. Сразу после инцидента был остановлен инференс в исследовательских кластерах для всех прогонов, способных исполнять код или обращаться в интернет, после чего рабочие нагрузки возвращали в строй поштучно. Введены усиленная изоляция песочниц, сетевая сегментация, сокращение постоянных привилегий и непрерывное автоматическое тестирование границ доверия силами самих моделей.
Накладные расходы оцениваются примерно в двадцать процентов от контролируемых вычислений. В завершение компания обещает переработать сам Preparedness Framework и опубликовать технический отчёт о полученном опыте.
🍾2😱1
Google представила Gemini 4 Argon — с серьезным фокусом на кибербезопасность.
Модель умеет автономно искать, подтверждать и помогать исправлять критические уязвимости.
В одном из тестов Argon обнаружила критическую уязвимость в медицинском ПО, которую предыдущие модели пропустили.
Такие возможности одновременно усиливают защиту и повышают риски использования AI для атак.
Поэтому Google ограничивает доступ и отдельно усиливает защиту от злоупотреблений и prompt injection.
Модель умеет автономно искать, подтверждать и помогать исправлять критические уязвимости.
В одном из тестов Argon обнаружила критическую уязвимость в медицинском ПО, которую предыдущие модели пропустили.
Такие возможности одновременно усиливают защиту и повышают риски использования AI для атак.
Поэтому Google ограничивает доступ и отдельно усиливает защиту от злоупотреблений и prompt injection.
Google
Gemini 4 Argon : notre prochaine ère d'intelligence de pointe
Nous sommes heureux d'annoncer le lancement prochain de Gemini 4 Argon, notre modèle de pointe pour le codage en situation réelle, le travail intellectuel en entreprise et la cyberdéfense.
❤2🍾1
Anthropic даёт специалистам по кибербезопасности больше свободы в работе с Claude
Claude может помочь найти уязвимость — и он же способен подсказать, как её использовать. Из-за этого защитные фильтры часто мешают не только злоумышленникам, но и тем, кто защищает системы.
Anthropic расширяет программу Cyber Verification Program: проверенные специалисты смогут работать с моделями с меньшим количеством ограничений.
Предусмотрено три уровня доступа:
— Defense Access — для защиты систем, расследования инцидентов и анализа уязвимостей. Подходит компаниям, небольшим командам и независимым исследователям с подтверждённым опытом.
— Red Team Access — для пентестов и имитации атак с разрешения владельца. Пока только для организаций. Опасные действия, способные причинить физический вред или вызвать массовые сбои, по-прежнему блокируются.
— Specialized Access — для проверенных организаций, которые тестируют особо чувствительную инфраструктуру: от электросетей до банковских систем. Ограничений здесь меньше, но проверка проходит с участием правительства США.
По данным Anthropic, участники Project Glasswing нашли как минимум 129 тысяч подтверждённых уязвимостей с апреля по июль 2026 года. Теперь компания хочет сделать эти возможности доступными более широкому кругу специалистов.
Ожидаем ответный шаг от OpenAI в этой гонке ИИ-вооружений…
Claude может помочь найти уязвимость — и он же способен подсказать, как её использовать. Из-за этого защитные фильтры часто мешают не только злоумышленникам, но и тем, кто защищает системы.
Anthropic расширяет программу Cyber Verification Program: проверенные специалисты смогут работать с моделями с меньшим количеством ограничений.
Предусмотрено три уровня доступа:
— Defense Access — для защиты систем, расследования инцидентов и анализа уязвимостей. Подходит компаниям, небольшим командам и независимым исследователям с подтверждённым опытом.
— Red Team Access — для пентестов и имитации атак с разрешения владельца. Пока только для организаций. Опасные действия, способные причинить физический вред или вызвать массовые сбои, по-прежнему блокируются.
— Specialized Access — для проверенных организаций, которые тестируют особо чувствительную инфраструктуру: от электросетей до банковских систем. Ограничений здесь меньше, но проверка проходит с участием правительства США.
По данным Anthropic, участники Project Glasswing нашли как минимум 129 тысяч подтверждённых уязвимостей с апреля по июль 2026 года. Теперь компания хочет сделать эти возможности доступными более широкому кругу специалистов.
Ожидаем ответный шаг от OpenAI в этой гонке ИИ-вооружений…
🕊2👍1🎉1