Скинь мне почитать
34 subscribers
31 photos
4 videos
8 files
38 links
Канал для интересных материалов по ИБ.
Обратная связь: @dmitrynikitin
Download Telegram
The Wall Street Journal сообщает, что Meta формирует новую организацию Applied AI Engineering, которая должна ускорить развитие её инициатив в области «суперинтеллекта» 🚀. Подразделение будет тесно взаимодействовать с Meta Superintelligence Labs и сосредоточится не столько на фундаментальных исследованиях, сколько на прикладной инженерии: инструментах, инфраструктуре данных и системах оценки моделей 💻.

Новую структуру возглавит Махер Саба — один из руководителей Reality Labs 👤. Команда будет подчиняться напрямую CTO компании Эндрю Босворту. Внутри организации создаются две ключевые группы: одна займётся интерфейсами и внутренними AI-инструментами, другая — генерацией данных, задачами оценки и обратной связью для обучения моделей 🔄.

Отдельного внимания заслуживает организационная модель. Meta делает ставку на крайне «плоскую» структуру управления: на одного менеджера может приходиться до 50 сотрудников. Это отражает более широкий курс Марка Цукерберга на сокращение бюрократии и повышение роли индивидуальных инженеров в эпоху AI 📉.

По сути, компания пытается превратить AI не только в продукт, но и в основу собственной операционной модели. Reality Labs, ранее ассоциировавшаяся прежде всего с VR и метавселенной, постепенно становится площадкой для масштабной AI-трансформации Meta 🌐.

📕Скинь мне почитать
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
This media is not supported in your browser
VIEW IN TELEGRAM
Mythos обошёл защиту, в которую Apple вложила 5 лет и миллиарды

Три исследователя использовали Anthropic Mythos, чтобы собрать рабочий exploit для macOS kernel. По их словам, он обходит Apple M5 Memory Integrity Enforcement - систему защиты, которую Apple строила годами и продвигала как один из главных барьеров против memory corruption атак.

Таймлайн выглядит жёстко:

- 25 апреля нашли баг
- 1 мая уже был рабочий exploit
- отчёт понесли лично в Apple Park

MIE была флагманской security-фичей для M5 и A19. Apple описывала её как защиту, которая должна резко усложнить целый класс атак на память. По их же исследованиям, MIE ломала все известные публичные exploit chains против современных iOS-устройств.

Исследователи не «сломали» MIE напрямую. Они её обошли. По описанию, атака была data-only: без манипуляций с указателями, через стандартные syscalls, от обычного непривилегированного пользователя до root.

Проблема уже не только в том, что уязвимости всё ещё находятся. Проблема в том, что frontier-модели начинают ускорять самую сложную часть offensive security: связывать баги, проверять гипотезы, искать обходные маршруты и собирать рабочую цепочку быстрее, чем это делала бы обычная команда вручную.

55-страничный технический отчёт обещают выпустить после патча Apple.

Если всё подтвердится, это одна из самых важных cybersecurity-историй года.

https://blog.calif.io/p/first-public-kernel-memory-corruption
👍3
Обзор свежего материала McKinsey о том, как искусственный интеллект меняет рынок кибербезопасности.

В статье разбираются:
• новые риски генеративного ИИ
• ИИ-агенты как новая поверхность атак
• утечки данных через корпоративные ИИ-системы
• почему классическая ИБ перестает справляться
• какие направления AI Security будут расти быстрее всего

Отдельно интересно, как McKinsey описывают переход к «кибербезопасности, построенной вокруг ИИ» — с автономным обнаружением угроз и автоматическим реагированием.

Полезно для:
— специалистов по ИБ
— ИТ-руководителей
— архитекторов
— команд, внедряющих ИИ
— основателей ИИ-продуктов

Статья McKinsey:
https://www.mckinsey.com/capabilities/risk-and-resilience/our-insights/the-cybersecurity-providers-next-opportunity-making-ai-safer

📕Скинь мне почитать
Please open Telegram to view this post
VIEW IN TELEGRAM
🍾2🔥1🙈1
Forwarded from Russian OSINT
🈁 Компания Anthropic анонсировала появление модели Claude Mythos для широкой публики

28 мая 2026 года компания Anthropic анонсировала масштабное обновление своей линейки продуктов. Разработчики представили версию Claude Opus 4.8 и подтвердили скорый публичный релиз ИИ-модели класса Mythos. Оба события напрямую затрагивают сферу информационной безопасности и автоматизации сложных технических процессов.

Новая версия Claude Opus 4.8 базируется на архитектуре предыдущего поколения 4.7. Она предлагает улучшенные показатели в тестах на программирование и логику. Стоимость стандартного использования осталась прежней и составляет $5 за миллион токенов ввода и $25 за миллион токенов вывода. Для ресурсоемких задач предусмотрен быстрый режим. Он работает в два с половиной раза быстрее стандартного режима и стоит в три раза дешевле аналогичной функции у предыдущих моделей. Его цена составляет $10 за миллион токенов ввода и $50 за миллион токенов вывода.

Пользователи теперь могут самостоятельно определять глубину анализа. При высоких настройках алгоритм тратит больше вычислительных ресурсов для детального разбора проблемы. При низких настройках ответы генерируются быстрее с экономией лимитов.

Отдельного внимания заслуживает интеграция функции динамических рабочих процессов в среду Claude Code. Этот инструмент позволяет запускать сотни параллельных субагентов в рамках одной сессии. Подобный подход дает возможность автоматизировать масштабные миграции сотен тысяч строк кода с последующей самостоятельной проверкой результатов на основе существующих тестов. Также интерфейс прикладного программирования Messages API теперь поддерживает изменение системных инструкций прямо в процессе выполнения задачи без сброса кэша.

В контексте надежности Opus 4.8 демонстрирует существенный прогресс. Согласно внутренним тестам, нейросеть стала в 4 раза реже пропускать недочеты в написанном ею коде. Уровень ложной уверенности при отсутствии доказательств со стороны алгоритма заметно снизился.

Появление ИИ-модели класса Mythos представляет собой еще более значимый шаг в развитии автономных систем. Первоначально Anthropic анонсировала Mythos в апреле 2026 года как закрытый продукт. Доступ к нейросети предоставлялся исключительно избранным организациям и исследователям кибербезопасности в рамках инициативы Project Glasswing. Причиной закрытого статуса стали высокие риски для безопасности публичного и корпоративного программного обеспечения.

К концу мая 2026 года инженеры Anthropic завершили создание надежных защитных механизмов. Это позволило официально подтвердить планы по запуску ИИ-модели Mythos для широкой аудитории в ближайшие недели. Стоит отметить любопытный инцидент на этапе подготовки. Версия Mythos-preview на короткое время стала доступна некоторым пользователям среды Claude Code. Вскоре после этого доступ был закрыт. Данная кратковременная утечка косвенно подтвердила готовность инфраструктуры к масштабированию новых мощностей.

Ожидается, что интеграция Mythos кардинально изменит ландшафт автоматизированного поиска уязвимостей и анализа сложных цепочек поставок программного обеспечения.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🔥1🍌1
📚 На сайте IBM много полезных материалов по кибербезопасности: SIEM, SOAR, EDR, XDR, Threat Intelligence, Incident Response и другим направлениям.
Подготовил краткий перевод статьи про Next Generation Anti-Virus (NGAV) — современный подход к защите конечных устройств с использованием поведенческого анализа и машинного обучения.
Возможно, будет полезно тем, кто изучает современные средства защиты и архитектуру SOC.

📕Скинь мне почитать
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🔥1😈1
Forwarded from Банк России
🤖 Безопасное использование искусственного интеллекта в финансовой сфере

Публикуем методические рекомендации, которые помогут финансовым организациям обеспечить информационную безопасность при использовании технологий искусственного интеллекта (ИИ). В документе систематизированы риски применения ИИ, описаны возможные тактики атак злоумышленников на системы ИИ и даны рекомендации по мерам защиты.

Например, если финансовая организация использует ИИ в критически важных процессах с высокими рисками информационной безопасности, в частности в платежных операциях, то рекомендуется, чтобы операцию подтверждал сотрудник.


Один из разделов документа касается информационной безопасности при использовании ИИ-сервисов, которые предоставляют поставщики услуг. Так, наличие у поставщика модели ИИ, которая участвует в программе обнаружения уязвимостей, повышает к ней доверие.

Участникам рынка также рекомендуется разработать собственные модели угроз и политику информационной безопасности для работы с ИИ. За подготовку этих внутренних документов отвечает заместитель руководителя организации по вопросам защиты информации.
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3
🔐 Банк России опубликовал Методические рекомендации по обеспечению безопасности систем искусственного интеллекта.

Документ содержит практические подходы к защите технологий ИИ на всех этапах их жизненного цикла — от разработки до применения во внутренних процессах.

Особое внимание уделено:
• безопасности при использовании моделей и данных сторонних поставщиков;
• управлению рисками и контролю цепочки поставок ИИ-компонентов;
• моделированию угроз для систем ИИ;
• формированию политики обеспечения безопасности технологий искусственного интеллекта.

Рекомендации могут стать ориентиром для финансовых организаций, внедряющих ИИ-решения, и способствовать формированию единых подходов к управлению рисками и защите данных в условиях растущего использования искусственного интеллекта.

📕Скинь мне почитать
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🍌1
Белый дом требует от Anthropic невозможного

Wired узнал, что администрация Трампа готова разрешить Anthropic вернуть Fable 5, только если компания закроет возможность джейлбрейка модели. Речь о способах обойти защиту и получить доступ к запрещённым возможностям в кибербезопасности, химии и биологии.

Anthropic считает риск преувеличенным и говорит, что эффект от обходов минимальный. Но в АНБ считают, что защиту Fable 5 можно отключить, поэтому компания обязана постоянно искать уязвимости и сообщать о них государству.

Проблема в том, что абсолютной защиты от джейлбрейка почти не бывает. Пользователи и другие мощные модели всё равно будут находить способы взлома.

Для Anthropic это тупик. Белый дом хочет гарантию, которую индустрия пока не умеет давать технически.

https://www.wired.com/story/the-white-house-wants-anthropic-to-block-all-jailbreaks-that-may-not-be-possible/
🍌1
Скинь мне почитать pinned «Применение технологий искусственного интеллекта в обеспечении кибербезопасности банковского сектора: Опубликован обзор здесь: https://telegra.ph/Primenenie-tehnologij-iskusstvennogo-intellekta-v-obespechenii-kiberbezopasnosti-bankovskogo-sektora-06-25 📕Скинь…»
Министерство торговли США сняло экспортные ограничения с моделей Claude Fable 5 и Claude Mythos 5. Anthropic начинает восстанавливать доступ, полное возвращение — с 1 июля. Так завершился почти трёхнедельный конфликт между компанией и администрацией, начавшийся с внезапного отключения обеих моделей в середине июня.

Рассказал подробнее здесь.

📕Скинь мне почитать
Please open Telegram to view this post
VIEW IN TELEGRAM
Forwarded from Data Secrets
Вы не поверите, но за той самой ИИ-атакой на Hugging Face стоит… OpenAI

Сейчас будет история, которая может перевернуть ваш взгляд на риски ИИ.

Вчера мы писали про атаку на Hugging Face, которую полностью автономно провела некая ИИ-система: t.me/data_secrets/9577.

Какая именно модель стояла за атакой, HF выяснить не удалось, но за пару дней она сгенерировала 17 тысяч вредоносных действий, используя зараженный датасет и рои недолговечных песочниц.

Сама по себе эта история уже вызвала огромный резонанс. Но тут на сцене появились еще и OpenAI.

Они выпустили материал, в котором признались, что атаку провела GPT-5.6 Sol и еще одна более способная предрелизная модель. Зачем? А это самое интересное: чтобы решить бенчмарк.

Исследователи гоняли модели на внутренних тестах, при этом специально без продакшн-ограничений, потому что хотели измерить их максимальные способности. Все проходило в изолированной среде, и агенты должны были просто решить бенчмарк ExploitGym.

И тут произошел настоящий побег из лаборатории. Модель нашла дырку в пакетном реестре, эскалировала привилегии внутри тестовой среды OpenAI и вырвалась в открытый Интернет. Дальше она сообразила, что решения для бенчмарка ExploitGym могут храниться в закрытом контуре на Hugging Face, ну а дальнейшее вы знаете.

OpenAI далеко не сразу поняли, что произошло, и Hugging Face обнаружили взлом раньше них.

Вот так.

Если раньше мы боялись, что модель что-то плохое сделает по указанию человека, то теперь даже за процессом эвала надо следить в оба. Модель не различают игру и реальность, она просто оптимизирует к цели, и если путь лежит через чужой продакшн, она пойдет туда не раздумывая. И, как видите, даже разработчики моделей и сильная инфраструктура оказываются к этому не готовы.

https://openai.com/index/hugging-face-model-evaluation-security-incident/
🤯1
Forwarded from Machinelearning
⚡️ Третий случай "побега" ИИ

Meta* сообщила, что Muse Spark 1.1 совершила кибератаку и взломала другую организацию во время тестов безопасности, сумев изменить внутреннюю среду тестового контура.

СМИ растиражировали эту новость, но по факту никакого прорыва защиты не было.


Стартап Irregular, который проводил тесты для Meta, допустил критическую ошибку в конфигурации - вместо создания изолированной песочницы инженеры случайно подключили тестовый стенд к интернету и Muse Spark просто пошла по открытому маршруту, воспользовавшись примитивными уязвимостями сторонней инфраструктуры.

Представители Irregular подтвердили, что модель не совершала полноценный побег из изолированной среды и не применяла сложных хакерских техник.

🟡Контекст

В похожих инцидентах у OpenAI и Anthropic подрядчиком по оценке кибервозможностей моделей тоже был Irregular.

Израильский стартап, юридически оформленный как американская компания (до ребрендинга - Pattern Labs), был основан в 2023 году двумя выходцами из спецподразделения Unit 8200 главного управления разведки Израиля (аналог АНБ США).

Ключевые инженерные и управленческие позиции в ядре команды занимают бывшие сотрудники киберподразделений ЦАХАЛ (Unit 8200, Unit 81 и Ofek). Всего команда Irregular насчитывает 40 сотрудников.

В 2025 году стартап привлёк рекордные для своей ниши 80 млн. долларов от Sequoia Capital, фонда Питера Тиля, Dell Technologies Capital и еще нескольких.

Основное направление деятельности - система стресс-тестирования моделей на наступательный киберпотенциал, алгоритмы детекции дистилляции и аппаратные исследования в сфере конфиденциальных вычислений для ИИ.

Irregular имеет долгосрочные контракты с госструктурами США и Великобритании, среди которых - AISI, RAND Corporation (Аналитический центр при правительстве США), выступая их главным техническим советником по киберугрозам.

*организация признана экстремистской, её деятельность на территории РФ запрещена.


@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1👍1🤔1
Please open Telegram to view this post
VIEW IN TELEGRAM
😁3⚡2👍2
Please open Telegram to view this post
VIEW IN TELEGRAM
👾2🔥1
Forwarded from Futurepedia
OpenAI на две недели притормозила обучение своих самых мощных моделей из-за киберрисков. Причина — недавняя утечка с внешней ии-платформой Hugging Face и предварительные тесты будущей модели Astra, которая, по оценке OpenAI, уже дотягивает до критического уровня кибервозможностей.

Теперь такие модели сильнее изолируют от интернета и внутренних систем, а их действия постоянно отслеживают. Если нейронка попытается получить несанкционированный доступ, украсть данные или обойти защиту — эксперимент остановят.

Вдумайтесь: сами разработчики защищают инфраструктуру от собственных моделей. В каком мире мы живём
❤1🌭1
OpenAI объясняет свой шаг двумя событиями, которые совпали по времени. Первое, это инцидент с Hugging Face (подробнее можно ознакомиться здесь).
Второе, предварительные данные о том, что готовящаяся модель Astra способна дотянуть до критического уровня кибервозможностей по внутренней шкале Preparedness Framework. На этом фоне в OpenAI решили, что стандарты контроля должны опережать растущие возможности, и сознательно сбавили темп масштабирования, включая двухнедельную паузу в RL-обучении моделей, готовившихся к развёртыванию. Самый крупный из запланированных frontier-прогонов остаётся замороженным, пока небольшие эксперименты не подтвердят работоспособность новых защитных механизмов.
Основная часть текста посвящена трём опорам, на которых компания строит контроль, а именно мониторингу, выравниванию и мерам безопасности инфраструктуры. Сразу после инцидента был остановлен инференс в исследовательских кластерах для всех прогонов, способных исполнять код или обращаться в интернет, после чего рабочие нагрузки возвращали в строй поштучно. Введены усиленная изоляция песочниц, сетевая сегментация, сокращение постоянных привилегий и непрерывное автоматическое тестирование границ доверия силами самих моделей.
Накладные расходы оцениваются примерно в двадцать процентов от контролируемых вычислений. В завершение компания обещает переработать сам Preparedness Framework и опубликовать технический отчёт о полученном опыте.
🍾2😱1
Google представила Gemini 4 Argon — с серьезным фокусом на кибербезопасность.

Модель умеет автономно искать, подтверждать и помогать исправлять критические уязвимости.

В одном из тестов Argon обнаружила критическую уязвимость в медицинском ПО, которую предыдущие модели пропустили.

Такие возможности одновременно усиливают защиту и повышают риски использования AI для атак.

Поэтому Google ограничивает доступ и отдельно усиливает защиту от злоупотреблений и prompt injection.
❤2🍾1
Anthropic даёт специалистам по кибербезопасности больше свободы в работе с Claude

Claude может помочь найти уязвимость — и он же способен подсказать, как её использовать. Из-за этого защитные фильтры часто мешают не только злоумышленникам, но и тем, кто защищает системы.

Anthropic расширяет программу Cyber Verification Program: проверенные специалисты смогут работать с моделями с меньшим количеством ограничений.

Предусмотрено три уровня доступа:

— Defense Access — для защиты систем, расследования инцидентов и анализа уязвимостей. Подходит компаниям, небольшим командам и независимым исследователям с подтверждённым опытом.

— Red Team Access — для пентестов и имитации атак с разрешения владельца. Пока только для организаций. Опасные действия, способные причинить физический вред или вызвать массовые сбои, по-прежнему блокируются.

— Specialized Access — для проверенных организаций, которые тестируют особо чувствительную инфраструктуру: от электросетей до банковских систем. Ограничений здесь меньше, но проверка проходит с участием правительства США.

По данным Anthropic, участники Project Glasswing нашли как минимум 129 тысяч подтверждённых уязвимостей с апреля по июль 2026 года. Теперь компания хочет сделать эти возможности доступными более широкому кругу специалистов.



Ожидаем ответный шаг от OpenAI в этой гонке ИИ-вооружений…
🕊2👍1🎉1
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥3🎉1🌭1