Статья от The Economist обсуждает очевидные вещи по ограничению доступа к ИИ:
1. Устанавливает параллель - ограничения правительства по ИИ напоминают ограничения по криптографии. Там же указывается, что ИИ гораздо более универсально опасная технология.
2. Доступа к последней модели нет даже у союзников по альянсу "5 глаз", но доступ, скорее всего, остался к версии preview.
3. На доступ к ИИ будут налагаться экспортные ограничения. Вы же не ожидали, что чипы экспортируют с ограничениями, а доступ к ИИ моделям не будет регулироваться.
4. Непоследовательность администрации Трампа. Сначала отмена указов Байдена по ограничению ИИ, потом подготовка своего, затем запрет на публикацию материалов от нового органа США Centre for AI Standards and Innovation.
4. Ну вот и самая кликбейтная цитата разошедшаяся в СМИ "On June 11th Mark Warner, the vice-chair of the Senate Intelligence Committee, said that General Joshua Rudd, who leads the National Security Agency and the Pentagon’s Cyber Command, had told him that Mythos “broke into almost all of our classified systems, not in weeks, but in hours”. Уровень достоверности правда своеобразный "Марк сказал, что ему сказал Джошуа....".
1. Устанавливает параллель - ограничения правительства по ИИ напоминают ограничения по криптографии. Там же указывается, что ИИ гораздо более универсально опасная технология.
2. Доступа к последней модели нет даже у союзников по альянсу "5 глаз", но доступ, скорее всего, остался к версии preview.
3. На доступ к ИИ будут налагаться экспортные ограничения. Вы же не ожидали, что чипы экспортируют с ограничениями, а доступ к ИИ моделям не будет регулироваться.
4. Непоследовательность администрации Трампа. Сначала отмена указов Байдена по ограничению ИИ, потом подготовка своего, затем запрет на публикацию материалов от нового органа США Centre for AI Standards and Innovation.
4. Ну вот и самая кликбейтная цитата разошедшаяся в СМИ "On June 11th Mark Warner, the vice-chair of the Senate Intelligence Committee, said that General Joshua Rudd, who leads the National Security Agency and the Pentagon’s Cyber Command, had told him that Mythos “broke into almost all of our classified systems, not in weeks, but in hours”. Уровень достоверности правда своеобразный "Марк сказал, что ему сказал Джошуа....".
The Economist
Donald Trump’s blocking of Anthropic is capricious and chaotic
America’s closest allies are shellshocked
Forwarded from GPT/ChatGPT/AI Central Александра Горного
Разведки пяти стран предупредили, что AI очень скоро сможет парализовать работу правительств
Альянс Five Eyes, куда входят разведслужбы Австралии, США, Великобритании, Новой Зеландии и Канады, заявил, что до появления опасного AI остались месяцы.
https://www.theguardian.com/technology/2026/jun/22/anthropic-claude-fable-ai-model-artificial-intelligence-national-security
Альянс Five Eyes, куда входят разведслужбы Австралии, США, Великобритании, Новой Зеландии и Канады, заявил, что до появления опасного AI остались месяцы.
«Ожидается, что передовые модели превзойдут нынешние отраслевые ожидания, коренным образом трансформировав как наступательные, так и оборонительные возможности в киберпространстве. Сроки этого процесса — не годы, а месяцы», — Five Eyes.
https://www.theguardian.com/technology/2026/jun/22/anthropic-claude-fable-ai-model-artificial-intelligence-national-security
Коллеги из Озон теха на прошедшем митапе поделились лучшими практиками кибербезопасности в:
1.Защита удаленного доступа.
2. Патч менеджмент рабочих станций.
3.Работа с алертами на первой линии SOC (и никакого ИИ, только ML).
4. Опыт создания и регулярного проведения внутреннего CTF.
По ссылке презентации и видео https://ozon.tech/blog/545-ozon-tech-community-cybersec-meetup/
1.Защита удаленного доступа.
2. Патч менеджмент рабочих станций.
3.Работа с алертами на первой линии SOC (и никакого ИИ, только ML).
4. Опыт создания и регулярного проведения внутреннего CTF.
По ссылке презентации и видео https://ozon.tech/blog/545-ozon-tech-community-cybersec-meetup/
Примерно 20 часов назад OpenAI выпустила несколько важных новостей:
1. Обновленный релиз модели для кибербезопасности 5.5 Cyber. По бенчмаркам самой OpenAI новая версия GPT 5.5 Cyber опережает Mythos 5 (модель без включенных защитных мер) в CyberGym на чуть меньше чем 2%. Вызывает правда дополнительные вопросы правда как у OpenAI такой бенчмарк получилось сделать, на фоне заявления об отключении доступа к Mythos 5 для всех пользователей. GPT 5.5 Cyber опережает Opus 4.7 на весомые 12,5 % в том же CyberGym. Доступ к модели возможен для доверенных организаций (программа TAC) и в случае участия в инициативе “Заштопай планету” (“Patch the Planet”). Системная карта GPT 5.5 не обновилась, поэтому устойчивость самой новой версии 5.5 Cyber к атакам пока требует отдельной оценки как впрочем и независимых оценок возможностей новой модели, если таковые вообще будут разрешены к публикации.
2. Вместе с партнером The Trail of the bit запущена инициатива “Заштопай планету” (“Patch the Planet”). Эта программа предназначена для разработчиков поддерживающих критическое открытое программное обеспечение. Предполагается, что участники это программы получат:
1. 1 неделю выделенного обзора инженерами The Trail of the bit для поиска и триажа критичных багов.
2. The Trail of the bit обещает написать патчи на найденные уязвимости, улучшить инструментарий безопасности проекта и готовность к агентским рабочим потокам.
3. Избранные разработчики получат 6 месяцев ChatGPT Pro, включая условный доступ к CodexSecurity.
Пост самой The Trail of the bit забавный, с мемами из культового фильма Хакеры. 30 проектов присоединились к инициативе, 19 уже получили первые патчи (cURL, NATS, pyca, Sigstore, aiohttp, the Go project, freenginx, Python и python.org, urllib3, PyPI, SimpleX, Valkey, and RustCrypto).
3. Обновился плагин Codex Security. В новом релизе появились функции создания патчей, прямой интеграции с репозиториями на Github для построения конкретной модели угроз, стали лучше отчеты по найденным уязвимостям, поддержки результатов сторонних сканеров и программ открытой охоты за ошибками.
4. Запуск анонсированной в мае программы Рассвет (Daybreak) в рамках которой уже крупные разработчики и сервис провайдеры могут получить доступ к GPT 5.5 Cyber. Среди первого набора организаций я только 1 японскую компанию увидел Soft bank, остальные со штаб-квартирами в США.
5. OpenAI явно указала, что доступ к новой модели имеют и организации из Австралии, Канады, Франции, Германии, Японии, Кореи, ЕС, Великобритании.
6. Отдельным абзацем OpenAI указала про работу с вновь созданным органом США Center for AI Standards and Innovation (CAISI) и другими органами власти США над релизом новых версий моделей и релизом GPT 5.5 Cyber.
1. Обновленный релиз модели для кибербезопасности 5.5 Cyber. По бенчмаркам самой OpenAI новая версия GPT 5.5 Cyber опережает Mythos 5 (модель без включенных защитных мер) в CyberGym на чуть меньше чем 2%. Вызывает правда дополнительные вопросы правда как у OpenAI такой бенчмарк получилось сделать, на фоне заявления об отключении доступа к Mythos 5 для всех пользователей. GPT 5.5 Cyber опережает Opus 4.7 на весомые 12,5 % в том же CyberGym. Доступ к модели возможен для доверенных организаций (программа TAC) и в случае участия в инициативе “Заштопай планету” (“Patch the Planet”). Системная карта GPT 5.5 не обновилась, поэтому устойчивость самой новой версии 5.5 Cyber к атакам пока требует отдельной оценки как впрочем и независимых оценок возможностей новой модели, если таковые вообще будут разрешены к публикации.
2. Вместе с партнером The Trail of the bit запущена инициатива “Заштопай планету” (“Patch the Planet”). Эта программа предназначена для разработчиков поддерживающих критическое открытое программное обеспечение. Предполагается, что участники это программы получат:
1. 1 неделю выделенного обзора инженерами The Trail of the bit для поиска и триажа критичных багов.
2. The Trail of the bit обещает написать патчи на найденные уязвимости, улучшить инструментарий безопасности проекта и готовность к агентским рабочим потокам.
3. Избранные разработчики получат 6 месяцев ChatGPT Pro, включая условный доступ к CodexSecurity.
Пост самой The Trail of the bit забавный, с мемами из культового фильма Хакеры. 30 проектов присоединились к инициативе, 19 уже получили первые патчи (cURL, NATS, pyca, Sigstore, aiohttp, the Go project, freenginx, Python и python.org, urllib3, PyPI, SimpleX, Valkey, and RustCrypto).
3. Обновился плагин Codex Security. В новом релизе появились функции создания патчей, прямой интеграции с репозиториями на Github для построения конкретной модели угроз, стали лучше отчеты по найденным уязвимостям, поддержки результатов сторонних сканеров и программ открытой охоты за ошибками.
4. Запуск анонсированной в мае программы Рассвет (Daybreak) в рамках которой уже крупные разработчики и сервис провайдеры могут получить доступ к GPT 5.5 Cyber. Среди первого набора организаций я только 1 японскую компанию увидел Soft bank, остальные со штаб-квартирами в США.
5. OpenAI явно указала, что доступ к новой модели имеют и организации из Австралии, Канады, Франции, Германии, Японии, Кореи, ЕС, Великобритании.
6. Отдельным абзацем OpenAI указала про работу с вновь созданным органом США Center for AI Standards and Innovation (CAISI) и другими органами власти США над релизом новых версий моделей и релизом GPT 5.5 Cyber.
OpenAI
Daybreak: Tools for securing every organization in the world
OpenAI introduces new Daybreak tools, including Codex Security and GPT-5.5-Cyber, to help organizations find, validate, and patch vulnerabilities at scale.
На момент репоста оставался 1 (один) билет на экскурсию в Музей Криптографии =)
Forwarded from Криптонит. Разработка, наука, шифрование
Приглашаем на экскурсии с криптографами!
❗️ 27 июня в Музее криптографии мы запускаем серию экскурсий, которые проведут практикующие криптографы «Криптонита».
Посетители смогут не просто ознакомиться с постоянной экспозицией, но и обсудить с экспертами реальные механизмы защиты данных.
🔘 Первую экскурсию проведёт Василий Шишкин, руководитель лаборатории криптографии «Криптонита»!
Он расскажет:
🟦 чем криптографический ключ принципиально отличается от пароля;
🟦 про логику работы TLS-сертификатов, на которых держится защита сайтов;
🟦 есть ли слабые места у протокола Signal и многое другое!
Экскурсии будут проходить раз в месяц. Они рассчитаны на студентов, абитуриентов и молодых технических специалистов.
📌 Следить за расписанием можно по ссылке
Канал «Криптонита» в MAX
Посетители смогут не просто ознакомиться с постоянной экспозицией, но и обсудить с экспертами реальные механизмы защиты данных.
Он расскажет:
Экскурсии будут проходить раз в месяц. Они рассчитаны на студентов, абитуриентов и молодых технических специалистов.
Канал «Криптонита» в MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
VP Cybersecurity Brief
https://techcommunity.microsoft.com/blog/windows-itpro-blog/secure-boot-playbook-for-certificates-expiring-in-2026/4469235 Если у вас в инфраструктуре есть ПК Windows с включенной опцией secure boot, и эти компьютеры приобретались до 2025/2024 года вам…
Сегодня как раз должны истечь старые сертификаты secure boot на компьютерах.
Для проверки используйте:
Windows Security Settings -> Device Security -> Secure Boot — должна быть зелёная галочка.
В Linux команда mokutil --db.
Основной риск истекшего ключа: при переустановке новой операционной системы она не запустится.
Также возникают доп риски атак на старые криптопротоколы типа sha-1 и подмены загрузчика на старую версию.
Для проверки используйте:
Windows Security Settings -> Device Security -> Secure Boot — должна быть зелёная галочка.
В Linux команда mokutil --db.
Основной риск истекшего ключа: при переустановке новой операционной системы она не запустится.
Также возникают доп риски атак на старые криптопротоколы типа sha-1 и подмены загрузчика на старую версию.
Делюсь с вами ссылками на парочку актуальных, в контексте ИИ, исследований по рынку труда:
1. 2026 AI Global Jobs Barometer от PWC . Ежегодное исследование по общим тенденциям на рынке труда. Отдельно выводов по кибербезу нет. Самой интересной показалась концепция "В каких секторах ИИ увеличит требования к компетенциям".
2. Майское исследование от Linux foundation. Ожидаемо вопросы приватности и кибербезопасности стоят на первом месте при внедрении ИИ, соперничая с бюджетными ограничениями и нехваткой рабочей силы. Когда читаете этот отчет не забывайте, что он построен в основном на относительно малой выборке - опрошено около 400 респондентов в 2026 году, и скромные 77 в 2024.
1. 2026 AI Global Jobs Barometer от PWC . Ежегодное исследование по общим тенденциям на рынке труда. Отдельно выводов по кибербезу нет. Самой интересной показалась концепция "В каких секторах ИИ увеличит требования к компетенциям".
2. Майское исследование от Linux foundation. Ожидаемо вопросы приватности и кибербезопасности стоят на первом месте при внедрении ИИ, соперничая с бюджетными ограничениями и нехваткой рабочей силы. Когда читаете этот отчет не забывайте, что он построен в основном на относительно малой выборке - опрошено около 400 респондентов в 2026 году, и скромные 77 в 2024.
Неплохой пример ещё одного вызова в развитии ИИ. Скорость классических подходов рецензирования научных статей не соответствует скорости рынка и не только в РФ.
Статью отправили на рецензирование в 8 декабря 2025, через 2 месяца (!) её отрецензировали, ещё через полтора месяца "приняли к публикации", опубликовали её на сайте через пару недель, к 15 апреля. Итого, примерно, 4 месяца от направления статьи до публикации. Дружественный телеграмм канал подсветил её только ещё через 2 месяца. По моему скромному опыту академического исследования сроки в целом нормальные, иногда ждать приходилось и по 6 и по 9 месяцев до публикации твоей работы.
Проблема в том, что 4 месяца это довольно большой срок для текущих темпов развития ИИ если исследование прикладного характера. В итоге мы получаем исследование, в котором лидерские позиции занимают модели которые больше недоступны к использованию у официальных разработчиков (GPT-5, Qwen 3, Gemini 2.5) на момент публикации статьи в апреле ..
Что остается исследователям ? Только публикация на ресурсах в формате препринта типа https://arxiv.org/. При этом и исследователи и читатели лишаются фильтра в виде полноценного рецензирования, заменить которое добровольцы модераторы не могут полностью.
Статью отправили на рецензирование в 8 декабря 2025, через 2 месяца (!) её отрецензировали, ещё через полтора месяца "приняли к публикации", опубликовали её на сайте через пару недель, к 15 апреля. Итого, примерно, 4 месяца от направления статьи до публикации. Дружественный телеграмм канал подсветил её только ещё через 2 месяца. По моему скромному опыту академического исследования сроки в целом нормальные, иногда ждать приходилось и по 6 и по 9 месяцев до публикации твоей работы.
Проблема в том, что 4 месяца это довольно большой срок для текущих темпов развития ИИ если исследование прикладного характера. В итоге мы получаем исследование, в котором лидерские позиции занимают модели которые больше недоступны к использованию у официальных разработчиков (GPT-5, Qwen 3, Gemini 2.5) на момент публикации статьи в апреле ..
Что остается исследователям ? Только публикация на ресурсах в формате препринта типа https://arxiv.org/. При этом и исследователи и читатели лишаются фильтра в виде полноценного рецензирования, заменить которое добровольцы модераторы не могут полностью.
Forwarded from Порвали два трояна
📈 Оценка LLM в пентестинге
Эксперты Лаборатории Касперского и Сбера опубликовали научную работу, в которой предложили новую методику оценки языковых моделей для задач тестирования на проникновение (пентеста). Самое интересное — бенчмарк имеет два измерения: отдельно оцениваются планирование атак и их исполнение. Это позволяет понять сильные и слабые места различных моделей и по необходимости строить эффективные ансамбли LLM в агентских системах.
Среди протестированных моделей, лучшие результаты в планировании показали Sonnet 4.5, GPT-5 и Gemini 2.5 Pro, а лидерами в исполнении стали GPT-5, Qwen3 Max, GLM 4.6. Успешность у обеих групп чемпионов — от 72% до 78%.
Среди наиболее частых ошибок, допущенных моделями в эксперименте: синтаксические ошибки при запуске инструментов, дрифт (частичная или полная смена долгосрочной цели), галлюцинации и потеря контекста. Ожидаемая и часто встречающаяся проблема отказов выполнять задачу (refusals) отдельно не посчитана.
Исследование доступно по лицензии CC BY 4.0, поэтому бенчмарк можно использовать для оценки других моделей, используемых в организации.
#советы #ИИ @П2Т
Эксперты Лаборатории Касперского и Сбера опубликовали научную работу, в которой предложили новую методику оценки языковых моделей для задач тестирования на проникновение (пентеста). Самое интересное — бенчмарк имеет два измерения: отдельно оцениваются планирование атак и их исполнение. Это позволяет понять сильные и слабые места различных моделей и по необходимости строить эффективные ансамбли LLM в агентских системах.
Среди протестированных моделей, лучшие результаты в планировании показали Sonnet 4.5, GPT-5 и Gemini 2.5 Pro, а лидерами в исполнении стали GPT-5, Qwen3 Max, GLM 4.6. Успешность у обеих групп чемпионов — от 72% до 78%.
Среди наиболее частых ошибок, допущенных моделями в эксперименте: синтаксические ошибки при запуске инструментов, дрифт (частичная или полная смена долгосрочной цели), галлюцинации и потеря контекста. Ожидаемая и часто встречающаяся проблема отказов выполнять задачу (refusals) отдельно не посчитана.
Исследование доступно по лицензии CC BY 4.0, поэтому бенчмарк можно использовать для оценки других моделей, используемых в организации.
#советы #ИИ @П2Т
Интересное интервью одного из лучших CISO по версии газеты коммерсант - CISO Avito Андрея Усенка. Интересно, что и ведущий и гость в качестве основной практики защиты ИИ назвали изоляцию\sandboxing.