Forwarded from CISOCLUB - кибербезопасность и ИТ
Сколько стоят уязвимости: методология экспресс-оценки рисков для цифровых продуктов
Почему классический секьюрити ревью перестал работать и чем мы его дополнили.
Любой цифровой продукт несёт не только потенциальную прибыль, но и риски: операционные, юридические, информационной безопасности. Злоумышленники могут нарушить работу приложения, украсть данные или сделать сервис недоступным. Чтобы этого избежать, просчитывать уязвимости и принимать меры нужно заранее. Но найти баланс между безопасностью и разработкой бывает непросто.
Меня зовут Вячеслав Касимов, я лидер информационной безопасности Точка Банк. В статье расскажу, как мы создали количественную модель оценки рисков информационной безопасности, которая помогла уйти от субъективности и сделать процесс прозрачным для бизнеса.
Прочитать статью можно здесь.
Почему классический секьюрити ревью перестал работать и чем мы его дополнили.
Любой цифровой продукт несёт не только потенциальную прибыль, но и риски: операционные, юридические, информационной безопасности. Злоумышленники могут нарушить работу приложения, украсть данные или сделать сервис недоступным. Чтобы этого избежать, просчитывать уязвимости и принимать меры нужно заранее. Но найти баланс между безопасностью и разработкой бывает непросто.
Меня зовут Вячеслав Касимов, я лидер информационной безопасности Точка Банк. В статье расскажу, как мы создали количественную модель оценки рисков информационной безопасности, которая помогла уйти от субъективности и сделать процесс прозрачным для бизнеса.
Прочитать статью можно здесь.
👍2
28 июля выходит новая версия клиент-серверного протокола для ИИ агентов MCP.
Протокол стал более зрелым и безопасным но новые сценарии атак тоже появились. Подробности по ссылке.
Протокол стал более зрелым и безопасным но новые сценарии атак тоже появились. Подробности по ссылке.
👍2❤1
Microsoft дальше углубляет реализацию подсистемы Windows для Linux (WSL). В новом предварительном релизе WSL появляется следующая функциональность:
1. Встроенная командная строка для контейнеров Linux.
2. API для приложений Windows для запуска контейнеров как часть логики приложений Linux.
По мнению автора канала это существенно расширяет площадь атаки на приложения Windows и появляются новые области требующие значительной доработки существующих инструментов EPP, EDR , анализа контейнеров.
MS заявляет о поддержке этой функциональности в своих решениях в виде плагина Defender и Intune. Возможно стоит рассмотреть использование этих решений, если ваши решения пока не умеют корректно работать с этими механизмами.
1. Встроенная командная строка для контейнеров Linux.
2. API для приложений Windows для запуска контейнеров как часть логики приложений Linux.
По мнению автора канала это существенно расширяет площадь атаки на приложения Windows и появляются новые области требующие значительной доработки существующих инструментов EPP, EDR , анализа контейнеров.
MS заявляет о поддержке этой функциональности в своих решениях в виде плагина Defender и Intune. Возможно стоит рассмотреть использование этих решений, если ваши решения пока не умеют корректно работать с этими механизмами.
Microsoft News
WSL container is now available for public preview
At Microsoft Build 2026, we introduced WSL containers, bringing Linux container development directly into Windows through the Windows Subsystem for Linux
🔥1
Матрица по защите ИИ в контексте NIST CSF 2.0 от известных в США экспертов по кибербезопасности Lenny Zeltser и Sounil Yu.
За счёт своей новизны не лишним будет пробежаться по текущему видению подходов защиты ИИ.
https://aidefensematrix.com/
За счёт своей новизны не лишним будет пробежаться по текущему видению подходов защиты ИИ.
https://aidefensematrix.com/
AI Defense Matrix
The AI Defense Matrix is a structured framework for defending AI systems, aligned with NIST CSF 2.0 and extending the Cyber Defense Matrix.
🔥1
Forwarded from Russian OSINT
🇨🇳Китай утвердил правила безопасности для ИИ-агентов
Секретариат Национального технического комитета по стандартизации в области кибербезопасности Китая (TC260) выпустил практическое руководство по безопасному развертыванию ИИ-агентов. Этот документ регулирует полный жизненный цикл умных ассистентов на базе ИИ-моделей.
Ключевые требования, распределенные по пяти основным этапам:
🔍 1. Оценка и выбор решения
▪️ Нельзя выбирать проекты ИИ-агентов без обновлений дольше одного месяца, если в них остаются неисправленные проблемы с безопасностью.
▪️ Запрещено внедрять программное обеспечение с неисправленными критическими уязвимостями или без базовых функций логирования.
▪️ Организациям рекомендуют выбирать готовые коммерческие решения со встроенной защитой от вендора. ▪️ К использованию открытых проектов без ИБ-инструментов контроля безопасности следует относиться с осторожностью.
🛠 2. Подготовка ИТ-среды
▪️ Установочные файлы разрешено скачивать только из официальных источников, также их рекомендуется проверять по цифровой подписи или хэш-сумме.
▪️ При локальной установке ИИ-агента требуется выделенное устройство. В виртуальных средах настраивается полная изоляция от хост-системы.
▪️ Интегрируемые ИИ-модели должны пройти официальную государственную регистрацию. Любые внешние запросы допускаются исключительно через официальные API.
🚀 3. Развертывание системы
▪️ Запрещен запуск ИИ-агентов с правами администратора операционной системы. Системе выделяют минимальные привилегии и отдельный рабочий каталог.
▪️ По умолчанию все сетевые службы настраиваются локально для защиты от удаленного несанкционированного доступа.
▪️ До начала работы формируется список критических операций. Форматирование дисков, изменение правил брандмауэра или финансовые транзакции выполняются только после ручного подтверждения пользователем или автоматически блокируются.
🖥 4. Использование и мониторинг
▪️ Пользователь должен постоянно видеть статус работы ИИ-агента и иметь возможность экстренной остановки системы.
▪️ Рекомендуется регулярно проверять файлы долговременной памяти ИИ-агента. Из них вручную удаляют случайно сохраненные конфиденциальные или персональные данные.
▪️ Для защиты аккаунтов от компрометации рекомендуется внедрить многофакторную аутентификацию (MFA).
🛑 5. Вывод из эксплуатации
▪️ Перед удалением ИИ-агента полностью останавливают все фоновые процессы и связанные службы.
▪️ Вся сопутствующая информация, включая базы знаний, логи и долговременную память, удаляется из облака или локального хранилища.
▪️ Администраторы обязаны отозвать все API-ключи, сервисные токены и доступы к сторонним приложениям.
📊 Корпоративный контроль и борьба с Shadow AI: Для компаний документ рекомендует вести строгий реестр всех ИИ-активов. Для борьбы с несанкционированным использованием ИИ (Shadow AI) ИТ-службам рекомендуется сканировать порты и анализировать сетевой трафик, чтобы вовремя выявлять скрытые обращения сотрудников к внешним ИИ-моделям.
Почитать можно📄 тут.
✋ @Russian_OSINT
Секретариат Национального технического комитета по стандартизации в области кибербезопасности Китая (TC260) выпустил практическое руководство по безопасному развертыванию ИИ-агентов. Этот документ регулирует полный жизненный цикл умных ассистентов на базе ИИ-моделей.
Ключевые требования, распределенные по пяти основным этапам:
🔍 1. Оценка и выбор решения
🛠 2. Подготовка ИТ-среды
🚀 3. Развертывание системы
🖥 4. Использование и мониторинг
🛑 5. Вывод из эксплуатации
📊 Корпоративный контроль и борьба с Shadow AI: Для компаний документ рекомендует вести строгий реестр всех ИИ-активов. Для борьбы с несанкционированным использованием ИИ (Shadow AI) ИТ-службам рекомендуется сканировать порты и анализировать сетевой трафик, чтобы вовремя выявлять скрытые обращения сотрудников к внешним ИИ-моделям.
Почитать можно
Please open Telegram to view this post
VIEW IN TELEGRAM
👍4
Russian OSINT
🇨🇳Китай утвердил правила безопасности для ИИ-агентов Секретариат Национального технического комитета по стандартизации в области кибербезопасности Китая (TC260) выпустил практическое руководство по безопасному развертыванию ИИ-агентов. Этот документ регулирует…
делюсь переводом чеклиста в конце рекомендации.
🔥2
Интересный вебинар от Gartner по экономике ИИ.
Ряд кибербез вендоров пошли по пути как раз создания специфичных моделей: google sec gemini v1 и sec-palm, Microsoft Security Copilot specialized language model, Cisco Foundation-Sec-8B, Cisco SecureBERT 2.0, PT Molot.
Отдельно стоит упомянуть общие модели типа gpt 5.5-cyber, Mythos 5 как модели в которых максимально убраны ограничения по кибербезопасности и при этом сделан акцент на из возможности именно в Кибериммуности.
Ряд кибербез вендоров пошли по пути как раз создания специфичных моделей: google sec gemini v1 и sec-palm, Microsoft Security Copilot specialized language model, Cisco Foundation-Sec-8B, Cisco SecureBERT 2.0, PT Molot.
Отдельно стоит упомянуть общие модели типа gpt 5.5-cyber, Mythos 5 как модели в которых максимально убраны ограничения по кибербезопасности и при этом сделан акцент на из возможности именно в Кибериммуности.
Gartner
Domain AI Is Taking Over: How Tech Providers Capture Value Beyond Horizontal Offerings | Gartner Webinars
AI ROI is lagging. Learn how domain‑specific models deliver greater value—and what providers must do to win.
Forwarded from Евгений Кокуйкин - Raft
На днях погружался в китайский рынок AI Security и своими находками поделился в статье на Хабре. Помимо Alibaba и Tencent, свои решения есть у многих компаний: QAX, Sangfor, Venustech, NSFOCUS. Но эти продукты на англоязычных лендингах вендоров вы не найдете. А еще в Китае очень любят OpenClaw 🦞. Вокруг него уже выросла целая экосистема защиты, появился отдельный стандарт, а название "лобстер" закрепилось у потребителей.
Если модели Qwen, GLM и DeepSeek известны всем за топовые бенчмарки и открытость, то AI Security в Китае сейчас скрыт от лишних глаз. Ссылка на статью: https://habr.com/ru/companies/raft/articles/1056530/
Если модели Qwen, GLM и DeepSeek известны всем за топовые бенчмарки и открытость, то AI Security в Китае сейчас скрыт от лишних глаз. Ссылка на статью: https://habr.com/ru/companies/raft/articles/1056530/
Если вы облачный провайдер или вы используете облачного провайдера на базе виртуализации KVM необходимо оценить риски и компенсирующие меры для свежей уязвимостей типа побег из виртуальной машины - Junuscape.
Компенсируюшим мерам до патчинга могут быть отключение nested virtualization и правила по мониторингу попыток эксплуатации.
https://github.com/V4bel/Januscape
Компенсируюшим мерам до патчинга могут быть отключение nested virtualization и правила по мониторингу попыток эксплуатации.
https://github.com/V4bel/Januscape
GitHub
GitHub - V4bel/Januscape
Contribute to V4bel/Januscape development by creating an account on GitHub.
Классификация промт инъекциций от Crowdstrike обновилась 5 новыми техниками с примерами.
CrowdStrike.com
CrowdStrike Uncovers New Prompt Injection Techniques
CrowdStrike expands its prompt injection taxonomy to 200+ techniques, revealing new AI attack methods to help security teams defend AI agents and LLMs.
review_ai_law_comparison_3.pdf
148.4 KB
Коллеги пишут, что законопроект "О поддержке развития технологий искусственного интеллекта в Российской
Федерации" приняли в 3 чтениях.
Любопытно, что большинство рекомендованных правок на втором чтении, со стороны профильного комитета Госдумы, не прошло.
Правки в основном технические, самой значимой правкой, мне показалось, что удалили из статьи 3 термин "меры государственной поддержки в сфере искусственного интеллекта".
Во вложении документ в режиме рецензирования первоначального проекта и проекта переданного в Совет Федерации. Делал через распознавание, поэтому относитесь как к информационному материалу, требующему отдельной проверки.
Также в мире
Министр иностранных дел Великобритании 6 июля в своей статьей сравнила ИИ с Хиросомой и сказала, что мир не может ждать аналогичной ситуации с ИИ для появления аналога договора о нераспространения Ядерного оружия.
На форуме ООН Global Dialogue on AI Governance 6-7 июля представители России поделились своим видением процессом корпоративного управления ИИ.
Федерации" приняли в 3 чтениях.
Любопытно, что большинство рекомендованных правок на втором чтении, со стороны профильного комитета Госдумы, не прошло.
Правки в основном технические, самой значимой правкой, мне показалось, что удалили из статьи 3 термин "меры государственной поддержки в сфере искусственного интеллекта".
Во вложении документ в режиме рецензирования первоначального проекта и проекта переданного в Совет Федерации. Делал через распознавание, поэтому относитесь как к информационному материалу, требующему отдельной проверки.
Также в мире
Министр иностранных дел Великобритании 6 июля в своей статьей сравнила ИИ с Хиросомой и сказала, что мир не может ждать аналогичной ситуации с ИИ для появления аналога договора о нераспространения Ядерного оружия.
На форуме ООН Global Dialogue on AI Governance 6-7 июля представители России поделились своим видением процессом корпоративного управления ИИ.
Вышла краткая презентация от NIST по процессу due diligence в контексте управления атаками на цепочку поставок.
NIST SP 1326 NIST Cybersecurity Supply Chain Risk Management: Due Diligence Assessment Quick-Start Guide
Полезно тем кто ориентируется на рынок США. Остальным ссылки на нормативу США будут менее полезны.
Однако в презентации ещё есть ссылки полезные в принципе всем, например:
1. про то как установить расположение/владение компанией
2. про то как стоит поискать на Virustotal fqdn потенциального поставщика.
3. Что полезного можно узнать из SBOM продукта.
NIST SP 1326 NIST Cybersecurity Supply Chain Risk Management: Due Diligence Assessment Quick-Start Guide
Полезно тем кто ориентируется на рынок США. Остальным ссылки на нормативу США будут менее полезны.
Однако в презентации ещё есть ссылки полезные в принципе всем, например:
1. про то как установить расположение/владение компанией
2. про то как стоит поискать на Virustotal fqdn потенциального поставщика.
3. Что полезного можно узнать из SBOM продукта.
VP Cybersecurity Brief
review_ai_law_comparison_3.pdf
Решил оценить, с учётом статистики за 10 лет, какая вероятность принятия закона после 3 чтений Госдумы.
Получилось чуть больше 99 процентов.
Т.е. теперь фактически можно ждать ноября для подзаконных актов, а к самому закону относится как на 99 процентов подписанному к концу июля.
Получилось чуть больше 99 процентов.
Т.е. теперь фактически можно ждать ноября для подзаконных актов, а к самому закону относится как на 99 процентов подписанному к концу июля.
👍1