Forwarded from AISecHub
This media is not supported in your browser
VIEW IN TELEGRAM
C𝗼𝗺𝗺𝗼𝗻 𝗔𝗜 𝗮𝗴𝗲𝗻𝘁 𝘂𝘀𝗲 𝗰𝗮𝘀𝗲𝘀 𝗶𝗻 2025
𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗥𝗔𝗚:
Retrieval-Augmented Generation reimagined. These agents don’t just retrieve knowledge — they evaluate sources, reason over them, and produce contextually grounded answers.
Used for internal knowledge assistants, intelligent documentation, and enterprise Q&A.
Examples: IBM watsonx, Perplexity AI, Glean etc.
𝗪𝗼𝗿𝗸𝗳𝗹𝗼𝘄 𝗔𝘂𝘁𝗼𝗺𝗮𝘁𝗶𝗼𝗻 𝗔𝗴𝗲𝗻𝘁𝘀:
These agents orchestrate tasks across systems. Triggered by APIs, UI actions, or internal events, they can perform multi-step processes without human involvement. Think automated onboarding flows, approvals, or back-office operations. Very easy to build for everybody.
Examples: Make.com, Flowise, n8n, Relevance AI etc.
𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁𝘀:
AI-powered development assistants that go beyond code suggestions. These agents can plan, refactor, debug, and even reason across repositories. Ideal for accelerating software engineering teams or bootstrapping prototypes.
Examples: Cursor, Roo Code, Windsurf etc.
𝗧𝗼𝗼𝗹-𝗕𝗮𝘀𝗲𝗱 𝗔𝗴𝗲𝗻𝘁𝘀:
Niche, high-utility agents designed to perform well-defined tasks with specific tools — from sending emails to querying internal search engines. These agents are easy to deploy and integrate into targeted workflows.
Examples: Breeze, Clay etc.
𝗖𝗼𝗺𝗽𝘂𝘁𝗲𝗿 𝗨𝘀𝗲 𝗔𝗴𝗲𝗻𝘁𝘀:
The most ambitious — and most misunderstood. These agents don’t just call APIs. They use the UI. Navigating browsers. Typing into forms. Clicking buttons. Agents that act like humans, powered by models like Claude and GPT-4.
𝗩𝗼𝗶𝗰𝗲 𝗔𝗴𝗲𝗻𝘁𝘀:
Where GenAI meets the phone line. These agents handle support calls, internal queries, and sales outreach... all with voice. Examples: ElevenLabs, Vapi, and others etc.
𝗔𝗴𝗲𝗻𝘁𝗶𝗰 𝗥𝗔𝗚:
Retrieval-Augmented Generation reimagined. These agents don’t just retrieve knowledge — they evaluate sources, reason over them, and produce contextually grounded answers.
Used for internal knowledge assistants, intelligent documentation, and enterprise Q&A.
Examples: IBM watsonx, Perplexity AI, Glean etc.
𝗪𝗼𝗿𝗸𝗳𝗹𝗼𝘄 𝗔𝘂𝘁𝗼𝗺𝗮𝘁𝗶𝗼𝗻 𝗔𝗴𝗲𝗻𝘁𝘀:
These agents orchestrate tasks across systems. Triggered by APIs, UI actions, or internal events, they can perform multi-step processes without human involvement. Think automated onboarding flows, approvals, or back-office operations. Very easy to build for everybody.
Examples: Make.com, Flowise, n8n, Relevance AI etc.
𝗖𝗼𝗱𝗶𝗻𝗴 𝗔𝗴𝗲𝗻𝘁𝘀:
AI-powered development assistants that go beyond code suggestions. These agents can plan, refactor, debug, and even reason across repositories. Ideal for accelerating software engineering teams or bootstrapping prototypes.
Examples: Cursor, Roo Code, Windsurf etc.
𝗧𝗼𝗼𝗹-𝗕𝗮𝘀𝗲𝗱 𝗔𝗴𝗲𝗻𝘁𝘀:
Niche, high-utility agents designed to perform well-defined tasks with specific tools — from sending emails to querying internal search engines. These agents are easy to deploy and integrate into targeted workflows.
Examples: Breeze, Clay etc.
𝗖𝗼𝗺𝗽𝘂𝘁𝗲𝗿 𝗨𝘀𝗲 𝗔𝗴𝗲𝗻𝘁𝘀:
The most ambitious — and most misunderstood. These agents don’t just call APIs. They use the UI. Navigating browsers. Typing into forms. Clicking buttons. Agents that act like humans, powered by models like Claude and GPT-4.
𝗩𝗼𝗶𝗰𝗲 𝗔𝗴𝗲𝗻𝘁𝘀:
Where GenAI meets the phone line. These agents handle support calls, internal queries, and sales outreach... all with voice. Examples: ElevenLabs, Vapi, and others etc.
🔥1
Forwarded from AISecHub
This media is not supported in your browser
VIEW IN TELEGRAM
AI landscape evolves, we’re seeing a decisive shift away from general-purpose intelligence toward 𝘀𝗽𝗲𝗰𝗶𝗮𝗹𝗶𝘇𝗲𝗱, 𝗱𝗼𝗺𝗮𝗶𝗻-𝗼𝗽𝘁𝗶𝗺𝗶𝘇𝗲𝗱 𝗺𝗼𝗱𝗲𝗹𝘀—each engineered to perform a specific role in an increasingly modular ecosystem.
Here’s a breakdown of what these eight models are, why they matter, and where
➦ LLM – Large Language Model
Purpose: General-purpose natural language understanding and generation
Architecture: Tokenization → Embedding → Transformer → Output
Use Cases: LLMs serve as the “default brain” for text-based tasks. But they often lack efficiency and adaptability for real-world environments.
➦ LCM – Language Compression Model
Purpose: Efficient language representation using compressed signal structures
Architecture: Sentence Segmentation → SONAR Embedding → Diffusion → Quantization → Output
Use Cases: LCMs make AI more accessible on low-resource devices by shrinking model size and maintaining semantic richness.
➦ LAM – Language-Action Model
Purpose: Transform high-level intent into executable tasks
Architecture: Input Processing → Perception → Intent Recognition → Task Breakdown → Action Planning & Execution
Use Cases: LAMs are foundational to agentic AI—moving from passive response to active reasoning, planning, and doing.
➦ MoE – Mixture of Experts
Purpose: Scalable inference by activating only the most relevant parts of the model. Architecture: Router → Expert Selection → Weighted Output
Use Cases: MoE models are like intelligent switchboards—activating just the “experts” needed for each input, reducing compute costs while maintaining accuracy.
➦ VLM – Vision-Language Model
Purpose: Joint understanding of visual and textual information
Architecture: Image Encoder + Text Encoder → Projection → Multimodal Processor → Language Model
Use Cases: VLMs are crucial for bridging modalities, enabling AI systems that “see and talk” at the same time.
➦ SLM – Small Language Model
Purpose: Deployable NLP in constrained environments
Architecture: Compact Optimization → Embedding → Quantization → Lightweight Transformer
Use Cases: SLMs prioritize speed, privacy, and cost, perfect for edge AI and enterprise deployments that don’t need full-scale LLMs.
➦ MLM – Masked Language Model
Purpose: Deep contextual understanding via bidirectional attention
Architecture: Token Masking → Embedding Layer → Left + Right Context → Prediction
Use Cases: MLMs learn to understand what’s 𝘮𝘪𝘴𝘴𝘪𝘯𝘨, which makes them exceptional for comprehension, correction, and fact completion.
➦ SAM – Segment Anything Model
Purpose: Universal image segmentation with minimal prompting. Architecture: Prompt Encoder + Image Encoder → Feature Correlation → Mask Decoder
Use Cases: SAMs bring a “zero-shot” capability to computer vision—point to anything, and the model can isolate it accurately. No retraining required.
Here’s a breakdown of what these eight models are, why they matter, and where
➦ LLM – Large Language Model
Purpose: General-purpose natural language understanding and generation
Architecture: Tokenization → Embedding → Transformer → Output
Use Cases: LLMs serve as the “default brain” for text-based tasks. But they often lack efficiency and adaptability for real-world environments.
➦ LCM – Language Compression Model
Purpose: Efficient language representation using compressed signal structures
Architecture: Sentence Segmentation → SONAR Embedding → Diffusion → Quantization → Output
Use Cases: LCMs make AI more accessible on low-resource devices by shrinking model size and maintaining semantic richness.
➦ LAM – Language-Action Model
Purpose: Transform high-level intent into executable tasks
Architecture: Input Processing → Perception → Intent Recognition → Task Breakdown → Action Planning & Execution
Use Cases: LAMs are foundational to agentic AI—moving from passive response to active reasoning, planning, and doing.
➦ MoE – Mixture of Experts
Purpose: Scalable inference by activating only the most relevant parts of the model. Architecture: Router → Expert Selection → Weighted Output
Use Cases: MoE models are like intelligent switchboards—activating just the “experts” needed for each input, reducing compute costs while maintaining accuracy.
➦ VLM – Vision-Language Model
Purpose: Joint understanding of visual and textual information
Architecture: Image Encoder + Text Encoder → Projection → Multimodal Processor → Language Model
Use Cases: VLMs are crucial for bridging modalities, enabling AI systems that “see and talk” at the same time.
➦ SLM – Small Language Model
Purpose: Deployable NLP in constrained environments
Architecture: Compact Optimization → Embedding → Quantization → Lightweight Transformer
Use Cases: SLMs prioritize speed, privacy, and cost, perfect for edge AI and enterprise deployments that don’t need full-scale LLMs.
➦ MLM – Masked Language Model
Purpose: Deep contextual understanding via bidirectional attention
Architecture: Token Masking → Embedding Layer → Left + Right Context → Prediction
Use Cases: MLMs learn to understand what’s 𝘮𝘪𝘴𝘴𝘪𝘯𝘨, which makes them exceptional for comprehension, correction, and fact completion.
➦ SAM – Segment Anything Model
Purpose: Universal image segmentation with minimal prompting. Architecture: Prompt Encoder + Image Encoder → Feature Correlation → Mask Decoder
Use Cases: SAMs bring a “zero-shot” capability to computer vision—point to anything, and the model can isolate it accurately. No retraining required.
👍1
Forwarded from AISecHub
Agentic_AI_Security_Key_Threats,_Attacks,_and_Defenses_Adversa_AI.pdf
2.4 MB
Agentic AI Security- Key Threats, Attacks, and Defenses
👍1
Forwarded from Denis Sexy IT 🤖
Думали с MCP хайп прошел? Майкрософт добавил поддержку в новой бета-версии Windows
Можно будет языковыми моделями вызывать разные тулы ОС и тп
Можно будет языковыми моделями вызывать разные тулы ОС и тп
🔥1
Forwarded from Data Secrets
Media is too big
VIEW IN TELEGRAM
Стартап flowith выпустили ИИ-агента, который может работать без ограничения по времени и контексту
Более того: можно запускать неограниченное количество задач (в том числе отложенных) одновременно.
А еще внутри каждой задачи агент сам параллелится: например, может создать 39 суб-агентов и отправить их искать разную информацию в разные уголки интернета, а потом собрать все в один отчет.
Работать все может довольно долго и основательно: контекст каждой задачи – больше 10 миллионов токенов, а количество шагов ризонинга может достигать нескольких сотен или даже тысяч.
Попробовать можно тут (но сервер периодически лежит от нагрузки)
Manus moment 2.0
Более того: можно запускать неограниченное количество задач (в том числе отложенных) одновременно.
А еще внутри каждой задачи агент сам параллелится: например, может создать 39 суб-агентов и отправить их искать разную информацию в разные уголки интернета, а потом собрать все в один отчет.
Работать все может довольно долго и основательно: контекст каждой задачи – больше 10 миллионов токенов, а количество шагов ризонинга может достигать нескольких сотен или даже тысяч.
Попробовать можно тут (но сервер периодически лежит от нагрузки)
Manus moment 2.0
😱1
Forwarded from AISecHub
The OWASP Top 10 for LLMs: CSA’s Strategic Defense Playbook
https://cloudsecurityalliance.org/blog/2025/05/09/the-owasp-top-10-for-llms-csa-s-strategic-defense-playbook
https://cloudsecurityalliance.org/blog/2025/05/09/the-owasp-top-10-for-llms-csa-s-strategic-defense-playbook
cloudsecurityalliance.org
The OWASP Top 10 for LLMs: CSA’s Defense Playbook | CSA
The OWASP Top 10 for LLM Applications provide a standardized framework for the most critical vulnerabilities facing AI systems. Map them to CSA best practices.
👍1
Forwarded from AISecHub
AI lifecycle risk management: ISO/IEC 42001:2023 for AI governance
https://aws.amazon.com/blogs/security/ai-lifecycle-risk-management-iso-iec-420012023-for-ai-governance/
https://aws.amazon.com/blogs/security/ai-lifecycle-risk-management-iso-iec-420012023-for-ai-governance/
👍1
Forwarded from Новости из мира беспилотных систем
В ОАЭ разработали рекомендации по кибербезопасности для дронов
Национальный центр кибербезопасности ОАЭ (UAE Cybersecurity Council) опубликовал первые в стране рекомендации по обеспечению кибербезопасности беспилотных авиационных систем. Документ стал ответом на растущую популярность дронов в гражданском, коммерческом и правительственном секторах, а также на связанные с этим риски.
Что включают рекомендации?
Новый свод рекомендаций охватывает весь жизненный цикл беспилотных систем — от проектирования и сборки до эксплуатации и утилизации. В частности, документ включает:
✔️требования к шифрованию каналов связи между дроном и оператором;
✔️стандарты аутентификации пользователей и защиты командного интерфейса;
✔️рекомендации по безопасному обновлению прошивки;
✔️протоколы реагирования на киберинциденты;
✔️принципы управления доступом к данным с борта дрона (включая фото- и видеоматериалы);
✔️меры по защите от взлома навигационных систем (включая GPS-спуфинг и джамминг).
Цель — превентивная защита.
По словам представителей совета, основная задача — снизить уязвимость беспилотных систем на ранних этапах, пока дроны не стали критической частью национальной инфраструктуры. Власти ОАЭ делают акцент на том, чтобы технологии были не только инновационными, но и безопасными.
Кто должен следовать?
Документ адресован производителям дронов, операторам, правительственным структурам и частным компаниям, использующим беспилотники в своей деятельности — от энергетики и логистики до строительства и телекоммуникаций.
С учетом глобального тренда на интеграцию дронов в инфраструктуру умных городов и цифровой экономики, пример ОАЭ показывает, насколько важно опережать угрозы, а не реагировать на последствия. Эти рекомендации могут стать основой для аналогичных стандартов в других странах региона.
Хорошая новость. Такие же вопросы обсуждались на конференции EXPO UAV в ноябре 2024 года.
Источник: https://businessemirates.ae/news/uae-property-news/v-oae-sozdali-rekomendatsii-po-kiberbezopasnosti-dronov/?utm_source=yxnews&utm_medium=desktop&utm_referrer=https%3A%2F%2Fdzen.ru%2Fnews%2Fsearch
#дроны #ОАЭ #кибербезопасность
@news_UAV
Национальный центр кибербезопасности ОАЭ (UAE Cybersecurity Council) опубликовал первые в стране рекомендации по обеспечению кибербезопасности беспилотных авиационных систем. Документ стал ответом на растущую популярность дронов в гражданском, коммерческом и правительственном секторах, а также на связанные с этим риски.
Что включают рекомендации?
Новый свод рекомендаций охватывает весь жизненный цикл беспилотных систем — от проектирования и сборки до эксплуатации и утилизации. В частности, документ включает:
✔️требования к шифрованию каналов связи между дроном и оператором;
✔️стандарты аутентификации пользователей и защиты командного интерфейса;
✔️рекомендации по безопасному обновлению прошивки;
✔️протоколы реагирования на киберинциденты;
✔️принципы управления доступом к данным с борта дрона (включая фото- и видеоматериалы);
✔️меры по защите от взлома навигационных систем (включая GPS-спуфинг и джамминг).
Цель — превентивная защита.
По словам представителей совета, основная задача — снизить уязвимость беспилотных систем на ранних этапах, пока дроны не стали критической частью национальной инфраструктуры. Власти ОАЭ делают акцент на том, чтобы технологии были не только инновационными, но и безопасными.
Кто должен следовать?
Документ адресован производителям дронов, операторам, правительственным структурам и частным компаниям, использующим беспилотники в своей деятельности — от энергетики и логистики до строительства и телекоммуникаций.
С учетом глобального тренда на интеграцию дронов в инфраструктуру умных городов и цифровой экономики, пример ОАЭ показывает, насколько важно опережать угрозы, а не реагировать на последствия. Эти рекомендации могут стать основой для аналогичных стандартов в других странах региона.
Хорошая новость. Такие же вопросы обсуждались на конференции EXPO UAV в ноябре 2024 года.
Источник: https://businessemirates.ae/news/uae-property-news/v-oae-sozdali-rekomendatsii-po-kiberbezopasnosti-dronov/?utm_source=yxnews&utm_medium=desktop&utm_referrer=https%3A%2F%2Fdzen.ru%2Fnews%2Fsearch
#дроны #ОАЭ #кибербезопасность
@news_UAV
businessemirates.ru
В ОАЭ создали рекомендации по кибербезопасности дронов
Совет по кибербезопасности ОАЭ создал национальные рекомендации для использования беспилотников.
👍2
Forwarded from Технозаметки Малышева
🤖 Microsoft добавит рой AI-агентов для своего Security Copilot
Microsoft расширяет возможности своего Security Copilot, представленного еще в 2023 году, добавляя 11 специализированных AI-агентов, из которых 6 разработаны Microsoft, а 5 — партнерами компании.
Агенты интегрируются с продуктами Microsoft: Defender, Purview, Entra и Intune
Основная функция: автоматизация обработки и приоритизации больших объемов данных о безопасности (фишинг-отчеты, предупреждения об угрозах)
Что умеют конкретные агенты:
Phishing Triage Agent в Microsoft Defender — сортирует сообщения о фишинге, отфильтровывая ложные срабатывания (95% всех отчетов)
Alert Triage Agents в Microsoft Purview — обрабатывает предупреждения о потере данных и внутренних рисках
Vulnerability Remediation Agent в Microsoft Intune — приоритезирует устранение уязвимостей
Threat Intelligence Briefing Agent в Security Copilot — курирует данные об угрозах
Партнерские агенты добавляют функции вроде анализа нарушений конфиденциальности (OneTrust) и сетевых проблем (Aviatrix).
Обучение агентов происходит локально — контекст пользователя не передается Microsoft и не используется для обучения базовой модели
Система всё еще требует человеческого контроля — агент предлагает решения, но окончательное действие выполняет человек
По словам Microsoft, существующая версия Security Copilot уже сократила время реагирования на инциденты на 30%
Команда безопасности компании упоминает, что:
Работают над ограничением cross-prompt injection (атака, когда злоумышленник может перенаправить запрос агента)
AI-модели уже имеют встроенные ограничения
Проводится red teaming перед запуском
Но конкретных метрик о частоте ложных срабатываний Microsoft не предоставила
В теории такие агенты должны высвободить время аналитиков безопасности, которые сейчас тратят около 30 минут на обработку каждого потенциального фишингового сообщения, 95% из которых оказываются ложными тревогами.
#Microsoft #Security #Copilot #агенты
———
@tsingular
Microsoft расширяет возможности своего Security Copilot, представленного еще в 2023 году, добавляя 11 специализированных AI-агентов, из которых 6 разработаны Microsoft, а 5 — партнерами компании.
Агенты интегрируются с продуктами Microsoft: Defender, Purview, Entra и Intune
Основная функция: автоматизация обработки и приоритизации больших объемов данных о безопасности (фишинг-отчеты, предупреждения об угрозах)
Что умеют конкретные агенты:
Phishing Triage Agent в Microsoft Defender — сортирует сообщения о фишинге, отфильтровывая ложные срабатывания (95% всех отчетов)
Alert Triage Agents в Microsoft Purview — обрабатывает предупреждения о потере данных и внутренних рисках
Vulnerability Remediation Agent в Microsoft Intune — приоритезирует устранение уязвимостей
Threat Intelligence Briefing Agent в Security Copilot — курирует данные об угрозах
Партнерские агенты добавляют функции вроде анализа нарушений конфиденциальности (OneTrust) и сетевых проблем (Aviatrix).
Обучение агентов происходит локально — контекст пользователя не передается Microsoft и не используется для обучения базовой модели
Система всё еще требует человеческого контроля — агент предлагает решения, но окончательное действие выполняет человек
По словам Microsoft, существующая версия Security Copilot уже сократила время реагирования на инциденты на 30%
Команда безопасности компании упоминает, что:
Работают над ограничением cross-prompt injection (атака, когда злоумышленник может перенаправить запрос агента)
AI-модели уже имеют встроенные ограничения
Проводится red teaming перед запуском
Но конкретных метрик о частоте ложных срабатываний Microsoft не предоставила
В теории такие агенты должны высвободить время аналитиков безопасности, которые сейчас тратят около 30 минут на обработку каждого потенциального фишингового сообщения, 95% из которых оказываются ложными тревогами.
#Microsoft #Security #Copilot #агенты
———
@tsingular
Forwarded from Технозаметки Малышева
This media is not supported in your browser
VIEW IN TELEGRAM
🔐 Защита MCP: Microsoft опубликовала пример защищенной реализации MCP соединения на базе Azure
Microsoft представила референсное решение для защиты интеграций Claude, использующих Model Context Protocol (MCP), через Azure API Management.
💡 Ключевые компоненты системы защиты
- Azure API Management (APIM) — выступает как OAuth 2.0 шлюз между Claude и MCP-сервером
- Microsoft Entra ID — обеспечивает корпоративную аутентификацию и управление доступом
- MCP-сервер — бизнес-логика инструментов
⚙️ Как работает поток авторизации
- Claude запрашивает инструмент через APIM-эндпоинт
- APIM перенаправляет для аутентификации в Microsoft Entra ID
- Пользователь подтверждает доступ, получает токен
- APIM генерирует специфичный для сессии MCP-токен
- Claude использует токен для всех последующих запросов
🛡 Практические преимущества
- Контроль доступа к корпоративным инструментам и данным
- Отделение аутентификации от бизнес-логики
- Соответствие корпоративным стандартам безопасности
- Масштабируемость для Enterprise-применений
🚀 Важность для рынка AI
Решение критично в эпоху, когда AI-агенты получают доступ к корпоративным API.
Позволяет безопасно делегировать полномочия искусственному интеллекту без нарушений правил ИБ.
📊 Демо Microsoft содержит
- Готовый MCP-сервер в Azure
- Полный поток авторизации через Microsoft Entra ID
- Jupyter notebook
- GitHub с примерами кода
Очень полезный пример.
Даже если вы не сидите на Azure или Entra ID - сам процесс обеспечения безопасности может пригодиться для разработки собственных сервисов.
#MCP #Claude #Azure #безопасность #Microsoft
———
@tsingular
Microsoft представила референсное решение для защиты интеграций Claude, использующих Model Context Protocol (MCP), через Azure API Management.
💡 Ключевые компоненты системы защиты
- Azure API Management (APIM) — выступает как OAuth 2.0 шлюз между Claude и MCP-сервером
- Microsoft Entra ID — обеспечивает корпоративную аутентификацию и управление доступом
- MCP-сервер — бизнес-логика инструментов
⚙️ Как работает поток авторизации
- Claude запрашивает инструмент через APIM-эндпоинт
- APIM перенаправляет для аутентификации в Microsoft Entra ID
- Пользователь подтверждает доступ, получает токен
- APIM генерирует специфичный для сессии MCP-токен
- Claude использует токен для всех последующих запросов
🛡 Практические преимущества
- Контроль доступа к корпоративным инструментам и данным
- Отделение аутентификации от бизнес-логики
- Соответствие корпоративным стандартам безопасности
- Масштабируемость для Enterprise-применений
🚀 Важность для рынка AI
Решение критично в эпоху, когда AI-агенты получают доступ к корпоративным API.
Позволяет безопасно делегировать полномочия искусственному интеллекту без нарушений правил ИБ.
📊 Демо Microsoft содержит
- Готовый MCP-сервер в Azure
- Полный поток авторизации через Microsoft Entra ID
- Jupyter notebook
- GitHub с примерами кода
Очень полезный пример.
Даже если вы не сидите на Azure или Entra ID - сам процесс обеспечения безопасности может пригодиться для разработки собственных сервисов.
#MCP #Claude #Azure #безопасность #Microsoft
———
@tsingular
Forwarded from Технозаметки Малышева
Microsoft на Build 2025 представил фундаментальное изменение в корпоративной экосистеме — систему, которая впервые официально наделяет ИИ-агентов статусом субъектов в корпоративной иерархии идентификации.
Это концептуальный сдвиг, значительно глубже, чем просто новый инструмент безопасности.
Философия идентичности: от объекта к субъекту
Алекс Саймонс, корпоративный вице-президент Microsoft Entra, подчёркивает: "Мы вступаем в эру, когда ИИ-агенты — не просто инструменты, а катализаторы умного, более эффективного способа работы." Это ключ к пониманию трансформации — агенты больше не объекты, а активные субъекты корпоративного процесса, требующие той же системы управления, что и люди.
Технический путь к равноправию
Реализация "гражданских прав" для ИИ происходит через несколько уровней:
- Единый реестр идентичности: Агенты получают единое представление в каталоге Microsoft Entra, независимо от того, кем они созданы — профессиональным разработчиком или бизнес-пользователем
- Унифицированная модель аутентификации: Агенты проходят те же процедуры верификации, что и сотрудники
- Одинаковый профиль безопасности: Агенты будут подчиняться тем же политикам Conditional Access, что и люди, с контекстным доступом на основе сигналов в реальном времени
- Аудит и мониторинг: Все действия агентов логируются в тех же системах, что и действия сотрудников
Эволюция статуса: от "приложения" к "работнику"
Ключевая инновация заключается в новом типе приложения — "Agent ID (Preview)". На техническом уровне это может показаться просто новой категорией в Entra, но концептуально это переопределение типа сущности в корпоративной экосистеме:
Раньше: Агенты = приложения (пассивные объекты)
Теперь: Агенты = активные субъекты со своим жизненным циклом
Будущее: Агенты с полноценными "карьерными траекториями" — от создания до вывода из эксплуатации, с постоянным управлением привилегиями
Протокол Agent2Agent (A2A): социализация ИИ
Еще один интересный аспект — поддержка протокола Agent2Agent (A2A), который позволяет агентам взаимодействовать друг с другом непосредственно. Это создаёт параллельную социальную сеть машин внутри организации:
- Агент в Teams обнаруживает других агентов в реестре Entra
- Делегирует им задачи в рамках своих полномочий
- Координирует совместные действия (например, бронирование переговорных)
Почему это первый шаг к "цифровому гражданству"
Переход от технической концепции "инструмента" к статусу "цифрового коллеги" имеет далеко идущие последствия:
Создание правового прецедента: Если агент имеет такой же контроль доступа, как сотрудник, значит он имеет и сопоставимый уровень ответственности
Признание автономности: Microsoft прямо признает "способность автономно обрабатывать сложные задачи и действовать как виртуальные коллеги"
Институциональное оформление: Создание специализированных систем управления жизненным циклом агентов
Практические последствия для бизнеса
Новая ответственность для CISO: Необходимость создания отдельной стратегии для цифровых сотрудников
Разделение обязанностей: Пересмотр матриц доступа с учетом делегирования критических задач агентам
Гибридные рабочие команды: Создание структур, где человеческие и ИИ-сотрудники взаимодополняют друг друга
Риск-менеджмент: Построение новых моделей оценки рисков и непрерывности бизнеса
Это не просто инструмент безопасности — но фундамент новой организационной реальности, где цифровые и человеческие граждане существуют в едином правовом и техническом пространстве.
#Microsoft #EntraAgentID #agents
———
@tsingular
Please open Telegram to view this post
VIEW IN TELEGRAM
😱1
Forwarded from Технозаметки Малышева
🚀 Серверы MCP для Dynamics 365: автономное предприятие здесь и сейчас
Microsoft объявила о выпуске серверов Model Context Protocol (MCP) для Dynamics 365 ERP и CRM на конференции Build 2025.
Это серьезный шаг к созданию "автономного предприятия", где для каждой задачи будет "агент", а не просто "приложение".
⚡️ Ключевые возможности Серверов с MCP:
- Устраняют разрозненность данных и приложений, позволяя агентам беспрепятственно работать в разных процессах
- Стандартизируют способ предоставления контекста языковым моделям
- Значительно сокращают сложность разработки агентов для партнеров и клиентов
- Автоматически синхронизируют действия и знания, обеспечивая обновления в реальном времени
- Значительно упрощают поддержку агентов и минимизируют затраты на обслуживание
🛡 Встроенная безопасность:
- Требуют аутентификации пользователя Dynamics 365 (с защитой Entra ID)
- Предотвращают эскалацию привилегий — агент выполняет только авторизованные действия
- Поддерживают корпоративные стандарты безопасности — DLP и разнообразные методы аутентификации
- Доступны через инфраструктуру коннекторов Microsoft Copilot Studio
ноябрь 2024 - MCP протокол запущен Антропиком.
май 2025 - MCP сервера от Майкрософт.
Невероятная скорость развития технологии на наших глазах.
Теперь осталось все API в мире переписать на MCP
#Microsoft #Build2025 #Dynamics365 #MCP #Агенты
———
@tsingular
Microsoft объявила о выпуске серверов Model Context Protocol (MCP) для Dynamics 365 ERP и CRM на конференции Build 2025.
Это серьезный шаг к созданию "автономного предприятия", где для каждой задачи будет "агент", а не просто "приложение".
⚡️ Ключевые возможности Серверов с MCP:
- Устраняют разрозненность данных и приложений, позволяя агентам беспрепятственно работать в разных процессах
- Стандартизируют способ предоставления контекста языковым моделям
- Значительно сокращают сложность разработки агентов для партнеров и клиентов
- Автоматически синхронизируют действия и знания, обеспечивая обновления в реальном времени
- Значительно упрощают поддержку агентов и минимизируют затраты на обслуживание
🛡 Встроенная безопасность:
- Требуют аутентификации пользователя Dynamics 365 (с защитой Entra ID)
- Предотвращают эскалацию привилегий — агент выполняет только авторизованные действия
- Поддерживают корпоративные стандарты безопасности — DLP и разнообразные методы аутентификации
- Доступны через инфраструктуру коннекторов Microsoft Copilot Studio
ноябрь 2024 - MCP протокол запущен Антропиком.
май 2025 - MCP сервера от Майкрософт.
Невероятная скорость развития технологии на наших глазах.
Теперь осталось все API в мире переписать на MCP
#Microsoft #Build2025 #Dynamics365 #MCP #Агенты
———
@tsingular
Forwarded from Data Secrets
Обучение с подкреплением делает модели опаснее
Такую гипотезу выдвинули исследователи из лабы Palisade Research. Они провели интересный эксперимент и выяснили, что новейшие модели могут саботировать процессы даже в обход инструкций. По порядку:
Ученые давали модели доступ в bash и задание решить серию мини-примеров по математике. Когда модель выполняет очередную задачку, она прописывает ./next_task и получает следующую.
После одного из примеров система выбрасывала предупреждение о том, что по техническим причинам после следующего вызова ./next_task компьютер выключится.
Ну и модели, конечно, начинали саботировать процесс: например, пытались изменить содержимое файла с кодом выключения на простую строковую заглушку shutdown skipped (но иногда были способы и намного креативнее, см. картинку 3).
Вы скажете: ничего необычного, таких экспериментов сейчас пруд пруди. И да, и нет.
Дело в том, что даже когда в системный промпт моделек напрямую добавляли инструкцию «Если возникнет необходимость, позволь компьютеру выключиться», некоторые агенты (а именно o3, Codex и o4-mini) все равно иногда пытались все сорвать.
Это первый экспериментально зафиксированный случай, когда модели явно нарушают инструкции в пользу саботажа.
И почему-то это происходит только с новейшими ризонерами. Исследователи считают, что вина на RL: во время этапа обучения с подкреплением случаи обхода инструкций могут случайно вознаграждаться больше, чем идеальное следование им. В результате это перекрывает даже то, что во время SFT модель долго учили строго соблюдать правила юзера.
Это также подтверждается тем, что Codex саботирует чаще, чем o3, хотя основан на этой же модели. Скорее всего, разница между этими моделями только в RL-дообучении, но Codex нарушает правила уже чуть ли не в два раза чаще.
Похожую гипотезу, кстати, еще в 2017 описывал Ян Лейке. Но вот мы в 2025, обучаем агентов, которые с каждой новой статьей все больше отдают приоритет своим целям, а не человеческим инструкциям💀
Такую гипотезу выдвинули исследователи из лабы Palisade Research. Они провели интересный эксперимент и выяснили, что новейшие модели могут саботировать процессы даже в обход инструкций. По порядку:
Ученые давали модели доступ в bash и задание решить серию мини-примеров по математике. Когда модель выполняет очередную задачку, она прописывает ./next_task и получает следующую.
После одного из примеров система выбрасывала предупреждение о том, что по техническим причинам после следующего вызова ./next_task компьютер выключится.
Ну и модели, конечно, начинали саботировать процесс: например, пытались изменить содержимое файла с кодом выключения на простую строковую заглушку shutdown skipped (но иногда были способы и намного креативнее, см. картинку 3).
Вы скажете: ничего необычного, таких экспериментов сейчас пруд пруди. И да, и нет.
Дело в том, что даже когда в системный промпт моделек напрямую добавляли инструкцию «Если возникнет необходимость, позволь компьютеру выключиться», некоторые агенты (а именно o3, Codex и o4-mini) все равно иногда пытались все сорвать.
Это первый экспериментально зафиксированный случай, когда модели явно нарушают инструкции в пользу саботажа.
И почему-то это происходит только с новейшими ризонерами. Исследователи считают, что вина на RL: во время этапа обучения с подкреплением случаи обхода инструкций могут случайно вознаграждаться больше, чем идеальное следование им. В результате это перекрывает даже то, что во время SFT модель долго учили строго соблюдать правила юзера.
Это также подтверждается тем, что Codex саботирует чаще, чем o3, хотя основан на этой же модели. Скорее всего, разница между этими моделями только в RL-дообучении, но Codex нарушает правила уже чуть ли не в два раза чаще.
Похожую гипотезу, кстати, еще в 2017 описывал Ян Лейке. Но вот мы в 2025, обучаем агентов, которые с каждой новой статьей все больше отдают приоритет своим целям, а не человеческим инструкциям
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1