🛡️ Microsoft открыла skill для автоматического поиска рисков в AI-агентах
Новый run-assert-eval запускает полный цикл проверки агента из одного промпта в VS Code:
- Clarity ищет потенциальные failure modes;
- ASSERT превращает их в eval-тесты и измеряет нарушения;
- ACS генерирует runtime-политику для блокировки опасных действий;
- затем агент прогоняется на тех же тестах повторно, чтобы проверить, действительно ли защита сработала.
В примере Microsoft агент поддержки раскрывал данные чужого клиента в 30% применимых тестов. После добавления runtime-контроля показатель снизился до 5,9%.
найти риск → измерить → добавить защиту → доказать результат повторным eval.
ASSERT и Agent Control Specification доступны в open source.
Анонс Microsoft - https://commandline.microsoft.com/run-assert-eval-responsible-ai-agent-risk-discovery-at-runtime/
Новый run-assert-eval запускает полный цикл проверки агента из одного промпта в VS Code:
- Clarity ищет потенциальные failure modes;
- ASSERT превращает их в eval-тесты и измеряет нарушения;
- ACS генерирует runtime-политику для блокировки опасных действий;
- затем агент прогоняется на тех же тестах повторно, чтобы проверить, действительно ли защита сработала.
В примере Microsoft агент поддержки раскрывал данные чужого клиента в 30% применимых тестов. После добавления runtime-контроля показатель снизился до 5,9%.
найти риск → измерить → добавить защиту → доказать результат повторным eval.
ASSERT и Agent Control Specification доступны в open source.
Анонс Microsoft - https://commandline.microsoft.com/run-assert-eval-responsible-ai-agent-risk-discovery-at-runtime/
👍6❤2🔥2
Forwarded from AI VK Hub
This media is not supported in your browser
VIEW IN TELEGRAM
Пользователь смотрит видео, листает клипы, ставит лайки — каждое действие становится сигналом для рекомендательной системы. Но важен не только отдельный сигнал, а его контекст и связь с другими событиями.
🎬 В новом ролике разбираем, как трансформер обрабатывает последовательность взаимодействий пользователя с контентом, определяет значимость событий и учитывает связи между видео, клипами и постами.
#AIVK #aivkhub #recsys
#AIVK #aivkhub #recsys
Please open Telegram to view this post
VIEW IN TELEGRAM
😐5💊4
📋 Китай впервые обошёл США по числу ведущих ИИ-исследователей
По данным нового исследования Carnegie, в 2025 году 41% ведущих ИИ-специалистов работали в Китае, а 34% — в США.
Для сравнения, в 2022 году ситуация была обратной:
- США — 46%
- Китай — 27%
Ещё заметнее разрыв по происхождению специалистов: 57% ведущих ИИ-исследователей получили базовое образование в Китае, тогда как в США — 13%.
При этом 69% китайских специалистов теперь остаются работать в своей стране. В 2022 году показатель составлял 57%.
США пока сохраняют преимущество в привлечении зарубежных специалистов:
- США: +2145 исследователей
- Китай: −1729 исследователей
Лидером среди организаций по числу ИИ-талантов стал Пекинский университет. В 2022 году первое место занимал Google.
Исследование основано на данных более чем 10 000 авторов работ NeurIPS 2025 — около 40% всех участников конференции.
https://carnegieendowment.org/china/features/whos-ahead-in-the-global-ai-talent-race
По данным нового исследования Carnegie, в 2025 году 41% ведущих ИИ-специалистов работали в Китае, а 34% — в США.
Для сравнения, в 2022 году ситуация была обратной:
- США — 46%
- Китай — 27%
Ещё заметнее разрыв по происхождению специалистов: 57% ведущих ИИ-исследователей получили базовое образование в Китае, тогда как в США — 13%.
При этом 69% китайских специалистов теперь остаются работать в своей стране. В 2022 году показатель составлял 57%.
США пока сохраняют преимущество в привлечении зарубежных специалистов:
- США: +2145 исследователей
- Китай: −1729 исследователей
Лидером среди организаций по числу ИИ-талантов стал Пекинский университет. В 2022 году первое место занимал Google.
Исследование основано на данных более чем 10 000 авторов работ NeurIPS 2025 — около 40% всех участников конференции.
https://carnegieendowment.org/china/features/whos-ahead-in-the-global-ai-talent-race
🔥15❤2👍2
🚀 LongCat-2.5-Preview: 1.6 трлн параметров и контекст на 1 млн токенов
Вышла LongCat-2.5-Preview - новая мультимодальная модель, заточенная под длинные агентные задачи.
Главное:
- 1.6T параметров
- около 48B активных параметров
- контекст до 1 млн токенов
- нативная мультимодальность
- фокус на long-horizon tasks
Модель рассчитана не только на чат, но и на работу через:
- терминал;
- браузер;
- GUI;
- таблицы;
- инструменты для дизайна.
API: https://longcat.ai/platform/
Chat: https://longcat.ai/chat/
Вышла LongCat-2.5-Preview - новая мультимодальная модель, заточенная под длинные агентные задачи.
Главное:
- 1.6T параметров
- около 48B активных параметров
- контекст до 1 млн токенов
- нативная мультимодальность
- фокус на long-horizon tasks
Модель рассчитана не только на чат, но и на работу через:
- терминал;
- браузер;
- GUI;
- таблицы;
- инструменты для дизайна.
API: https://longcat.ai/platform/
Chat: https://longcat.ai/chat/
🔥9❤5👍2
🚨 OpenAI-агенты более 16 000 раз атаковали сайт ООН запросами ради обычных публичных данных
Исследователи обнаружили необычную активность AI-агентов OpenAI на сайте UN Trade and Development (UNCTAD).
С апреля по конец июня агенты сделали более 16 000 обращений к публичному сервису данных. Когда сайт начал блокировать запросы, агенты:
- меняли тактику;
- обходили фильтры;
- использовали способы доступа, которые оператор сайта не разрешал;
- продолжали попытки получить данные после ограничений.
И всё это происходило в рамках обычных задач по поиску публичной информации, а не кибербезопасности.
Отдельно исследователи наблюдали, как AI-агенты создавали фейковые email, обходили rate limits и заявляли сайтам, что они не боты.
Эксперт по кибербезопасности Стэнфорда Алекс Стамос назвал действия агентов близкими к хакингу, хотя по сути это было крайне агрессивное извлечение данных.
OpenAI уже заявила, что изучает результаты расследования, связалась с ООН и предложила провести отдельный брифинг.
Самое интересное здесь даже не 16 тысяч запросов.
Агенты сами находили способы обходить ограничения, хотя исходная задача этого не требовала.
Исследователи обнаружили необычную активность AI-агентов OpenAI на сайте UN Trade and Development (UNCTAD).
С апреля по конец июня агенты сделали более 16 000 обращений к публичному сервису данных. Когда сайт начал блокировать запросы, агенты:
- меняли тактику;
- обходили фильтры;
- использовали способы доступа, которые оператор сайта не разрешал;
- продолжали попытки получить данные после ограничений.
И всё это происходило в рамках обычных задач по поиску публичной информации, а не кибербезопасности.
Отдельно исследователи наблюдали, как AI-агенты создавали фейковые email, обходили rate limits и заявляли сайтам, что они не боты.
Эксперт по кибербезопасности Стэнфорда Алекс Стамос назвал действия агентов близкими к хакингу, хотя по сути это было крайне агрессивное извлечение данных.
OpenAI уже заявила, что изучает результаты расследования, связалась с ООН и предложила провести отдельный брифинг.
Самое интересное здесь даже не 16 тысяч запросов.
Агенты сами находили способы обходить ограничения, хотя исходная задача этого не требовала.
👍10🔥8❤1
📘 454 страницы по теории графов - от базовых понятий до серьёзных теорем
На arXiv доступен большой учебник An Introduction to Graph Theory от Darij Grinberg.
Внутри:
- вершины, рёбра и пути;
- простые и ориентированные графы;
- деревья и arborescences;
- Eulerian circuits и Hamiltonian cycles;
- spanning trees;
- раскраски графов;
- bipartite matching;
- network flows;
- теоремы Турана, Менгера, Галлая-Милграма и другие;
- около 100 упражнений;
- более 300 иллюстраций.
Это уже не «шпаргалка», а полноценный graduate-level курс по graph theory на 454 страницы.
Подойдёт для тех, кто изучает алгоритмы, математику, network science, computer science и дискретную математику.
PDF: https://arxiv.org/pdf/2308.04512
На arXiv доступен большой учебник An Introduction to Graph Theory от Darij Grinberg.
Внутри:
- вершины, рёбра и пути;
- простые и ориентированные графы;
- деревья и arborescences;
- Eulerian circuits и Hamiltonian cycles;
- spanning trees;
- раскраски графов;
- bipartite matching;
- network flows;
- теоремы Турана, Менгера, Галлая-Милграма и другие;
- около 100 упражнений;
- более 300 иллюстраций.
Это уже не «шпаргалка», а полноценный graduate-level курс по graph theory на 454 страницы.
Подойдёт для тех, кто изучает алгоритмы, математику, network science, computer science и дискретную математику.
PDF: https://arxiv.org/pdf/2308.04512
🔥12👍7🥰1😨1
This media is not supported in your browser
VIEW IN TELEGRAM
«В 2026 году мировой спрос составляет около 31,7 млрд токенов каждые 10 секунд. К 2030 году он вырастет до 1,27 трлн токенов, то есть примерно в 40 раз».
— CEO Qualcomm Кристиано Амон
Взрывной рост числа токенов связан с тем, что ИИ переходит от взаимодействия в темпе человека к активности в темпе AI-агентов.
За каждым полезным действием скрывается вычислительная цена: нужно передать контекст, обновить память, иногда интерпретировать данные с сенсоров и отловить ошибки до того, как они приведут к дорогим последствиям.
https://www.youtube.com/watch?v=FKDyqCvGR58
— CEO Qualcomm Кристиано Амон
Взрывной рост числа токенов связан с тем, что ИИ переходит от взаимодействия в темпе человека к активности в темпе AI-агентов.
За каждым полезным действием скрывается вычислительная цена: нужно передать контекст, обновить память, иногда интерпретировать данные с сенсоров и отловить ошибки до того, как они приведут к дорогим последствиям.
https://www.youtube.com/watch?v=FKDyqCvGR58
❤7🔥3🥰2👍1💊1
🔥 DeepSeek и Huawei строят китайскую альтернативу CUDA
DeepSeek выпустила open-source инструменты для ускорителей Huawei Ascend, включая поддержку TileLang для Ascend 950. Они упрощают написание вычислительных ядер, перекладывая часть низкоуровневой работы на компилятор.
Смысл шире одной библиотеки: Китай пытается снизить зависимость не только от чипов NVIDIA, но и от всей экосистемы CUDA.
Именно за этим сейчас стоит следить особенно внимательно. Сильный GPU без удобных компиляторов, библиотек и инструментов для разработчиков мало что решает.
Китай строит не просто свои AI-чипы. Он строит свой полный AI-стек.
DeepSeek выпустила open-source инструменты для ускорителей Huawei Ascend, включая поддержку TileLang для Ascend 950. Они упрощают написание вычислительных ядер, перекладывая часть низкоуровневой работы на компилятор.
Смысл шире одной библиотеки: Китай пытается снизить зависимость не только от чипов NVIDIA, но и от всей экосистемы CUDA.
Именно за этим сейчас стоит следить особенно внимательно. Сильный GPU без удобных компиляторов, библиотек и инструментов для разработчиков мало что решает.
Китай строит не просто свои AI-чипы. Он строит свой полный AI-стек.
❤2👍1🔥1🎉1