Сбер выкатил обновленную модель угроз для ИИ агентов.
Почти 100 страниц детально проработанного документа с описанием рисков и методов предотвращения угроз.
В 2025 году документ представлял собой каталог из 70 отдельных угроз для данных, инфраструктуры, моделей, приложений и ИИ-агентов.
В 2026 году подход полностью переработали:
— 37 обобщённых угроз вместо 70 частных сценариев;
— 51 отдельный способ реализации атак;
— привязка атак к тактикам MITRE ATT&CK и MITRE ATLAS;
— полноценная модель нарушителей, включая сотрудников, внешних злоумышленников и самого ИИ-агента;
— отдельные угрозы для RAG, памяти, системных промптов, инструментов и мультиагентных систем;
— пошаговая методика определения актуальных угроз для конкретного ИИ-решения;
— распределение ответственности между владельцами данных, разработчиками, ИТ, DevOps и специалистами по кибербезопасности.
Главное изменение: версия 2025 года отвечала на вопрос «какие угрозы существуют», а версия 2026 года — «как определить актуальные угрозы, кто может их реализовать, каким способом и кто должен отвечать за защиту».
Полная версия в комментарии.
Качаем, вдохновляемся.
#Сбербанк #модельугроз #cybersecurity
———
@tsingular
Почти 100 страниц детально проработанного документа с описанием рисков и методов предотвращения угроз.
В 2025 году документ представлял собой каталог из 70 отдельных угроз для данных, инфраструктуры, моделей, приложений и ИИ-агентов.
В 2026 году подход полностью переработали:
— 37 обобщённых угроз вместо 70 частных сценариев;
— 51 отдельный способ реализации атак;
— привязка атак к тактикам MITRE ATT&CK и MITRE ATLAS;
— полноценная модель нарушителей, включая сотрудников, внешних злоумышленников и самого ИИ-агента;
— отдельные угрозы для RAG, памяти, системных промптов, инструментов и мультиагентных систем;
— пошаговая методика определения актуальных угроз для конкретного ИИ-решения;
— распределение ответственности между владельцами данных, разработчиками, ИТ, DevOps и специалистами по кибербезопасности.
Главное изменение: версия 2025 года отвечала на вопрос «какие угрозы существуют», а версия 2026 года — «как определить актуальные угрозы, кто может их реализовать, каким способом и кто должен отвечать за защиту».
Полная версия в комментарии.
Качаем, вдохновляемся.
#Сбербанк #модельугроз #cybersecurity
———
@tsingular
⚡9✍7🔥7❤🔥1❤1
Forwarded from Двач
This media is not supported in your browser
VIEW IN TELEGRAM
Мы официально живём в эпизоде «Южного Парка»: канадский депутат Билл Оливер во время выступления в Законодательном собрании провинции Нью-Брунсвик случайно зачитал вслух ответ ChatGPT.
После этого он как ни в чём не бывало продолжил речь, выдавая написанный нейросетью текст за «собственную» позицию по важному для общества вопросу.
Вот более естественная и плавная версия этого фрагмента, которая звучит как выступление в законодательном собрании, а не как набор коротких тезисов.
После этого он как ни в чём не бывало продолжил речь, выдавая написанный нейросетью текст за «собственную» позицию по важному для общества вопросу.
😁34🤣22 11❤1
🤣21💯6
This media is not supported in your browser
VIEW IN TELEGRAM
Японцы выкатили самурая Rotaku
Для спасения человечества, говорят. Вопрос от кого? От других роботов или от человечества?
Пока не понятно.
#роботы #Япония #Rotaku
------
@tsingular
Для спасения человечества, говорят. Вопрос от кого? От других роботов или от человечества?
Пока не понятно.
#роботы #Япония #Rotaku
------
@tsingular
🆒7❤3⚡2🤣1👾1
Media is too big
VIEW IN TELEGRAM
Ещё одна интересная модель: Primebot T1.
Забавно как безопасно звучит "- могу бесшумно преследовать цель" в диалоге с ребёнком.
#primebot #роботы
------
@tsingular
Забавно как безопасно звучит "- могу бесшумно преследовать цель" в диалоге с ребёнком.
#primebot #роботы
------
@tsingular
🔥6🤯4👾4
This media is not supported in your browser
VIEW IN TELEGRAM
Китай построил крупнейший в мире сверхпроводящий магнит для «искусственного солнца»
В конце июня Институт физики плазмы Китайской академии наук (ASIPP) в Хэфэе провёл приёмочные испытания двух сверхпроводящих магнитов для термоядерного реактора.
Главный из них — тороидальный магнит D-образной формы весом 582 тонны, крупнейший среди когда-либо построенных для термоядерных реакторов.
🔍 Магнит размером 21×12 метров в 1,3 раза превышает по объёму аналоги Международного экспериментального термоядерного реактора (ITER) и запасает втрое больше энергии.
Шестнадцать таких катушек сформируют кольцо, создающее магнитное поле 6,5 Тесла в центре плазмы — достаточно, чтобы удерживать стомиллионоградусный плазменный шар в подвешенном состоянии.
Одновременно прошёл испытания высокотемпературный сверхпроводящий центральный соленоид — «свеча зажигания» реактора, запускающая плазменный ток.
💰 Проект выполнен с полной локализацией: от сверхпроводящих лент и криогенной стали до прецизионной намотки и защиты от срыва сверхпроводимости,- все на собственных технологиях.
За шесть лет получено 47 патентов и 25 отраслевых стандартов.
Стоимость сверхпроводящей ленты снижена с 400 до 100 юаней за метр — ключевой шаг к экономической состоятельности термояда.
🔮 По трёхэтапной дорожной карте Китая компактный экспериментальный реактор BEST должен быть собран к концу 2027 года, а первая выработка электроэнергии от термоядерного синтеза запланирована на 2030 год.
До коммерческого реактора идти ещё далеко: по оценке самих разработчиков, успешные испытания магнитов закрывают примерно 80% задач.
💡 В глобальной гонке термояда Китай идёт параллельным курсом с американскими частниками.
Commonwealth Fusion Systems строит SPARC с целью чистого выхода энергии в 2027 году и уже подписала контракт на 400 МВт с ENI.
Helion Energy обещает 50-мегаваттную станцию для Microsoft к 2028 году.
Разница в том, что Китай делает ставку на государственную программу с полным производственным циклом внутри страны, а американцы — на венчурные миллиарды и контракты с Big Tech.
Обе модели движутся к одной цели ускоренными темпами.
Термояд перестал быть «технологией, до которой всегда двадцать лет».
Теперь это гонка с конкретными датами, контрактами и 582-тонными магнитами.
Если Китай действительно включит «искусственное солнце» в розетку к 2030 году, энергетический ландшафт планеты изменится быстрее, чем кто-либо ожидал и проблема дефицита энергии для ИИ исчезнет.
#fusion #энергетика #Китай
———
@tsingular
В конце июня Институт физики плазмы Китайской академии наук (ASIPP) в Хэфэе провёл приёмочные испытания двух сверхпроводящих магнитов для термоядерного реактора.
Главный из них — тороидальный магнит D-образной формы весом 582 тонны, крупнейший среди когда-либо построенных для термоядерных реакторов.
🔍 Магнит размером 21×12 метров в 1,3 раза превышает по объёму аналоги Международного экспериментального термоядерного реактора (ITER) и запасает втрое больше энергии.
Шестнадцать таких катушек сформируют кольцо, создающее магнитное поле 6,5 Тесла в центре плазмы — достаточно, чтобы удерживать стомиллионоградусный плазменный шар в подвешенном состоянии.
Одновременно прошёл испытания высокотемпературный сверхпроводящий центральный соленоид — «свеча зажигания» реактора, запускающая плазменный ток.
💰 Проект выполнен с полной локализацией: от сверхпроводящих лент и криогенной стали до прецизионной намотки и защиты от срыва сверхпроводимости,- все на собственных технологиях.
За шесть лет получено 47 патентов и 25 отраслевых стандартов.
Стоимость сверхпроводящей ленты снижена с 400 до 100 юаней за метр — ключевой шаг к экономической состоятельности термояда.
🔮 По трёхэтапной дорожной карте Китая компактный экспериментальный реактор BEST должен быть собран к концу 2027 года, а первая выработка электроэнергии от термоядерного синтеза запланирована на 2030 год.
До коммерческого реактора идти ещё далеко: по оценке самих разработчиков, успешные испытания магнитов закрывают примерно 80% задач.
💡 В глобальной гонке термояда Китай идёт параллельным курсом с американскими частниками.
Commonwealth Fusion Systems строит SPARC с целью чистого выхода энергии в 2027 году и уже подписала контракт на 400 МВт с ENI.
Helion Energy обещает 50-мегаваттную станцию для Microsoft к 2028 году.
Разница в том, что Китай делает ставку на государственную программу с полным производственным циклом внутри страны, а американцы — на венчурные миллиарды и контракты с Big Tech.
Обе модели движутся к одной цели ускоренными темпами.
Термояд перестал быть «технологией, до которой всегда двадцать лет».
Теперь это гонка с конкретными датами, контрактами и 582-тонными магнитами.
Если Китай действительно включит «искусственное солнце» в розетку к 2030 году, энергетический ландшафт планеты изменится быстрее, чем кто-либо ожидал и проблема дефицита энергии для ИИ исчезнет.
#fusion #энергетика #Китай
———
@tsingular
🔥20 15⚡3❤2
ну что, все успели освоить Agent Loops?
Устарело.
Новый чёрный, - Graph Engineering или Граф из ИИ Агентов.
Как вам идея? :)
обсудим это тоже сегодня в эфире с подписчиками ИИзбранного
#Graph #уроки
———
@tsingular
Устарело.
Новый чёрный, - Graph Engineering или Граф из ИИ Агентов.
Как вам идея? :)
обсудим это тоже сегодня в эфире с подписчиками ИИзбранного
#Graph #уроки
———
@tsingular
👍17🔥8⚡3🎃3😁1
This media is not supported in your browser
VIEW IN TELEGRAM
Flux 3
Уже можно нагенерить прошлое и вы в него поверите.
Это как с 'эффектом Манделы' - вы уверены в чем-то, чего не было, но представьте, что у фальшивого воспоминания появится достоверное видеоподтверждение.
Страшное дело.
Спасти могут только воспоминания, сохранённые в блокчейне через нейроимплант, который вы добровольно установите.
#нейрорендер #Flux
------
@tsingular
Уже можно нагенерить прошлое и вы в него поверите.
Это как с 'эффектом Манделы' - вы уверены в чем-то, чего не было, но представьте, что у фальшивого воспоминания появится достоверное видеоподтверждение.
Страшное дело.
Спасти могут только воспоминания, сохранённые в блокчейне через нейроимплант, который вы добровольно установите.
#нейрорендер #Flux
------
@tsingular
🤯56🔥8🤣8🤔7❤3⚡1
скоро на ваш сайт будут ходить или ИИ агенты или бумеры :)
и бумеров будет всё меньше, кстати.
#статистика #Booking
———
@tsingular
и бумеров будет всё меньше, кстати.
#статистика #Booking
———
@tsingular
💯14✍3😢2⚡1🍓1
Forwarded from Силиконовый Мешок
Приехал на малую родину. Сидим с другом в баре. Рассказываю ему про ИИ. Аргументов почти не осталось.
— Ладно, - говорю, - ты в детстве мечтал игру написать какую-нибудь?
Минуты три думает, потом такой:
— Ну да, когда мелкий был и постоянно в фантики играл, очень хотел игру на ZX Spectrum, чтобы там в них играть.
Нажимаю иконку микрофона в мобильной версии Claude Code:
— Ну давай, рассказывай, как ты ее себе представлял.
Рассказал.
— Ну все, давай еще по пиву, пока агент трудится…
Минут через пять показываю результат. Неказистая 8-битная графика в стиле ZX Spectrum, музычка соответствующая.
Смотрю на друга, он чуть не плачет:
— Да, да, я именно так и представлял себе ту игру из детства. А вот тут можно переделать? А на компьютере пойдет? Игроков можно добавить?
…добро пожаловать в клуб, друг
— Ладно, - говорю, - ты в детстве мечтал игру написать какую-нибудь?
Минуты три думает, потом такой:
— Ну да, когда мелкий был и постоянно в фантики играл, очень хотел игру на ZX Spectrum, чтобы там в них играть.
Нажимаю иконку микрофона в мобильной версии Claude Code:
— Ну давай, рассказывай, как ты ее себе представлял.
Рассказал.
— Ну все, давай еще по пиву, пока агент трудится…
Минут через пять показываю результат. Неказистая 8-битная графика в стиле ZX Spectrum, музычка соответствующая.
Смотрю на друга, он чуть не плачет:
— Да, да, я именно так и представлял себе ту игру из детства. А вот тут можно переделать? А на компьютере пойдет? Игроков можно добавить?
…добро пожаловать в клуб, друг
👍46🔥22🦄8❤5🤣5⚡4
Media is too big
VIEW IN TELEGRAM
навайбкодил демку принципа работы конечных автоматов на разных сценариях.
Залипательный скринсейвер получился.
html в комментарии
#demo #dev
———
@tsingular
Залипательный скринсейвер получился.
html в комментарии
#demo #dev
———
@tsingular
🔥20👍4❤1⚡1
Эндрю Ын анонсировал персональную систему управления обучением
Сооснователь Coursera Эндрю Ын запустил LearnVector — новую компанию, в которую Coursera уже вложила $100 млн за треть бизнеса.
Первые продукты обещают показать в начале 2027 года.
На поверхности идея выглядит знакомо: персональный ИИ-наставник для каждого ученика. Но замысел глубже.
Современный чат-бот умеет объяснить тему, решить задачу и написать домашнюю работу. Однако хороший ответ ещё не означает обучение. Чем больше ИИ думает вместо человека, тем лучше становится выполненное задание — и тем меньше развивается навык самого ученика.
LearnVector пытается решить именно эту проблему.
Вместо режима «вопрос — готовый ответ» система должна управлять полным циклом обучения:
🔹 определить текущий уровень и реальные пробелы;
🔹 построить персональную траекторию к конкретному навыку;
🔹 подобрать объяснение и практику нужной сложности;
🔹 наблюдать за ошибками и менять следующий шаг;
🔹 не выдавать ответ раньше времени, когда человеку полезнее подумать самому;
🔹 проверять не запоминание материала, а способность применить навык без помощи ИИ.
То есть ключевой продукт LearnVector — не чат и даже не персонализированный курс.
Это ИИ-агент, который поддерживает модель знаний конкретного человека и управляет его продвижением до подтверждённого результата.
И здесь у Coursera появляется серьёзное преимущество. Языковую модель может подключить почти любая образовательная платформа. Но для качественного обучения нужны ещё проверенные материалы, последовательность навыков, задания, критерии оценки и данные о том, как учатся миллионы людей.
Поэтому инвестиция выглядит не как обычная ставка на стартап. Coursera пытается перейти от библиотеки курсов к системе, которая отвечает не за доступ к контенту, а за достижение навыка.
Главный риск тоже очевиден: персонализация может сделать обучение слишком удобным. Система начнёт оптимизировать скорость прохождения и правильные ответы, постепенно устраняя из процесса усилие, на котором и строится настоящее понимание.
Поэтому главный показатель такого ИИ-наставника — не число пройденных уроков и даже не оценки. А то, способен ли человек позднее самостоятельно решить новую задачу.
Если LearnVector справится, следующим этапом онлайн-образования станет не курс с добавленным ИИ, а персональный агент наставник, который знает, чему вас учить так, чтобы вы стали результативнее.
Личный когнитивный тренер, в общем.
#Ng #Coursera #learning
———
@tsingular
Сооснователь Coursera Эндрю Ын запустил LearnVector — новую компанию, в которую Coursera уже вложила $100 млн за треть бизнеса.
Первые продукты обещают показать в начале 2027 года.
На поверхности идея выглядит знакомо: персональный ИИ-наставник для каждого ученика. Но замысел глубже.
Современный чат-бот умеет объяснить тему, решить задачу и написать домашнюю работу. Однако хороший ответ ещё не означает обучение. Чем больше ИИ думает вместо человека, тем лучше становится выполненное задание — и тем меньше развивается навык самого ученика.
LearnVector пытается решить именно эту проблему.
Вместо режима «вопрос — готовый ответ» система должна управлять полным циклом обучения:
🔹 определить текущий уровень и реальные пробелы;
🔹 построить персональную траекторию к конкретному навыку;
🔹 подобрать объяснение и практику нужной сложности;
🔹 наблюдать за ошибками и менять следующий шаг;
🔹 не выдавать ответ раньше времени, когда человеку полезнее подумать самому;
🔹 проверять не запоминание материала, а способность применить навык без помощи ИИ.
То есть ключевой продукт LearnVector — не чат и даже не персонализированный курс.
Это ИИ-агент, который поддерживает модель знаний конкретного человека и управляет его продвижением до подтверждённого результата.
И здесь у Coursera появляется серьёзное преимущество. Языковую модель может подключить почти любая образовательная платформа. Но для качественного обучения нужны ещё проверенные материалы, последовательность навыков, задания, критерии оценки и данные о том, как учатся миллионы людей.
Поэтому инвестиция выглядит не как обычная ставка на стартап. Coursera пытается перейти от библиотеки курсов к системе, которая отвечает не за доступ к контенту, а за достижение навыка.
Главный риск тоже очевиден: персонализация может сделать обучение слишком удобным. Система начнёт оптимизировать скорость прохождения и правильные ответы, постепенно устраняя из процесса усилие, на котором и строится настоящее понимание.
Поэтому главный показатель такого ИИ-наставника — не число пройденных уроков и даже не оценки. А то, способен ли человек позднее самостоятельно решить новую задачу.
Если LearnVector справится, следующим этапом онлайн-образования станет не курс с добавленным ИИ, а персональный агент наставник, который знает, чему вас учить так, чтобы вы стали результативнее.
Личный когнитивный тренер, в общем.
#Ng #Coursera #learning
———
@tsingular
🔥25❤6⚡3🤔3✍2
Forwarded from e/acc
Промт инжиниринг circa 2026.
Вы не поверите, но элитный промтинг от триллионных компаний выглядит именно так. Попробуйте сами с фейблом. Чем меньше деталей, тем лучше результат.
Это примерно как если мы 4-летний ребенок объяснял родителям как именно нужно забронировать и организовать отдых на море. Чем меньше деталей, тем лучше все будет сделано.
Поскольку модели уже лучше нас в большинстве чисто технических задач, им нужно говорить видение, а не способ исполнения. Когда Клод смотрит как я пытаюсь кодить руками — это примерно как мем про обезьяну, пытающуюся забить гвозди.
Вы не поверите, но элитный промтинг от триллионных компаний выглядит именно так. Попробуйте сами с фейблом. Чем меньше деталей, тем лучше результат.
Это примерно как если мы 4-летний ребенок объяснял родителям как именно нужно забронировать и организовать отдых на море. Чем меньше деталей, тем лучше все будет сделано.
Поскольку модели уже лучше нас в большинстве чисто технических задач, им нужно говорить видение, а не способ исполнения. Когда Клод смотрит как я пытаюсь кодить руками — это примерно как мем про обезьяну, пытающуюся забить гвозди.
🔥11✍4😁3💯3
Forwarded from Data Secrets
Anthropic значимо обновили MCP
Апдейт назвали крупнейшим с момента запуска. Сейчас расскажем, что изменилось.
Раньше MCP работал как двусторонняя связь с сохранением состояния сессии. То есть при подключении сервер открывал долгоживущее соединение, и весь контекст между запросами жил в оперативке одного запущенного процесса. Это требовало, чтобы был постоянно работающий инстанс, который висит и ждет, существуя все время, пока идет сессия.
В новой версии MCP стал stateless, то есть теперь каждый запрос самодостаточный. Клиент сам присылает весь нужный контекст в запросе (ну или он лежит во внешнем хранилище), а сервер просто получил запрос, обработал, отдал ответ и все забыл.
Все Serverless-платформы (AWS Lambda, Cloudflare Workers и тд) работают именно так. До этой версии MCP нельзя было нормально запустить на такой инфраструктуре, а теперь можно: сервер разработчика может состоять просто из функции, которая просыпается на запрос и засыпает.
В двух словах: MCP только что стали намного дешевле + их стало гораздо легче масштабировать. Практически это значит, что порог входа для создания MCP-сервера резко упал, и мы можем ожидать взрывного роста числа коннекторов для самых разных приложений, даже самых небольших.
https://claude.com/blog/bringing-mcp-2026-07-28-to-claude
Апдейт назвали крупнейшим с момента запуска. Сейчас расскажем, что изменилось.
Раньше MCP работал как двусторонняя связь с сохранением состояния сессии. То есть при подключении сервер открывал долгоживущее соединение, и весь контекст между запросами жил в оперативке одного запущенного процесса. Это требовало, чтобы был постоянно работающий инстанс, который висит и ждет, существуя все время, пока идет сессия.
В новой версии MCP стал stateless, то есть теперь каждый запрос самодостаточный. Клиент сам присылает весь нужный контекст в запросе (ну или он лежит во внешнем хранилище), а сервер просто получил запрос, обработал, отдал ответ и все забыл.
Все Serverless-платформы (AWS Lambda, Cloudflare Workers и тд) работают именно так. До этой версии MCP нельзя было нормально запустить на такой инфраструктуре, а теперь можно: сервер разработчика может состоять просто из функции, которая просыпается на запрос и засыпает.
В двух словах: MCP только что стали намного дешевле + их стало гораздо легче масштабировать. Практически это значит, что порог входа для создания MCP-сервера резко упал, и мы можем ожидать взрывного роста числа коннекторов для самых разных приложений, даже самых небольших.
https://claude.com/blog/bringing-mcp-2026-07-28-to-claude
🔥17⚡4✍3🤣1🏆1