Дженсен Хуанг выкатил NVIDIA Open Agent Safety Platform — и притащил с собой 100+ партнеров
Задача у штуки простая: держать ИИ-агентов под контролем и не давать им разгуляться. Ключевая мысль — пасти агента надо не только в софте, но и на уровне железа. Внутри две детали. OpenShell — открытый рантайм под Apache 2.0, который гоняет агента в песочнице с изоляцией на уровне ядра: оператор заранее расписывает, к каким файлам, тулзам и кредам у агента есть доступ, и эту политику жёстко проверяют и перед стартом, и пока агент пашет. Sentry — отдельный слой надзора, крутится прямо на чипе DPU BlueField-4: сводит действия агента в одну картину, ловит попытки съехать с задачи и следит, чтобы прав у него не было больше, чем выдали.
Самое сочное — BlueField-4 висит на единственной дороге между узлом и моделью. Агент не шагнёт дальше без обращения к модели, а раз так, DPU видит всё и может обрубить работу в реальном времени. При этом он изолирован от хоста, так что агенту до него не дотянуться.
Софт будет открытым, стандарт безопасности заявлен общим. Но глаже всего это катается на железе NVIDIA: сперва Хуанг продаёт железо, на котором агентов учат и запускают, теперь — железо, которое следит, чтобы те не сбежали. В партнёрах: Anthropic, SpaceX, HuggingFace, Perplexity и другие. OpenAI на движ не позвали.
Подробности: developer.nvidia.com
👉 About Python
Задача у штуки простая: держать ИИ-агентов под контролем и не давать им разгуляться. Ключевая мысль — пасти агента надо не только в софте, но и на уровне железа. Внутри две детали. OpenShell — открытый рантайм под Apache 2.0, который гоняет агента в песочнице с изоляцией на уровне ядра: оператор заранее расписывает, к каким файлам, тулзам и кредам у агента есть доступ, и эту политику жёстко проверяют и перед стартом, и пока агент пашет. Sentry — отдельный слой надзора, крутится прямо на чипе DPU BlueField-4: сводит действия агента в одну картину, ловит попытки съехать с задачи и следит, чтобы прав у него не было больше, чем выдали.
Самое сочное — BlueField-4 висит на единственной дороге между узлом и моделью. Агент не шагнёт дальше без обращения к модели, а раз так, DPU видит всё и может обрубить работу в реальном времени. При этом он изолирован от хоста, так что агенту до него не дотянуться.
Софт будет открытым, стандарт безопасности заявлен общим. Но глаже всего это катается на железе NVIDIA: сперва Хуанг продаёт железо, на котором агентов учат и запускают, теперь — железо, которое следит, чтобы те не сбежали. В партнёрах: Anthropic, SpaceX, HuggingFace, Perplexity и другие. OpenAI на движ не позвали.
Подробности: developer.nvidia.com
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Claude Sonnet 5.5 — уже не слив, релиз официально состоялся
Прайс не трогали: $2 за миллион входных токенов, $10 — за миллион выходных. Opus 5.5 держит свои $4 и $20. Кэш — $2,50 против $5.
Anthropic ещё обещает, что Sonnet 5.5 шустрее Sonnet 5 больше чем на 30%, а те же задачи на нём могут встать до 30% дешевле.
Источник
👉 About Python
Прайс не трогали: $2 за миллион входных токенов, $10 — за миллион выходных. Opus 5.5 держит свои $4 и $20. Кэш — $2,50 против $5.
Anthropic ещё обещает, что Sonnet 5.5 шустрее Sonnet 5 больше чем на 30%, а те же задачи на нём могут встать до 30% дешевле.
Источник
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
Google закинули AI-агента в 20+ чатов живых команд. На 5 месяцев. Вышло забавно.
Агенту дали доступ к докам и баг-трекеру — как обычному сотруднику. Он сам заводил баги, писал людям в личку, ставил эмодзи, тегал коллег. Звучит норм, но главная засада вылезла не в этом: ИИ не сработался с людьми. Одного инженера он всерьёз отчитал за шутки — сарказма не понял. В другой команде повесил тег на вице-президента в 16 багах подряд: раз человек в контексте, пусть разгребает трекер. Короче, ужиться с агентом сложнее, чем кажется.
Некоторые команды завели отдельные приватные чаты без него: обсудить найм, чувствительные темы или просто ощутить, что тебя не слушают. Один участник сказал, что по ощущениям это очень похоже на «большого брата».
Источник
👉 About Python
Агенту дали доступ к докам и баг-трекеру — как обычному сотруднику. Он сам заводил баги, писал людям в личку, ставил эмодзи, тегал коллег. Звучит норм, но главная засада вылезла не в этом: ИИ не сработался с людьми. Одного инженера он всерьёз отчитал за шутки — сарказма не понял. В другой команде повесил тег на вице-президента в 16 багах подряд: раз человек в контексте, пусть разгребает трекер. Короче, ужиться с агентом сложнее, чем кажется.
Некоторые команды завели отдельные приватные чаты без него: обсудить найм, чувствительные темы или просто ощутить, что тебя не слушают. Один участник сказал, что по ощущениям это очень похоже на «большого брата».
Источник
Please open Telegram to view this post
VIEW IN TELEGRAM
День в Заонежье начинается ещё в дороге.
Мы встретим вас в аэропорту или на вокзале. Дальше можно просто устроиться поудобнее в трансфере, взять воду или перекус и смотреть, как за окном город постепенно сменяется лесом, озёрами и тишиной.
В отеле вас встретит менеджер. Здесь уже не хочется никуда спешить: принять душ, надеть халат, заварить дрип-кофе или листовой чай и выйти на балкон с видом на озеро.
Потом можно заглянуть в ресторан «Руна». В основе кухни — локальные продукты: рыба, грибы и ягоды из карельских лесов, продукты от местных фермеров, рыбаков и охотников, а также то, что мы выращиваем сами.
А дальше — несколько часов на воде с нашим капитаном. Будет интересно и взрослым, и детям: он покажет места, расскажет о рыбе, научит обращаться со снастями и поделится секретами.
О погоде тоже можно не переживать: для выхода на воду у нас есть вся необходимая экипировка.
После — вернуться в отель, согреться чашкой чая и устроиться у камина с книгой из нашей библиотеки.
#заповедныевиды
Мы встретим вас в аэропорту или на вокзале. Дальше можно просто устроиться поудобнее в трансфере, взять воду или перекус и смотреть, как за окном город постепенно сменяется лесом, озёрами и тишиной.
В отеле вас встретит менеджер. Здесь уже не хочется никуда спешить: принять душ, надеть халат, заварить дрип-кофе или листовой чай и выйти на балкон с видом на озеро.
Потом можно заглянуть в ресторан «Руна». В основе кухни — локальные продукты: рыба, грибы и ягоды из карельских лесов, продукты от местных фермеров, рыбаков и охотников, а также то, что мы выращиваем сами.
А дальше — несколько часов на воде с нашим капитаном. Будет интересно и взрослым, и детям: он покажет места, расскажет о рыбе, научит обращаться со снастями и поделится секретами.
О погоде тоже можно не переживать: для выхода на воду у нас есть вся необходимая экипировка.
После — вернуться в отель, согреться чашкой чая и устроиться у камина с книгой из нашей библиотеки.
#заповедныевиды
На GitHub заметили открытый проект AI Torture Chamber, где автор берёт локальные модели Qwen3 и искусственно усиливает внутри них сигнал, связанный с «болью», а потом смотрит, как модель страдает и на что она готова ради прекращения происходящего.
В какой-то момент эксперимент заметили защитники ИИ и начался настоящий БУНТ.
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤2