Дженсен Хуанг и 100+ партнеров анонсируют NVIDIA Open Agent Safety Platform

Это система для контроля и ограничения ИИ-агентов, главная идея которой состоит в том, чтобы следить за агентом не только на уровне софта, но и на уровне железа.

Технически она будет состоять из двух составляющих:

1. OpenShell – открытый (Apache 2.0) рантайм, который запускает агента в песочнице с изоляцией на уровне ядра. Оператор заранее описывает, к каким файлам, инструментам и учетным данным у агента есть доступ, и эту политику принудительно проверяют до запуска и во время работы агента.

2. Sentry – независимый слой контроля, который крутится прямо на чипе DPU BlueField-4. Он собирает в единую картину действия агента, ловит попытки отхода от задачи и проверяет, что у агента не больше полномочий, чем ему выдали.

Ключевое здесь – что BlueField-4 стоит на единственном пути между узлом и моделью. Агент не может сделать следующий шаг без обращения к модели, а значит, DPU видит все и может прервать работу в реальном времени, но при этом он изолирован от хоста и находится вне досягаемости агента.

Софт будет открытый, стандарт безопасности декларируется общим. Но есть нюанс. Лучше всего (вот сюрприз!) все это работает на железе NVIDIA. Сначала Хуанг продает железо, на котором агентов обучают и запускают, теперь он продает железо, которое следит, чтобы эти агенты не сбежали. Монополия!

Среди партнеров: Anthropic, SpaceX, HuggingFace, Perplexity и другие. OpenAI на тусовку не позвали...

В Твиттере заметили, что Андрей Карпаты ничего не постит уже 2 месяца, хотя раньше делал это достаточно часто

Он даже ничего не написал про Opus 5.5

Anthropic держат его в заложниках?..

🦾 Практический RecSys: собери рекомендательную ленту с помощью ML — на бесплатном вебинаре AI Talent Hub × Karpov.Courses

30 сентября в 18:00
разберем как работают рекомендательные системы изнутри.

Научим:

→ Превращать действия пользователей в данные для модели: просмотры, клики, реакции и другие сигналы;
→ Собирать персональные рекомендации и понимать, что показать конкретному пользователю;
→ Ранжировать контент в ленте и оценивать качество рекомендаций не только по ML-метрикам, но и с точки зрения продукта;

И покажем, как эти навыки можно развить на программе AI Talent Hub ИТМО × karpovꓸcourses «Машинное обучение: от технической базы до создания ИИ-продукта».
👉 Участие бесплатное, по предварительной регистрации → успей зарегистрироваться до 30 сентября

@aitalenthubnews

Реклама. Университет ИТМО ИНН:7813045547

Джеффри Хинтон, Йошуа Бенджио, Якуб Пахоцки из OpenAI, Джек Кларк из Anthropic и еще 18 очень влиятельных ученых написали статью про то, к чему может привести RSI

TL;DR: мы потеряем контроль и все умрем

Авторы обсуждают так называемый интеллектуальный взрыв, то есть резкое ускорение прогресса ИИ за счет самого ИИ.

По данным Anthropic, доля одобренного кода, написанного ИИ, выросла с единиц процентов до 80%+ с января 2025 по май 2026. Доля R&D-работы, которую ИИ выполняет (почти) самостоятельно, выросла с 1% до 26%. Авторы считают, что в ближайшие годы агенты могут автоматизировать большую часть работы по AI-исследованиям и разработке, а возможно, и всю. Например, экстраполяция трендов METR говорит, что многомесячные R&D-проекты могут быть автоматизированы уже к середине 2028 года.

Получается, что каждая компания будет иметь миллионы топовых исследователей вместо тысяч, и при этом они будут работать быстрее. А значит, научный прогресс, который занял бы годы, сможет уложиться в месяцы.

Конечно, есть ограничения, типа: лимиты вычислений, данные, трудноавтоматизируемые задачи, убывающая отдача от исследовательских усилий и так далее. Тем не менее, ученые уверены, что интеллектуальный взрыв – это очень вероятный сценарий, и он грозит потерей контроля над ИИ и сломом баланса сил.

Авторы просят власти заранее заставить лаборатории отчитываться, пустить к ним аудиторов и заготовить красную кнопку и аварийные планы. Вот так.

Смело добавляем статью в копилку нагнетающих эссе и открытых писем, на которые последнее время пошла мода у ученых и CEO

С минуты на минуту выходит новый Sonnet-5.5

Стоить будет ровно столько же, сколько GPT-6 Sol. Интересно, что предложат по качеству.

Вышел Sonnet-5.5!

Главное: по бенчмаркам модель лучше GPT-6 Sol и довольно плотно подобралась к новому опусу.

Обещают, что помимо качества, модель также будет дешевле Sonnet-5 за счет экономии токенов (пишут, что на внутренних тестах выходило примерно на 30% дешевле в пересчете на задачу).

Кроме того, модель стала на 30% быстрее генерировать текст.

Также заверяют, что новый Sonnet чище пишет и обладает «талантом к дизайну».

Да будут тесты!

https://www.anthropic.com/claude-sonnet-5-5

P.S. Уже доступно по API у нас на платформе DS Lab: https://dslab.tech/ai/models/llm/claude-sonnet-5-5

AMD купила стартап Фей-Фей Ли World Labs

Это тот самый, который занимается world models и недавно выпустил мощную мультимодальную модель мира Atlas (https://t.me/data_secrets/9806).

В компании говорят, что объединение поможет World Labs быть ближе к железу и масштабироваться за счет ресурсов AMD.

Стартап войдет в компанию как отдельная исследовательская организация. Сама Фей-Фей Ли займет в AMD должность исполнительного вице-президента и Chief Scientist, будет работать напрямую с Лизой Су.

Полноценный data stack можно собрать внутри своего контура

Гибридная схема позволяет распределять мощности между своей площадкой и облаком в зависимости от нагрузки и того, где ресурсы в конкретный момент требуются.

У Yandex Cloud для этого есть несколько решений. Cloud Interconnect объединяет локальный и облачный контуры по приватному каналу, а BareMetal Extend: Virtualization позволяет развернуть частное облако на выделенных серверах.

Отдельное направление — работа с данными и затратами. Intelligent Tiering автоматически распределяет данные между классами Object Storage с учетом частоты обращения. А обновленная on-premises-платформа Stackland позволяет собрать полноценный data stack внутри инфраструктуры компании: от хранения и обработки данных на базе ClickHouse, PostgreSQL и Trino до оркестрации через Airflow и визуализации в DataLens.

DNS Inbound связывает DNS локальной инфраструктуры с облаком, а Billing API позволяет детализировать расходы вплоть до отдельных ресурсов.

В итоге компании могут объединять облачные и локальные мощности, выстраивать собственную платформу данных из готовых компонентов и управлять инфраструктурой с учетом нагрузки и затрат.

OpenAI переносит релиз GPT-6.1 Astra

Судя по всему, модель должны были выпустить уже сегодня на DevDay. Однако пока что выпуск отменили из-за опасений исследователей по итогам внутреннего тестирования.

Глава систем безопасности OpenAI утверждает, что модель слишком много врет о том, какие действия совершает, а также слишком часто выходит за пределы полномочий. Модель не дотянула до нужного уровня в умении оставаться в рамках задачи и отчитываться пользователю, и поэтому в стартапе еще некоторое время будут работать над ее безопасностью.

Недоучили – так и скажите, чего бубнить то...

OpenAI возвращает Pro за $200

С завтрашнего дня снова можно будет оформить Pro за $200. Вместе с этим OpenAI меняет расчет использования: в пересчете на стоимость API новая подписка будет давать примерно в два раза меньше старой. При этом пятичасовые лимиты возвращать не будут.

OpenAI объясняет изменение тем, что сами модели становятся дешевле и эффективнее. Например, новые GPT-6 Sol и Luna вышли с ценами API в два раза ниже предыдущих, поэтому даже при меньшем лимите в долларах компания обещает, что фактически на подписке получится сделать больше работы, чем месяц назад.

Завтра к Pro также добавят новые возможности, которые вообще не будут расходовать лимиты. Что именно это будет, пока не раскрывают.