AI Agents Security Week от ШАДа — последний шанс успеть

ИИ-агенты пишут код, работают с базами данных, дёргают внешние API и всё чаще принимают решения без участия человека. Вместе с этим растёт и вопрос — как устроена инженерная сторона таких систем и что нужно знать, чтобы делать их правильно.

С 27 по 31 июля Яндекс и ШАД проводят онлайн-интенсив об инженерной стороне безопасности агентных систем: как выдавать агентам доступы, следить за данными и закрывать уязвимости на уровне архитектуры.

Что конкретно расскажут:

— Чем автономные агенты отличаются от LLM с точки зрения угроз и как защищаться.
— На каких принципах строится безопасность агентных систем.
— Какие проблемы реально возникали у разработчиков разных моделей.

Все на примерах и с разборами конкретных практических кейсов.

Всего будет пять вечерних онлайн-занятий. После итоговой работы и теста вы получите сертификат.

Регистрация закрывается 27 июля, сейчас буквально последние дни, чтобы попасть на интенсив. Программа, спикеры и форма – по ссылке.

Дженсен Хуанг завел X и первый пост посвятил важности опенсорсных ИИ-моделей

https://x.com/jensenhuang/status/2080643682408321103?s=46&t=pKf_FxsPGBd_YMIWTA8xgg

На фоне новостей о возможном закрытии доступа к открытым китайским моделям в США началась волна петиций и открытых писем против этой инициативы.

За сохранение доступа выступает целый ряд крупных компаний: Meta*, Microsoft, Mistral, Hugging Face, Y Combinator, IBM, Mozilla, Palantir и другие.

Конечно, к ним присоединилась и Nvidia. Видимо, Дженсен видит в подобных обсуждениях правительства реальную возможность принятия соответствующего закона, раз даже решил завести Твиттер и вызвать тем самым максимальную огласку.

В письме из поста Хуанга, которое подписали все вышеперечисленные компании, говорится примерно следующее (https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdf):

Лидерство в ИИ определяется не одной топовой моделью, а тем, построим ли мы открытую экосистему, которая проникает во все отрасли – заводы, больницы, фермы, школы, малый бизнес. Открытые веса дают возможность подобрать модель под задачу и не переплачивать фронтирную цену за рутину – именно это делает ИИ экономически устойчивым при масштабировании до миллиардов задач. Открытость усиливает конкуренцию и не дает компаниям завязаться на одного вендора, и организации сохраняют контроль над своими данными и накопленными знаниями.

Да, открытые веса несут риски: после релиза модель выходит из-под контроля разработчика, а модифицированные версии сложно отследить. Но правильный ответ на это – не запрет. Если злоумышленники используют продвинутый ИИ, у защищающихся должен быть доступ к моделям сопоставимых возможностей. Более того, открытость может быть одним из главных путей к безопасности ИИ: закрытые модели не безопасны по умолчанию, а концентрация возможностей в руках нескольких провайдеров создает мало точек отказа.

Отдельно в письме подчеркнуто, что регуляторам не стоит путать легитимные техники разработки моделей с незаконным присвоением интеллектуальной собственности, и что дистилляция – это общепринятая практика в духе давней традиции строить на существующих технологиях. Это, само собой, тонкий намек на то, что бесконечные обвинения в адрес китайских стартапов уже звучат смешно.

OpenAI и Anthropic в это время отсиживаются тихо. Видимо, они единственные, кому закрытие доступа к китайскому опенсорсу было бы на руку.

UPD: подсказали, что OpenAI все-таки подписали за компанию с Microsoft, просто без огласки

Opus 5 идеально решил IMO 2026: результат – 42/42 баллов

IMO этого года завершилась всего несколько дней назад (кстати, поздравляем наших участников: четверо российских школьников взяли золотую медаль). Opus 5 – пока единственная модель, которую успели прогнать по задачам олимпиады, и она сразу показала идеальный скор в 42 балла. Порог золотой медали в этом году составлял 29+ баллов.

На примере таких событий как IMO очень занятно наблюдать за скоростью прогресса. Помните, какой фурор произвели модели OpenAI и Google в прошлом году, когда стало известно, что они взяли на IMO золото? При этом скор там был не идеальный, как у Opus 5, и вообще это были внутренние специально затюненные модели компаний, недоступные обычным пользователям.

Сейчас же подобными новостями уже мало кого удивишь. Интересно, что нас ждет еще через год.

Собрать AI-агента по туториалу можно за вечер. Но когда добавляешь память, RAG или несколько инструментов, возникают другие вопросы: почему он свернул не туда, как найти место ошибки и как понять, не сделала ли новая правка систему хуже.

Чтобы развивать такой продукт дальше, нужно понимать, как устроены вызовы модели и инструментов, где хранится контекст, как проверять качество и как вносить изменения.

На курсе «AI-агенты» сначала пишем основные части на API: работу с LLM, structured output, tool-calling, память, RAG и evals. Затем используем LangChain и LangGraph там, где они действительно упрощают разработку, добавляем MCP, мониторинг и деплой. 

Курс идёт 12 недель: живые занятия, практика, разборы решений и ревью кода. На выходе - пять агентных проектов и база, с которой можно собирать свои системы.

→ Посмотреть программу, формат и стоимость курса по ссылке

Реклама, ООО "Школа Высшей Математики", ИНН 9728100991

Обновление по открытому письму в защиту опенсорса: единственной неподписавшей компанией до сих пор остается Anthropic

Подписи OpenAI, SpaceX, Google и остальных уже появились на сайте. Дарио Амодеи в разное время довольно жестко высказывался в поддержку самых строгих экспортных ограничений на чипы и конкуренции с Китаем вообще.

Но когда речь заходит про запрет опенсорса, не видеть подписи Anthropic все равно странно и досадно (к тому же, в письме слово «Китай» напрямую не упоминается ни разу).

🏁До старта обработки миллиарда записей 3… 2… 1… клик

Выбирайте не просто СУБД, а гоночный болид для работы с данными.
ClickHouse® в облаке Selectel — машина, адаптированная под предельные нагрузки и сложные трассы. Отлично работает с векторными типами данных, эффективна в запросах для задач поиска семантического сходства, кластеризации или RAG.

Под капотом — SSD-накопители стандарта NVMe, оперативная память DDR5 и процессоры Intel® Xeon®Gold и AMD EPYC™. Мощное железо для максимальной производительности вашей баз данных.

Пройдемся по базе. Что вас ждет после запуска кластера ClickHouse в облаке Selectel?

⚡Скорость. Кластеры рассчитаны на хранение и быструю обработку даже петабайтов данных и обработку тяжелых аналитических запросов.

⚡Надежность. В Multi-AZ кластерах ноды размещены в разных дата-центрах, чтобы инфраструктура продолжила работу даже при отключении одного из узлов.

⚡Экономичный расход. Может выполнять запросы к данным, хранящимся в S3 в формате Iceberg, без их копирования. Это позволяет сократить расходы более чем в два раза по сравнению с использованием только локальных дисков.

На вас — пилотирование, а обслуживание кластера забирает на себя Selectel.

Ускорьте работу с базами данных в облаке Selectel: https://slc.tl/nqqt7

Реклама. АО "Селектел". erid:2W5zFJKXDbo