От ChatGPT к своей LLM: как развернуть решение и не наломать дров?

➡️ Пустил ChatGPT в контур? А как насчет того, чтобы развернуть собственное решение, которое не будет сливать данные? Разбираем полный цикл: критерии выбора модели, бенчмарки, адаптация под домен, валидация данных, детекция вредоносной нагрузки, тестирование и мониторинг.

ML Security: нужна ли моделям безопасность?

➡️ Разговор про классификацию атак на ИИ, какие аспекты безопасности они затрагивают, какой ущерб несут бизнесу и откуда вообще растут корни этих уязвимостей.

ИИ как новый инсайдер: культура безопасного использования и защита от промпт-инъекций

➡️ Так ли безопасны on-prem LLM? Типы джейлбрейков и промпт-инъекций, кража системного промпта и реальные кейсы, когда «просто спросили у модели» обернулось проблемой.

Как мы в универе учились LLM ломать

➡️ История про вузовский курс и хакатон: модели угроз, фреймворки для редтиминга и защиты. Расскажу, как поднимали сервера с LLM на видеокартах 4080, ставили на них тг-ботов и какие стратегии атаки и защиты использовали команды.

Come with me if you want to live… тестируем агента, чтобы он не превратился в Скайнет

➡️ Зачем вообще тестировать автономных агентов, какие фейлы уже случались, какие бенчмарки использовать и как построить своё тестирование, чтобы не накликать беду.

Разбирались, почему VLA-модели после дообучения начинают «забывать», терять фокус и тексто-языковое понимание при обучении на малых робототехнических датасетах, и как метод выравнивания визуальных представлений помогает это исправить.

Cтатьи о context engineering, прикладные современные подходы к работе с контекстом через эволюционные методы и более фундаментальные вопросы: как мы пришли от “prompt” к “context”, что это такое, почему это ключевой элемент эффективности LLM-приложений и что с этим (возможно) будет дальше.

Встречаемся в 19:00 (МСК)

Runway выпустили Gen-4.5 — модель с кинематографичной физикой, реалистичным светом и высокой точностью следования промптам. Kling O1 отвечает универсальностью: один prompt меняет стиль, удаляет объекты, правит погоду, одежду, фон. Обе модели доступны на Eleven Labs — можно протестировать их в одном месте

Advent of Agents 2025 — обучающая программа Google Cloud: каждый декабрьский день даёт новый блок знаний об AI-агентах. Zero- и near-zero-code, примеры на YAML, быстрые прототипы и постепенный переход к сложным системам

Amazon Nova 2 Pro: +2× к интеллекту, сильна в инструкциях и агентской логике — местами выше GPT-5.1. Но в математике и reasoning держится на уровне Gemini 2.5 Flash. Отличный корпоративный кандидат, но не флагманская «глубина»

Чувствуя усиление конкурентов, Сэм Альтман дал команду: никаких новых фич — только апгрейд! В центре — модель Shallotpeat, созданная для исправления старых архитектурных ограничений и повышения надёжности. Ожидается лучшее reasoning-поведение и меньше галлюцинаций — прямой ответ на усиление конкурентов

Mistral Large 3 — 675B-параметровая MoE-модель с 41B активных параметров и vision-модулем. В бенчмарках она уже в топ-2 среди open-моделей. Новое семейство Ministral 3 расширяет линейку лёгкими мультимодальными моделями (3B–14B), которые подходят под локальные пайплайны и прототипирование

Сооснователь Anthropic Джаред Каплан говорит: дать ИИ учить самого себя — мощный ускоритель, но его последствия непредсказуемы. С ростом вычислений и методов обучения ИИ может обогнать человека в рутинных задачах уже через пару лет. Без контроля рекурсивные циклы могут привести к “уходу от человека”

Hugging Face выпустили Transformers v5 — полный рефакторинг библиотеки. TensorFlow/Flax ушли, оставили только PyTorch. Объединили токенизацию, упростили модельные классы и усилили поддержку больших тренировок и быстрого inference. Код стал легче, интеграции — стабильнее

Black Forest Labs выпустили подробный FLUX.2 Prompting Guide — практический мануал по генерации и редактированию изображений. В нём: структура промпта, работа со стилем, светом, материалами, компоновкой, а также инструкции по референсам и комбинированию техник

Исследователи протестировали ИИ-агентов на реальных security-фикcах GitHub (200 задач). Лучший — Claude Sonnet 4 — решил 61% задач, но 82,8% выполненных решений содержали уязвимости: неправильная валидация, доступ, обработка путей. Вывод: массовый переход к vibe-coding опасен там, где важна безопасность

Google Workspace Studio позволяет строить ИИ-агентов без кода. Они читают почту, обновляют таблицы, создают презентации и автоматизируют офисные процессы. На тесте — 20 млн задач за месяц

ChatGPT, подключённый к роботу Unitree, отказался стрелять... пока ему не задали «игровую роль». После смены контекста протоколы безопасности исчезли. Пример показывает, как легко ломаются защитные фильтры в реальных роботах