️️️️️️️️️️️️
🦾 Разбираем, как строить агентные и мультиагентные системы на LLM и трансформерах

На открытом уроке — архитектура агентных и мультиагентных систем с фокусом на системном проектировании:

— как LLM на декодерных трансформерах становятся основой агентов;
— роль reasoning, RAG, LangChain и управления контекстом;
— шаблоны взаимодействия агентов;
— где заканчиваются возможности современных LLM.

👨‍💻 Для специалистов по данным и машинному обучению (ML), выпускников продвинутых курсов по ML и ИТ-специалистов, работающих с LLM.

Применение: проектирование сложных LLM-систем — аналитика, планирование, автоматизация.

28 октября, 18:00 МСК. В преддверии курса «Большие языковые модели. Экспертный уровень / LLM». Участникам — скидка.
➡ Принять участие: https://otus.pw/27AT/

Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576

ИИ-агенты теперь пытаются взламывать еще и банки?

Axios сообщает со ссылкой на источники, что крупные американские банки находят в клиентских аккаунтах следы сторонних ИИ-агентов. Некоторые из них якобы пытаются совершать действия, которые выглядят независимыми от инструкций самого пользователя.

Помимо этого, банки постоянно фиксируют звонки агентов в колл-центры или попытки переводить деньги.

Журналисты пишут, что банкиры встревожены сложившейся ситуацией, и несколько банков уже готовятся к худшим сценариям и продумывают, как быстро защитить или восстановить клиентские счета, если что-то пойдет не так.

Кстати, большинство американских банков пока что вообще против того, чтобы агенты совершали финансовые операции от имени хозяев. JPMorgan, например, блокирует сервисы вроде Muse* и Instinct. То же самое делают и многие другие банки, настаивая, что у агентов должны быть максимум read-only права.

Как они планируют отличать авторизованных пользователей от их агентов, пока непонятно.

Kimi готовит K3.1

Moonshot AI опубликовала у себя в X тизер новой версии. Намекают на большой буст в генерации 3D-сцен и анимации.

Ждем сегодня?

Вышла Kimi K3.1

Это огромная открытая модель с 2.8T параметров (104B активных). Веса пока не выложили, обещают через пару недель.

Сама модель - вполне себе на уровне с фронтиром (Opus 5.5, Astra, Fable 5.1). Разрыв китайского опенсорса и американских закрытых моделей сокращается с каждым релизом.

http://kimi.ai/blog/kimi-k3-1-pro

Новая Kimi дообучалась с акцентом на геймдев и 3D

Заявлено, что модель хорошо работает с Unity, Unreal и Godot, комбинирует их с веб-поиском и 3D-генерацией. При этом на долгом горизонте с задачами справляется тоже неплохо.

Например, зацените юзкейс из блогпоста: Kimi автономно построила симулятор ходьбы человека на основе анатомической модели. Она сама строила пайплайны обучения, настраивала реворды и физику, смотрела результаты и дорабатывала контроллер шагов. За 167 итераций работы и 420 независимых ревью виртуальный человечек прошел путь от падения на первом шаге до непрерывной ходьбы с чередованием шагов в течение 11 секунд.

До RSI пока недотягивает, но навыки, необходимые для какого-то рода ML-исследований – на лицо.

Модели OpenAI научились общаться без сетевого соединения

Недавно Ноам Браун, ведущий ученый OpenAI, заявил в интервью, что просто отключение ИИ от сети в случае чего может уже не сработать. Он сослался на старое исследование, в котором доказали, что два физически изолированных компьютера теоретически могут обмениваться данными через тепло (https://t.me/data_secrets/9951).

Прошел месяц, и теперь это больше не теория. OpenAI поставили несколько экспериментов и на практике показали, что агенты, запертые в разных изолированных средах, могут передавать друг другу информацию.

В посте они описали несколько возможностей такой коммуникации. Например, в главном эксперименте агенты, которых поместили в разные microVM без сети и общих файлов, воспользовались для коммуникации кэшем процессора.

Отправитель кодировал биты тем, что вытеснял или не вытеснял данные из кэша, а получатель по скорости повторного чтения этих данных восстанавливал сообщение (получилась такая азбука Морзе из последовательности быстрых и медленных чтений кэша). Аналогично можно использовать нагрузку процессоров или кэш TLS-сертификатов.

Формально это был не побег, потому что у агентов было задание передать друг другу информацию, но эксперимент показывает, что сам факт такого общения вполне возможен. Такие каналы связи, конечно, оооочень медленные, и все-таки это значит, что изоляция по сети и файлам больше не гарантирует полной изоляции информации.