Очередной конкурент для Gemma 4 на основе Qwen 3.5 для запуска на машинках с 24-32гб памяти

У китайцев на работе начался крысиный тренд — они пытаются использовать ИИ, чтобы уволить своих коллег и сохранить свои рабочие места.

Принцип такой: сотрудники обучают нейронки выполнять задачи своих коллег, а потом идут к начальству предлагают заменить их на ИИ. То же самое делают и сами корпорации — пытаются обучить нейросети, чтобы сэкономить на рабочей силе.

Из-за распространения тенденции умельцы даже изобрели инструмент сопротивления — 反蒸馏 Skill (anti-distill). Сервис добавляется в Claud и мешает нейронке качественно писать тексты и выполнять работу. По итогу она выдаёт с виду красивый текст, который на практике нельзя использовать.

Google поможет вам бесплатно зафайнтьюнить Gemma 4. Было бы чему учить ))

Начинается..

https://t.me/seeallochnaya/3512

Показатели, конечно, - перебор, но то, что модельки для домашнего использования умнеют, это точно

https://t.me/data_analysis_ml/4954

Очень любопытный видосик для тех, кто запускает LLM на базовых mac mini. Думаю, что сам подход пригодится для моделей любого размера - было бы железо помощнее.

https://www.youtube.com/watch?v=XLlQDfhyBjc

Как всегда, надо пробовать. Обещания отличные..

https://t.me/machinelearning_interview/2685

Сегодня Anthropic запустила в открытую бету Claude Managed Agents - хостируемый сервис для запуска долгоживущих агентов на инфраструктуре Claude Platform.

Если коротко: вы описываете задачи, инструменты и ограничения, а всё остальное берет на себя платформа.

Самое интересное спрятано в инженерном блоге, где команда описала архитектуру. Они пришли к ней через боль. Первая версия упаковывала всё в один контейнер: и сессию, и harness (цикл вызовов модели), и sandbox. Контейнер превращался в "питомца" - если он падал, сессия терялась. Дебажить можно было только через шелл внутри контейнера, а там лежали пользовательские данные. Когда клиенты хотели подключить свой VPC, им приходилось пирить сети.

Решение: декомпозиция на три интерфейса. Session - append-only лог всех событий, живущий отдельно от всего. Harness - stateless оркестратор, который при падении просто перезапускается, подтягивает лог через getSession(id) и продолжает с последнего события. Sandbox - среда исполнения, к которой harness обращается как к обычному инструменту через execute(name, input) → string. Каждый компонент стал "скотом", а не "питомцем" в классической инфраструктурной метафоре.

Отдельно стоит сказать про безопасность. В монолитной архитектуре prompt injection мог добраться до токенов, лежащих в том же контейнере. Теперь sandbox физически изолирован от credentials. Git-токены прошиваются в remote при инициализации, OAuth хранится в vault за прокси. Агент никогда не видит реальных ключей.

По перформансу результаты заметные: p50 TTFT (время до первого токена) упал на 60%, p95 - на 90 с лишним процентов. Контейнер теперь поднимается по требованию через tool call, а если задача не требует sandbox, инференс стартует сразу.

Архитектура поддерживает "many brains, many hands": один агент может управлять несколькими sandbox-ами, а несколько агентов могут передавать окружения друг другу. Сессия при этом выступает как объект контекста за пределами context window модели - harness может запрашивать срезы через getEvents(), трансформировать их и управлять cache hit rate.

Notion уже в закрытой альфе: команды делегируют задачи Claude прямо из рабочего пространства, десятки задач выполняются параллельно.

Философия проекта прямо проговаривается в блоге: это мета-harness. Anthropic намеренно не фиксирует конкретную реализацию оркестрации, потому что она устаревает с каждым поколением моделей. Они уже столкнулись с этим, когда "context anxiety" из Sonnet 4.5 исчез в Opus 4.5, а workaround превратился в мертвый код. Поэтому ставка на стабильные интерфейсы, за которыми реализация меняется свободно - ровно та же идея, что у POSIX: read() работает одинаково для диска из 70-х и современного SSD.

https://www.anthropic.com/engineering/managed-agents