Если выбираете для себя decision модель - очень любопытный сайт
https://decisionmodels.io

Посмотрите, что вообще на рынке предлагают. Основная масса моделей на Qwen 3.8 27B или Gemma 4, но есть и приличные модельки на 9В или 4В - такие я себе смогу поставить локально

Как ни странно, есть и другие архитектуры, кроме LLM. В частности, RAG очень часто делается на другой архитектуре - BERT. А маленькие модельки типа той, о которой речь ниже, нужны для быстрой индексации содержания.

Бесплатный DeepSeek Flash. Для большинства ситуаций окна в 200К хватает, тот же ChatGPT даже после рассказов об увеличении окна продолжает автокомпакт на весьма низких уровнях. Так что круто, надо пользоваться

Ну, кстати, прикольно. Я в работе с ChatGPT использую
medium режим, но даже и он бесит своей медлительностью. Но зато расход токенов разумный. На той же Астре в том же режиме лимит уходит за день.

Было бы интересно сравнить разные режимы и разные модели.

Другое дело, что все православные решения, мягко говоря, очень дорогие

Еще немного новостей про decision модели.

Во-первых, Jev теперь мультимодальный - читает картинки. Интересно, даст ли эффект, если прикрутить его к распознаванию текстов и разрешения конфликтов, когда разные программы видят разное.. попробую.

Во-вторых, я слежу за компанией Subquadratic, которая все обещает рассказать всем как решила проблему квадратичного роста ресурсов при росте контекста (это основная проблема его ограничения).

Сейчас они выпустили аналог Jev и гововы принимать у него почти 400К токенов. Не знаю, будет ли это кому-то прямо полезно, но может быть и пригодится. Все жду от них "нормальной" LLM-ки

Подал заявку на подключение к GLM-Legal. Даром что z.ai выпускает опенсорсные модели, модель для более узкого рынка не открыта - раздается по запросам. Очень интересно, как она будет проявлять себя на нашем законодательстве в сравнении с более умными, но универсальными моделями.

Заявку можно оставить на https://z.ai/consultation/legal

Казалось бы, чем нас можно удивить. Но Маску прямо-таки удалось. Охренеть.

Ну и раз уж на то пошло, Grok bot у него хороший вышел. Я буду пользоваться и далье. Надеюсь, что с курсоровской командой они и саму модель дотянут то топ-уровня..

Опенсорсный MS Office совсем близко. Но круто здесь не то, что у нашего обычного офиса появится быстрая бесплатная замена.

Но круче здесь другое. Если вы делали с ИИ документы в ворде или презентацию, то замечали, как это все небыстро, и как непросто эти документы правятся - нужно же, чтобы текст не вылезал за боксы, отступы выровняны и так далее.

Проблема здесь в том, что презентация делается на питоне а лучше даже на typescript (так в скиллах OpenAI и Anthropic). Дальше он переводит ее в pptx, делает из него картинку, смотрит и правит.

А с этой новой штукой иначе. В этот офис встроен МСР, который позволяет модели не программировать на питоне, а делать картинки сразу в виде элементов паверпойнт, и получать оттуда картинки, по которым уже делается правка.

Так должно получаться быстрее и экономнее. Вордовское приложение из этого пакета я уже скачал пару дней назад, но пожалуй скачаю весь пакет и буду пробовать.

Какой-то аттракцион неслыханной щедрости. Для большинства офисных задач бесплатных DeepSeek Flash, GLM Flash хватит. А вот программировать лучше на чем-то подороже.

Бесплатный аналог ElevenLabs - если вам нужно что-то создать с голосом - надиктовать аудиокнигу, сделать дубляж видео и пр.

Ну, кстати - подключил эти бесплатные модели к Codex (да платные подписки, которые есть тоже - тот же Grok). Теперь буду переключать субагентов в кодексе на бесплатные варианты, чтобы экономить основную подписку. Заодно сравню, какие модели справляются лучше, да и справляются ли вообще.

Кстати, модели подключил в своих родных харнессах типа Grok build, Z.code, DeepSeek Harness и через OpenCode.

Обновили рабочую лошадку и самую популяруню модель (судя по потреблению токенов на OpenRouter) - DeepSeek Flash. Она, безусловно, проигрывает Opus и Sol, это модель на порядок меньшего размера, которую можно развернуть и дома. И разница с топ-моделями не так уж и велика.