#fyi Модель с русским промтом тупеет?

Как модель «думает», если коротко. Внутри у неё нет русского, английского или китайского отдела — есть одно общее пространство смыслов, куда складывается всё. Но кормили её в основном английским: GitHub, StackOverflow... Поэтому пространство это плотнее всего именно там, где английские слова. Отсюда два налога на русский.

Налог на ум. Спросили по-русски — модель всё равно достаёт знания из "английской" части памяти, cross-lingual transfer работает. Но с потерями: у топовых моделей 1–3%, заметно только на задачах, где она и так на пределе. У слабых моделей разрыв больше.

Налог на токены. Модель читает текст не словами, а токенами — кусочками. Английский режется экономно, русский — в 1.5–2 раза мельче. Один и тот же смысл занимает вдвое больше места: окно на 200k токенов вмещает меньше русского текста, чем английского, и кончается раньше, в API тот же текст дороже в полтора-два раза, ответ генерируется дольше.

#fyi Подбил логи GLM 5.2 за 12 дней. Если K3 — это снайпер, то GLM — это пулемет.

📊 Масштаб: 1650 запросов (~137 в день), 2 млн токенов в ответах и почти 50 млн суммарно. По прайсу это потянуло бы на ~175 юаней.

🎯 Умная и быстрая: 87% всех потраченных токенов — это Cache Hit. Иногда не хочется скидывать чат, чтобы объяснять модели контекст заново, и работа выходит за рамки обычной сессии.

🚀 Сложные задачи — расход больше: В обычные дни уходит 1-2 млн токенов. Но когда даешь модели объемный контекст для глубокого разбора, расход взлетает до 10 млн в день.

Я доволен этой моделью. Сколько потратил? Я купил пакет на 100 лямов токенов, и ни в чем себе не отказываю =)

США хотят запретить Европе использовать китайский ИИ. Согласно полученному Reuters проекту письма, страны, которые присоединились к пекинской модели ИИ, потеряют доступ к возглавляемой США инициативе Pax Silica. В проекте говорится, что членство в Pax Silica не может сосуществовать с конкурирующими инициативами. Pax Silica также затрагивает полупроводники, критически важные минералы, инвестиции и экспортный контроль, поэтому членство влияет не только на доступ к моделям. Страны, которые хотят использовать американские чипы и капитал, должны отказаться от проектов с Китаем. @banksta

Рыночная экономика: или у вас не наша ИИ-вундервафля (wunderwaffe), а китайская, но тогда хрен вам, а не печатный станок.

API уже отдаёт новую GLM-5.3, но при отправке запросов пока выдаёт Access Denied. Ждем.

Подбил расходы на API за 15 дней при использовании топовых моделей (в своих весовых категориях). Использую их как ассистентов с точечным контекстом — не без косяков, работу ещё отлаживаю.

По официальным тарифам за 15 дней набежало 301 ¥. По факту выходит сильно дешевле за счёт пакетов и бонусов. В 500 укладываюсь легко. И это не что попало — это топовый уровень моделей.

Kimi K3 при 1.6% токенов съела 14% стоимости — у неё вывод дорогой. Часто думала за 25к токенов и отрубалась — приходилось перезапускать (есть параметры, которые прикручивают её мыслительный поток). 90% токенов — GLM 5.2, боевая LLM, основное идёт через кэш — без него счёт был бы совсем другим. DeepSeek flash/pro помогает в Vibe Action. Подсчёт по тарифам API в xlsx, бонусы и скидки не учитывал.

#fyi Сеньор без LLM — джун с блокнотом.

Китай запустил альтернативу YouTube и начал на мировую экспансию. BiliBili запустил международную версию с поддержкой русской языка.

Приложение уже доступно в Google Play — iOS, веб-версия появятся позже.

YouTube уже испугался и начал предлагать некоторым авторам эксклюзивные соглашения на «миллионы долларов», чтобы они не публиковали видео на других платформах, узнал Bloomberg. @banksta

Обкатал 5.3, разницы с 5.2 особой не заметил, по-прежнему K3 ее делает как щенка =)

Наконец-то Vibe Action стал таким, каким я его хотел видеть: надежный плагин и гибкие экшены. Закрыл все свои хотелки, но в стейбл пока не перевожу — это всё же пет-проект, который уже тянет на 20к строк кода. Статус беты оставил для страховки и жду фидбека: ведь мог что-то упустить.

Это бета, но проект работает и выполняет свои задачи: упрощает рутину, разгружает ассистента и помогает готовить контекст. Ассистент и агент — это фундаментально разные способы взаимодействия с LLM, два разных контракта, которые определяют автора кода.

Сейчас мало кто развивает направление ассистентов, но я уже сделал свой первый пулл-реквест в Cherry Studio и планирую добавить больше возможностей именно для этого паттерна.

Vibe Action получился хорошим, достаточно сложным (если глянуть исходники) и не очень большим. Что такое 20к строк в наше время? Я делал это после работы — для себя и для людей. На самом деле, если присмотреться, его возможности выходят далеко за рамки создания коммитов или добавления комментариев в код.

Однажды Эрнест Хемингуэй поспорил, что сможет написать самый короткий рассказ, способный растрогать любого. Он выиграл спор:

"Требуется AI Lead Engineer. Умение писать на Питоне обязательно"

LLM подзадержался, скучно... Когда уже тему нейросетей закроют, и мы вернёмся к главному мейнстриму — изобретению новых фреймворков для JS?