Заметки LLM-энтузиаста
598 subscribers
151 photos
18 videos
1 file
182 links
Дмитрий Жечков @djdim
архитектор в Yandex Cloud,
ex. VMware NSX specialist, ex. Cisco SE

Здесь пишу свои заметки по LLM (большим языковым моделям) и AI-разработке.

Это личное мнение и не отражает официальную позицию компании, в которой я работаю.
Download Telegram
🆕 Новые бесплатные AI-модели с контекстом 2 млн токенов

На openrouter.ai стали доступны две новые модели: Sonoma Dusk Alpha и Sonoma Sky Alpha.

Обе работают бесплатно и поддерживают контекстное окно в 2 миллиона токенов.

Где протестировать:

1️⃣ Через любой бесплатный AI-кодер (Roo/Cline/Kilo/...), где можно указать openrouter в качестве провайдера (на requesty.ai пока нет)

Внутри Kilo есть свой провайдер Kilo Code (но модели все равно в названии имеют openrouter: openrouter/sonoma-sky-alpha и openrouter/sonoma-dusk-alpha)

2️⃣ Напрямую через OpenRouter API

Что известно:

• Некоторые эксперты предполагают, что за моделями стоит xAI
• Другие считают их новыми версиями Gemini 3
• Модели собирают данные промптов для улучшения работы ⚠️

Особенности:

• Бесплатное использование 💰
• Большой контекст (2M токенов) 📊
• Возможны ограничения по скорости запросов ⏱️

Рекомендую самостоятельно протестировать модели и сравнить их качество и производительность с другими моделями, например, такой трендовой как Grok Code Fast 1.

Я тестировал, используя Kilo Code на примере игры в сапера. Результаты можно посмотреть в комментариях.

Я использовал в Kilo Code режимы Architect и Code и один и тот же промпт: Создай, пожалуйста, игру Сапер, используя JS, CSS и HTML.

Мой выбор из трех упомянутых выше моделей: sonoma-dusk-alpha
Она лучше всех показала себя при решении этой простой задачи:
1) Короткий, но по делу "To-Do" лист
2) Быстрое написание кода
3) Рабочий прототип за пару десятков секунд, в котором ничего не надо было исправлять.

@llm_notes

#llm #free #large_context #sonoma #openrouter #kilo
🔥4