📱 Мультимодальная модель на 35 млрд параметров работает на iPhone. Как?
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
OpenBMB представила MiniCPM-V 4.7: старшую MoE-модель 35B-A3B и компактную версию 1B для локальной работы с изображениями и видео.
Главная технология: LES, Lookahead Expert Scheduling. Система заранее предсказывает, какие эксперты понадобятся следующему слою, и подгружает их веса, совмещая загрузку с вычислениями.
Прогноз управляет загрузкой, а не ответом модели. Если нужного эксперта не предсказали, его всё равно загружают и используют. Исходная маршрутизация сохраняется.
По замерам команды, оптимизированный запуск даёт 13+ токенов/с на iPhone 17 Pro Max. Помимо LES используются послойная квантизация и спекулятивная генерация DSpark.
Нюанс с «3 ГБ памяти»: это не означает, что все 35 млрд параметров помещаются в RAM. Часть весов остаётся в накопителе и загружается по необходимости.
Ещё добавили сжатие визуальных токенов 4×/16× и Self-Replay Fine-Tuning для адаптации с меньшим забыванием прежних навыков. Старшая модель доступна под Apache 2.0.
https://github.com/OpenBMB/MiniCPM-V
https://huggingface.co/openbmb/MiniCPM-V-4.7-35B-A3B
🔥24❤22👍18💯15😁13👏9🎉7🤔1
🛡 Anthropic усложнила копирование Claude через его ответы
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.
Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.
Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.
Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.
Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.
Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.
https://www.anthropic.com/research/distillation-defenses
❤29🔥28👍24💯22😁21🤔18🎉15👏7🥴2😢1🤣1
ИИ-агент отвечает настолько точно, насколько готовы ваши данные. Как понять, что они готовы?
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
Разберёмся 23 октября в Москве на Fine Day 2026, офлайн-конференции о переходе от self-service BI к AI-native аналитике.
💡 В программе:
• дискуссия с руководителями аналитики ПИК, ДИКСИ, СИБУР и АвтоВАЗ: что нужно данным и командам для работы с ИИ
• миграция с Qlik и Power BI на FineBI, в том числе с помощью ИИ-агентов
• BI-система vs LLM: какие задачи кому отдавать, опыт Мосбиржи
демо FineBI 7.0 и ИИ-агентов Dora, можно принести свой сценарий
Участие бесплатное. После регистрации получите чек-лист «Готовы ли ваши данные к ИИ-агенту?» из 25 вопросов.
👉 Регистрация: https://clck.ru/3WRtdB
Реклама. ООО «ГлоуБайт Аналитические Решения». ИНН 9729274905. erid: 2RanynYbiiP
❤10😁10👏7🔥6🎉6💯6🤔5👍4🤣2
🚀 Google представила Gemini 4 Argon, свою новую флагманскую ИИ-модель
Главный акцент на сложных задачах, которые требуют длительной работы и многоэтапного планирования.
Три ключевых направления:
▪️ Программирование: разработка, отладка, рефакторинг и работа с большими кодовыми базами.
▪️ Бизнес: автоматизация сложных процессов, финансовые исследования и анализ юридических документов.
▪️ Кибербезопасность: автономный поиск, проверка и исправление уязвимостей.
Модель поддерживает генерацию до 1 млн токенов за один ответ и рассчитана на продолжительные агентные задачи.
Главный акцент на сложных задачах, которые требуют длительной работы и многоэтапного планирования.
Три ключевых направления:
▪️ Программирование: разработка, отладка, рефакторинг и работа с большими кодовыми базами.
▪️ Бизнес: автоматизация сложных процессов, финансовые исследования и анализ юридических документов.
▪️ Кибербезопасность: автономный поиск, проверка и исправление уязвимостей.
Модель поддерживает генерацию до 1 млн токенов за один ответ и рассчитана на продолжительные агентные задачи.
😁18👍11💯10❤7🎉4🔥3👏3🤔3❤🔥2
Indra: OCR-модель всего на 1M параметров, которая рвёт PaddleOCR и Tesseract по скорости
Вик Паручури, автор Marker и Surya, выпустил Indra, крошечную OCR-модель на 1 миллион параметров. Главная фишка в том, что при таком размере она гоняет текст прямо на CPU и делает это очень быстро.
Цифры такие. На CPU Indra обрабатывает 49 страниц в секунду. Это в 11 раз быстрее PaddleOCR и в 17 раз быстрее Tesseract. При этом по качеству она тоже впереди: на тексте из OmniParseBench у неё 41,3 против 35,8 у PaddleOCR и 19,3 у Tesseract.
Модель не только распознаёт текст, но и отдаёт полную разметку страницы и bounding box по строкам, так что её удобно ставить в пайплайны обработки документов.
Миниатюрный размер означает, что её можно запускать локально без GPU и гонять большие объёмы сканов дёшево, а не платить за облачный OCR по страницам.
Модель: https://huggingface.co/datalab-to/indra-ocr
Код: https://github.com/datalab-to/indra
Блог: https://datalab.to/blog/indra-ocr
Вик Паручури, автор Marker и Surya, выпустил Indra, крошечную OCR-модель на 1 миллион параметров. Главная фишка в том, что при таком размере она гоняет текст прямо на CPU и делает это очень быстро.
Цифры такие. На CPU Indra обрабатывает 49 страниц в секунду. Это в 11 раз быстрее PaddleOCR и в 17 раз быстрее Tesseract. При этом по качеству она тоже впереди: на тексте из OmniParseBench у неё 41,3 против 35,8 у PaddleOCR и 19,3 у Tesseract.
Модель не только распознаёт текст, но и отдаёт полную разметку страницы и bounding box по строкам, так что её удобно ставить в пайплайны обработки документов.
Миниатюрный размер означает, что её можно запускать локально без GPU и гонять большие объёмы сканов дёшево, а не платить за облачный OCR по страницам.
Модель: https://huggingface.co/datalab-to/indra-ocr
Код: https://github.com/datalab-to/indra
Блог: https://datalab.to/blog/indra-ocr
🔥31❤13👍9👏7🎉6💯6😁5🤔1
Компания сообщила, что обнаружила в одном из своих офисов сложное записывающее устройство. Разобраться в нём помогли собственные модели: с их помощью удалось понять, что это за устройство и откуда оно взялось, и выяснить, что его за несколько дней до этого подбросил конкретный сотрудник.
Дело передали в ФБР, и агенты с прокурорами быстро произвели арест. Расследование продолжается, компания обещает и дальше содействовать.
Пока нет никаких признаков того, что этот человек получал неправомерный доступ или выгружал веса моделей, исходный код или данные клиентов. Сотрудника уволили.
В компании подчёркивают, что защита технологий, данных и людей для них вопрос национальной важности, а их программа безопасности рассчитана на весь спектр угроз, от инсайдеров до киберпреступников и государств. Этот случай там приводят как пример того, как сам ИИ помогает отражать сложные угрозы безопасности.
https://x.com/Machinelearrn/status/2110114942682608072
Please open Telegram to view this post
VIEW IN TELEGRAM
🤣18❤8💯8👍7😁5🔥2👏2🤔2🎉2
Liquid AI представила LFM2.5-24B-A2B, самую крупную модель в семействе LFM2.5. Это агентная reasoning-модель, рассчитанная на то, чтобы работать локально на ноутбуке или ПК внутри популярных агентных обвязок, без облака и API-ключей.
Характеристики:
24B параметров всего, но только 2B активных на токен за счёт MoE
Контекст расширен до 131K токенов
Словарь на 128K токенов
33T токенов на предобучении
Открытые веса, базовая и пост-тренированная версии, на Hugging Face
На агентных задачах и работе с инструментами LFM2.5-24B-A2B идёт вровень с Qwen3.6-35B-A3B, у которой примерно на 50% больше и общих, и активных параметров.
Модель заточена под эффективный инференс где угодно и с первого дня поддерживает llama.cpp и GGUF, MLX для Apple Silicon, vLLM, SGLang и ONNX. Для примера, на Apple M5 Max она выдаёт 184 токена в секунду, а на одной Nvidia B300 при высокой конкуренции переваливает за 21 тысячу выходных токенов в секунду.
В пост-тренинг входит RL прямо внутри агентных харнессов, включая Hermes Agent от Nous Research и opencode. Модель учится через вызовы инструментов и многошаговые диалоги, а не только на статичных данных. В демо открытый десктопный агент Hermes крутится на LFM2.5-24B-A2B целиком на одном ноутбуке.
Блог: https://liquid.ai/blog/lfm2-5-24b-a2b
Веса: https://huggingface.co/LiquidAI/LFM2.5-24B-A2B
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7🔥6🤔6❤4🎉3👏2🥰1💯1
🖥️ Какой ИИ запускать локально? Подборка под разный объём видеопамяти. Актуалочка на Октябрь 2026.
4–8 ГБ VRAM
Компактные модели LiquidAI LFM2.5, например 2.6B, для локального помощника с небольшими требованиями к ресурсам.
https://huggingface.co/LiquidAI/LFM2.5-2.6B
8–16 ГБ VRAM
Underdog Saluki 27B: сжатая версия Qwen3.8-27B с настройкой под вызов инструментов. Файл весов занимает 7,89 ГБ, но для работы потребуется дополнительная память под контекст и вычисления.
https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0
Для задач выбора действий и автоматизации также стоит посмотреть Clef-Flash от Cloudflare.
https://huggingface.co/Cloudflare/clef-flash
16–32 ГБ VRAM
Qwen3.8-27B в подходящей квантизации. Вариант для кода, работы с изображениями и агентных задач.
https://huggingface.co/Qwen/Qwen3.8-27B
32–96 ГБ VRAM + большой запас RAM
Можно рассматривать Qwen3.8-Flash-Next с частичной выгрузкой весов в оперативную память. Скорость будет зависеть от железа и объёма выгрузки.
https://huggingface.co/Qwen/Qwen3.8-Flash-Next
96–192 ГБ VRAM
Крупные MoE-модели: Qwen3.8-Flash-Next и GLM-5.3-Flash. Нужны подходящая квантизация и расчёт памяти под выбранный контекст.
https://huggingface.co/zai-org/GLM-5.3-Flash
💡 Диапазоны ориентировочные. Размер весов не равен потреблению памяти: контекст, KV-кэш и параллельные запросы тоже занимают место.
4–8 ГБ VRAM
Компактные модели LiquidAI LFM2.5, например 2.6B, для локального помощника с небольшими требованиями к ресурсам.
https://huggingface.co/LiquidAI/LFM2.5-2.6B
8–16 ГБ VRAM
Underdog Saluki 27B: сжатая версия Qwen3.8-27B с настройкой под вызов инструментов. Файл весов занимает 7,89 ГБ, но для работы потребуется дополнительная память под контекст и вычисления.
https://huggingface.co/ConwayResearch/Underdog-Saluki-27B-1.0
Для задач выбора действий и автоматизации также стоит посмотреть Clef-Flash от Cloudflare.
https://huggingface.co/Cloudflare/clef-flash
16–32 ГБ VRAM
Qwen3.8-27B в подходящей квантизации. Вариант для кода, работы с изображениями и агентных задач.
https://huggingface.co/Qwen/Qwen3.8-27B
32–96 ГБ VRAM + большой запас RAM
Можно рассматривать Qwen3.8-Flash-Next с частичной выгрузкой весов в оперативную память. Скорость будет зависеть от железа и объёма выгрузки.
https://huggingface.co/Qwen/Qwen3.8-Flash-Next
96–192 ГБ VRAM
Крупные MoE-модели: Qwen3.8-Flash-Next и GLM-5.3-Flash. Нужны подходящая квантизация и расчёт памяти под выбранный контекст.
https://huggingface.co/zai-org/GLM-5.3-Flash
💡 Диапазоны ориентировочные. Размер весов не равен потреблению памяти: контекст, KV-кэш и параллельные запросы тоже занимают место.
👍8🔥7❤6💯2👏1🤔1