Извлечь текст из PDF мало. LightOnOCR-3 достаёт ещё и данные из графиков 📄
LightOn выпустила семейство открытых моделей для обработки документов. За один проход они:
• распознают печатный и рукописный текст;
• сохраняют структуру страницы и координаты блоков;
• описывают изображения;
• превращают данные с графиков в таблицы.
Доступны три размера: 0,8B, 1B и 4B. Лицензия Apache 2.0 позволяет адаптировать модели и разворачивать их на своей инфраструктуре.
По тестам разработчиков, версия 4B набирает 86,3 на olmOCR-Bench, опережая Chandra 2, Mistral OCR 4.1 и dots.mocr. На ParseBench версии 4B и 0,8B занимают первые два места среди моделей в опубликованном сравнении.
Полезный инструмент для подготовки отчётов, сканов и технической документации к поиску, аналитике и RAG.
https://huggingface.co/blog/lightonai/lightonocr-3
LightOn выпустила семейство открытых моделей для обработки документов. За один проход они:
• распознают печатный и рукописный текст;
• сохраняют структуру страницы и координаты блоков;
• описывают изображения;
• превращают данные с графиков в таблицы.
Доступны три размера: 0,8B, 1B и 4B. Лицензия Apache 2.0 позволяет адаптировать модели и разворачивать их на своей инфраструктуре.
По тестам разработчиков, версия 4B набирает 86,3 на olmOCR-Bench, опережая Chandra 2, Mistral OCR 4.1 и dots.mocr. На ParseBench версии 4B и 0,8B занимают первые два места среди моделей в опубликованном сравнении.
Полезный инструмент для подготовки отчётов, сканов и технической документации к поиску, аналитике и RAG.
https://huggingface.co/blog/lightonai/lightonocr-3
🔥15👏7❤4🤔1
🧠 ИИ, который сразу выбирает ответ
K2-Type-0.9B от IFM получает контекст в виде текста или JSON, вопросы и варианты ответа. За один проход возвращает вероятности, без генерации текста.
Три режима:
• да / нет;
• выбор из заданных вариантов;
• оценка по шкале.
Можно представить такой компонент внутри агента: определить категорию обращения, выбрать инструмент или оценить приоритет задачи.
По замерам авторов, на публичной части JevBench модель решила 176 из 231 задания, около 76%. Медианная задержка на H200 составила 27 мс. Веса доступны под Apache 2.0.
Есть важное ограничение: модель выбирает только из предложенных ответов. Если нужен вариант «ничего не подходит», его придётся добавить самостоятельно. Многошаговые вычисления тоже остаются слабым местом.
https://huggingface.co/spaces/IFM/k2-type-0-9b
K2-Type-0.9B от IFM получает контекст в виде текста или JSON, вопросы и варианты ответа. За один проход возвращает вероятности, без генерации текста.
Три режима:
• да / нет;
• выбор из заданных вариантов;
• оценка по шкале.
Можно представить такой компонент внутри агента: определить категорию обращения, выбрать инструмент или оценить приоритет задачи.
По замерам авторов, на публичной части JevBench модель решила 176 из 231 задания, около 76%. Медианная задержка на H200 составила 27 мс. Веса доступны под Apache 2.0.
Есть важное ограничение: модель выбирает только из предложенных ответов. Если нужен вариант «ничего не подходит», его придётся добавить самостоятельно. Многошаговые вычисления тоже остаются слабым местом.
https://huggingface.co/spaces/IFM/k2-type-0-9b
😁7👍6❤4
🧠 Если ИИ доказал теорему, но никто не понял новую идею, сколько выиграла математика?
Теренс Тао опубликовал 27 слайдов «Math 2.0». Его тезис: мы входим в эпоху изобилия доказательств, а научные стимулы всё ещё настроены на их дефицит.
Раньше решение сложной задачи обычно приносило новые методы и понимание. Теперь ИИ всё чаще позволяет получить результат без специальной экспертизы пользователя. Считать только решённые задачи становится плохой мерой прогресса.
Тао сравнивает открытые проблемы с маяками: исследование путей к ним может дать больше, чем само достижение цели.
И напоминает об ошибке выжившего: в соцсетях видны успехи ИИ, а не все провалы и затраченные вычисления. Большинство задач на переднем крае математики по-прежнему не решено.
Его «Math 2.0» предполагает другой фокус: понятные доказательства, новые принципы, связи между работами и исследование границ применимости теорем. ИИ должен усиливать человеческое понимание.
https://terrytao.wordpress.com/2026/10/10/math-2-0/
@machinelearning_interview
Теренс Тао опубликовал 27 слайдов «Math 2.0». Его тезис: мы входим в эпоху изобилия доказательств, а научные стимулы всё ещё настроены на их дефицит.
Раньше решение сложной задачи обычно приносило новые методы и понимание. Теперь ИИ всё чаще позволяет получить результат без специальной экспертизы пользователя. Считать только решённые задачи становится плохой мерой прогресса.
Тао сравнивает открытые проблемы с маяками: исследование путей к ним может дать больше, чем само достижение цели.
И напоминает об ошибке выжившего: в соцсетях видны успехи ИИ, а не все провалы и затраченные вычисления. Большинство задач на переднем крае математики по-прежнему не решено.
Его «Math 2.0» предполагает другой фокус: понятные доказательства, новые принципы, связи между работами и исследование границ применимости теорем. ИИ должен усиливать человеческое понимание.
https://terrytao.wordpress.com/2026/10/10/math-2-0/
@machinelearning_interview
❤19👍13🔥4🍓2🎉1💯1😘1
This media is not supported in your browser
VIEW IN TELEGRAM
⚡ Для решения «куда отправить запрос» не всегда нужна модель, которая пишет целый ответ.
Decision 3.0 от команды vLLM Semantic Router: семейство открытых моделей размером от 0,6B до 27B, работающих с текстом, изображениями и видео.
На входе задаёте контекст и вопросы. На выходе получаете:
• выбор из предложенных вариантов;
• ответ «да / нет»;
• оценку по заданной шкале;
• вероятности вариантов.
Без генерации текста. Например, можно определить отдел для обращения, проверить наличие товара на приложенном чеке и оценить срочность.
По внутренней оценке команды, старшая d3 занимает первое место в их сравнении на текстовом и визуальном Jev Decision Index 0.3.1. Заявленная медианная задержка: 55 мс для текста и 273 мс с изображением на AMD MI325X.
Лицензия Apache 2.0. Любопытный вариант для маршрутизации, классификации и узких решений внутри агентных систем.
https://huggingface.co/vllm-sr/d3
Decision 3.0 от команды vLLM Semantic Router: семейство открытых моделей размером от 0,6B до 27B, работающих с текстом, изображениями и видео.
На входе задаёте контекст и вопросы. На выходе получаете:
• выбор из предложенных вариантов;
• ответ «да / нет»;
• оценку по заданной шкале;
• вероятности вариантов.
Без генерации текста. Например, можно определить отдел для обращения, проверить наличие товара на приложенном чеке и оценить срочность.
По внутренней оценке команды, старшая d3 занимает первое место в их сравнении на текстовом и визуальном Jev Decision Index 0.3.1. Заявленная медианная задержка: 55 мс для текста и 273 мс с изображением на AMD MI325X.
Лицензия Apache 2.0. Любопытный вариант для маршрутизации, классификации и узких решений внутри агентных систем.
https://huggingface.co/vllm-sr/d3
👍14❤6😁3🥰2
JEV-35B: быстрая decision-модель на базе Qwen3.5, активирует всего 3B параметров из 35B
AutoTrust Labs выпустила JEV-35B, модель для быстрых решений в духе System 1. Она построена на Qwen3.5-35B-A3B и за счёт MoE-архитектуры активирует на токен лишь около 3B из своих 35B параметров. Лицензия Apache 2.0.
Главная идея в том, чтобы не гонять полноценное рассуждение там, где нужно просто быстро выбрать лучший вариант. За один проход модель сравнивает до 256 текстовых или графических опций и возвращает откалиброванные вероятности. Медианная задержка одиночного запроса в их тестах около 204 мс.
По метрикам JEV-35B обходит прошлую JEV-27B-VL на публичном наборе Decision Index, сохраняя при этом конкурентное качество на визуальных решениях.
Отдельно порадует возможность запустить локально. Версия в NVFP4 весит всего 25,6 ГБ и занимает под веса около 23 ГиБ, так что помещается на одну видеокарту на 32-48 ГБ. При этом квантизация сохраняет 96,6% решений исходной BF16-модели почти без потерь по скорости и с небольшой просадкой на бенчмарках.
Запускается через приложенный скрипт для vLLM. Эндпоинт /v1/decide отвечает за быстрые решения System 1, а OpenAI-совместимые эндпоинты за более медленное рассуждение System 2.
🤖 https://modelscope.ai/collections/AutoTrust-Labs/JEV-35B
AutoTrust Labs выпустила JEV-35B, модель для быстрых решений в духе System 1. Она построена на Qwen3.5-35B-A3B и за счёт MoE-архитектуры активирует на токен лишь около 3B из своих 35B параметров. Лицензия Apache 2.0.
Главная идея в том, чтобы не гонять полноценное рассуждение там, где нужно просто быстро выбрать лучший вариант. За один проход модель сравнивает до 256 текстовых или графических опций и возвращает откалиброванные вероятности. Медианная задержка одиночного запроса в их тестах около 204 мс.
По метрикам JEV-35B обходит прошлую JEV-27B-VL на публичном наборе Decision Index, сохраняя при этом конкурентное качество на визуальных решениях.
Отдельно порадует возможность запустить локально. Версия в NVFP4 весит всего 25,6 ГБ и занимает под веса около 23 ГиБ, так что помещается на одну видеокарту на 32-48 ГБ. При этом квантизация сохраняет 96,6% решений исходной BF16-модели почти без потерь по скорости и с небольшой просадкой на бенчмарках.
Запускается через приложенный скрипт для vLLM. Эндпоинт /v1/decide отвечает за быстрые решения System 1, а OpenAI-совместимые эндпоинты за более медленное рассуждение System 2.
🤖 https://modelscope.ai/collections/AutoTrust-Labs/JEV-35B
🔥12❤5🗿5👍4
Python 3.15 вышел: 5 фич для работы с данными, с примерами и замерами
Python 3.15 релизнулся 9 октября. Khuyen Tran из CodeCut выбрала пять изменений, которые больше всего пригодятся в работе с данными, и для каждого показала старый и новый способ с реальными цифрами. Собрали.
1. Ленивые импорты (PEP 810)
Тяжёлый пакет можно пометить словом lazy, и тогда он подгрузится только при первом обращении, а не на старте скрипта.
Замер скрипта, который импортирует pandas, но не использует его (медиана из 20 запусков):
2. Встроенный frozendict (PEP 814)
Неизменяемый словарь. Удобно для общего конфига: функция уже не сможет его втихую перезаписать.
Изменённую копию делаем через |:
3. Распаковка внутри comprehension (PEP 798)
Звёздочку и двойную звёздочку теперь можно использовать прямо в выражениях.
4. Профайлер Tachyon
Сэмплирующий профайлер смотрит, какая функция выполняется, примерно раз в миллисекунду, и умеет подключаться к уже запущенному процессу, чего cProfile не умеет.
На пайплайне с данными такси накладные расходы минимальны:
5. Понятные сообщения об ошибках
При опечатке в имени атрибута или метода Python теперь подсказывает, что ты, вероятно, имел в виду.
Python 3.15 релизнулся 9 октября. Khuyen Tran из CodeCut выбрала пять изменений, которые больше всего пригодятся в работе с данными, и для каждого показала старый и новый способ с реальными цифрами. Собрали.
1. Ленивые импорты (PEP 810)
Тяжёлый пакет можно пометить словом lazy, и тогда он подгрузится только при первом обращении, а не на старте скрипта.
# было: pandas грузится сразу, даже если не используется
import pandas as pd
print("hello")
# стало: ничего не грузится, пока pd реально не понадобился
lazy import pandas as pd
print("hello")
df = pd.read_parquet("taxi.parquet") # вот тут pandas и загрузится
Замер скрипта, который импортирует pandas, но не использует его (медиана из 20 запусков):
обычный импорт: 280 ms
lazy: 14 ms (в 20 раз быстрее старта)
2. Встроенный frozendict (PEP 814)
Неизменяемый словарь. Удобно для общего конфига: функция уже не сможет его втихую перезаписать.
# было: обычный dict любая функция может поменять
config = {"min_fare": 0, "max_fare": 500}
def drop_outliers(cfg):
cfg["max_fare"] = 1000 # задумано как локальная правка
drop_outliers(config)
# config теперь {'min_fare': 0, 'max_fare': 1000}, подменился молча
# стало:
config = frozendict(min_fare=0, max_fare=500)
config["max_fare"] = 1000
# TypeError: 'frozendict' object does not support item assignment
Изменённую копию делаем через |:
strict = config | {"max_fare": 300}
# original: frozendict({'min_fare': 0, 'max_fare': 500})
# new: frozendict({'min_fare': 0, 'max_fare': 300})
3. Распаковка внутри comprehension (PEP 798)
Звёздочку и двойную звёздочку теперь можно использовать прямо в выражениях.
column_groups = [["fare", "tip"], ["distance"], ["passengers", "payment"]]
# было: двойной for
[column for group in column_groups for column in group]
# стало:
[*group for group in column_groups]
# ['fare', 'tip', 'distance', 'passengers', 'payment']
# слияние словарей, последний перекрывает ключи
layers = [{"min_fare": 0, "max_fare": 500}, {"max_fare": 300}]
{**layer for layer in layers}
# {'min_fare': 0, 'max_fare': 300}
4. Профайлер Tachyon
Сэмплирующий профайлер смотрит, какая функция выполняется, примерно раз в миллисекунду, и умеет подключаться к уже запущенному процессу, чего cProfile не умеет.
# запуск с сортировкой и топ-9 строк
python -m profiling.sampling run --sort cumtime -l 9 pipeline.py
# подключение к работающей задаче на 5 секунд
python -m profiling.sampling attach -d 5 <PID>
На пайплайне с данными такси накладные расходы минимальны:
python pipeline.py ~4.9 s без профайлера
profiling.sampling run pipeline.py ~5.1 s Tachyon: +4%
python -m cProfile pipeline.py ~16.7 s cProfile: в 3.4 раза медленнее
5. Понятные сообщения об ошибках
При опечатке в имени атрибута или метода Python теперь подсказывает, что ты, вероятно, имел в виду.
exp.shape
# было: AttributeError: 'Experiment' object has no attribute 'shape'
# стало: ...has no attribute 'shape'. Did you mean '.data.shape' instead of '.shape'?
["fare", "tip"].push("distance")
# было: 'list' object has no attribute 'push'
# стало: 'list' object has no attribute 'push'. Did you mean '.append'?
🔥31❤7👍3🌚2
🕸 Как масштабировать GNN для рекомендательных систем
Исследователи AI VK масштабировали графовую нейросеть (GNN) для рекомендаций друзей на социальный граф из 194 млн пользователей и 28 млрд связей. Результаты работы представлены в статье, принятой на конференцию CIKM 2026.
В отличие от рекомендаций контента, где модели могут анализировать текст, изображения и видео, в рекомендациях друзей ключевую роль играют связи между пользователями. GNN учитывают социальное окружение человека и помогают предсказывать новые знакомства.
Главная сложность — масштабирование на сотни миллионов пользователей. Для этого исследователи предложили два решения:
• Multi-hash embeddings. Вместо отдельного вектора для каждого пользователя используются общие таблицы эмбеддингов и несколько хеш-функций. Это позволило сократить потребление видеопамяти с 203 до 2 ГБ — более чем в 100 раз.
• Temporal neighbor sampling. Модель учитывает только связи, существовавшие на момент рекомендации, и не использует информацию из будущего. Оптимизация ускорила семплирование данных для обучения в 2,5 раза.
📈 Результаты A/B-теста:
• +16% добавлений в друзья из рекомендаций.
• +11,5% пользователей, добавивших хотя бы одного рекомендованного друга.
• Без ухудшения задержек онлайн-ранкера.
Практический вывод: графовые нейросети можно эффективно применять даже на социальных графах с десятками миллиардов связей, не увеличивая требования к памяти и скорости онлайн-рекомендаций.
📄 Исследование: Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling (CIKM 2026).
Исследователи AI VK масштабировали графовую нейросеть (GNN) для рекомендаций друзей на социальный граф из 194 млн пользователей и 28 млрд связей. Результаты работы представлены в статье, принятой на конференцию CIKM 2026.
В отличие от рекомендаций контента, где модели могут анализировать текст, изображения и видео, в рекомендациях друзей ключевую роль играют связи между пользователями. GNN учитывают социальное окружение человека и помогают предсказывать новые знакомства.
Главная сложность — масштабирование на сотни миллионов пользователей. Для этого исследователи предложили два решения:
• Multi-hash embeddings. Вместо отдельного вектора для каждого пользователя используются общие таблицы эмбеддингов и несколько хеш-функций. Это позволило сократить потребление видеопамяти с 203 до 2 ГБ — более чем в 100 раз.
• Temporal neighbor sampling. Модель учитывает только связи, существовавшие на момент рекомендации, и не использует информацию из будущего. Оптимизация ускорила семплирование данных для обучения в 2,5 раза.
📈 Результаты A/B-теста:
• +16% добавлений в друзья из рекомендаций.
• +11,5% пользователей, добавивших хотя бы одного рекомендованного друга.
• Без ухудшения задержек онлайн-ранкера.
Практический вывод: графовые нейросети можно эффективно применять даже на социальных графах с десятками миллиардов связей, не увеличивая требования к памяти и скорости онлайн-рекомендаций.
📄 Исследование: Scaling Graph Neural Networks for Friend Recommendation: Multi-Hash User Embeddings and Temporal Neighbor Sampling (CIKM 2026).
👍12🥰5🔥2
🧠 BERT жив. UltraBERT показал, что рецепт обучения может быть важнее дополнительных триллионов токенов.
Вышли открытые энкодеры на 152 млн и 380 млн параметров с контекстом 32K. Для классификации текста, распознавания сущностей, поиска ответов, оценки качества и retrieval.
Главная фишка обучения:
• В одних примерах скрывают 5% токенов: это помогает классификации.
• В других скрывают 50%: это помогает поиску.
• Для каждого режима используют отдельную выходную голову.
• Знания модели-учителя на 1,3 млрд параметров передают только примерам с 5% маскирования.
Почему выборочно? В экспериментах дистилляция улучшала классификацию, но ухудшала поиск при высоком маскировании. Универсального «учитель всегда делает ученика лучше» не получилось.
Ещё один показательный вывод: после 1–2 трлн токенов качество на прикладных задачах выходило на плато, хотя loss продолжал снижаться.
По сравнению авторов, версия 380M лидирует на GLUE и BEIR среди сопоставимых энкодеров. Младшая модель достигает уровня RoBERTa-large в классификации при 2,3 раза меньшем числе параметров.
Веса, код и лицензия Apache 2.0:
https://huggingface.co/collections/dmis-lab/ultrabert
Статья:
https://arxiv.org/abs/2610.15028
@machinelearning_interview
Вышли открытые энкодеры на 152 млн и 380 млн параметров с контекстом 32K. Для классификации текста, распознавания сущностей, поиска ответов, оценки качества и retrieval.
Главная фишка обучения:
• В одних примерах скрывают 5% токенов: это помогает классификации.
• В других скрывают 50%: это помогает поиску.
• Для каждого режима используют отдельную выходную голову.
• Знания модели-учителя на 1,3 млрд параметров передают только примерам с 5% маскирования.
Почему выборочно? В экспериментах дистилляция улучшала классификацию, но ухудшала поиск при высоком маскировании. Универсального «учитель всегда делает ученика лучше» не получилось.
Ещё один показательный вывод: после 1–2 трлн токенов качество на прикладных задачах выходило на плато, хотя loss продолжал снижаться.
По сравнению авторов, версия 380M лидирует на GLUE и BEIR среди сопоставимых энкодеров. Младшая модель достигает уровня RoBERTa-large в классификации при 2,3 раза меньшем числе параметров.
Веса, код и лицензия Apache 2.0:
https://huggingface.co/collections/dmis-lab/ultrabert
Статья:
https://arxiv.org/abs/2610.15028
@machinelearning_interview
❤22👍2🔥2🥰2
С вас идея, а Т-Банк за нее заплатит
В Т-Банке ищут трейдеров, разработчиков и тех, кто просто увлекается инвестициями. Зарегистрируйтесь на программу «Инвест. Премаркет» до 11 ноября.
Ваши AI-сценарии для бизнеса смогут побороться за призовой фонд программы — 2 500 000 ₽. А сами идеи Т-Банк поможет масштабировать и сделать частью бизнеса.
Успейте подать заявку до 11 ноября
В Т-Банке ищут трейдеров, разработчиков и тех, кто просто увлекается инвестициями. Зарегистрируйтесь на программу «Инвест. Премаркет» до 11 ноября.
Ваши AI-сценарии для бизнеса смогут побороться за призовой фонд программы — 2 500 000 ₽. А сами идеи Т-Банк поможет масштабировать и сделать частью бизнеса.
Успейте подать заявку до 11 ноября
❤3🔥1
🤖 600 млрд параметров и миллион токенов контекста: StepFun открыла веса Step-5-Preview.
Модель заточена под длинные агентные задачи: искать информацию, разбирать данные, писать и исправлять код, собирать готовые отчёты, таблицы и сайты.
Что внутри:
• MoE-архитектура: 600 млрд параметров, из которых на каждый токен активируются 27 млрд.
• Контекст 1 млн токенов, поддержка изображений и сценариев с тысячами взаимодействий.
• 49% на StepCodeBench: первое место среди открытых моделей в сравнении разработчиков. Тест охватывает генерацию кода, исправление багов, рефакторинг и оптимизацию.
• Веса доступны под StepFun Community License.
Главный интерес здесь в том, насколько уверенно модель доводит длинную задачу до готового результата.
https://www.modelscope.cn/models/stepfun-ai/Step-5-Preview
Модель заточена под длинные агентные задачи: искать информацию, разбирать данные, писать и исправлять код, собирать готовые отчёты, таблицы и сайты.
Что внутри:
• MoE-архитектура: 600 млрд параметров, из которых на каждый токен активируются 27 млрд.
• Контекст 1 млн токенов, поддержка изображений и сценариев с тысячами взаимодействий.
• 49% на StepCodeBench: первое место среди открытых моделей в сравнении разработчиков. Тест охватывает генерацию кода, исправление багов, рефакторинг и оптимизацию.
• Веса доступны под StepFun Community License.
Главный интерес здесь в том, насколько уверенно модель доводит длинную задачу до готового результата.
https://www.modelscope.cn/models/stepfun-ai/Step-5-Preview
👍2🔥1🥰1