— Мощнее всех, но в сотни раз легче
— Летает на домашних ПК
— Пишет тексты, рассуждает — идеальный рабочий инструмент
— Весит всего 3.5 Гб, можно запускать где угодно

✨ Что умеет:
• Встроенный AI-ассистент прямо в браузере
• Резюмирование и анализ страниц
• Генерация и переписывание текста
• Помощь с поиском и исследованиями
• Фокус на приватность и безопасность
• Работает на Windows, macOS, Linux, iOS и Android

Разработчики бенчмарка Sansa Bench обновили рейтинг ИИ-моделей по уровню цензуры — то есть по тому, как часто нейросеть отказывается отвечать на запросы пользователя.

Почему это оказалось возможно?
Кратко: Собрали данные → отфильтровал по 20 критериям (информационная плотность, логичность, грамотность) → сравнили с базой хороших примеров → оставили только самое лучшее.
Результат: 23 триллиона чистых проверенных токенов. Не 100, не 50, а 23. Но ценность каждого токена в датасете значительно выше.
Подробнее в статье: на ХАБР.

Плюсы:
- Работает локально (Использовать в Jan, MSTY, LM Studio, на iOS, на Android.)
- Быстрая производительность на инференсе (до 3 раз быстрее 8B моделей)
- Поддерживает tool calling (можно делать агентов)
- 64K контекст (можно работать с большими текстами)
- Open-source (можно дообучить под свои задачи)
- По тестам и в Q8, и в Q4 квантизации вполне хорошо придерживается русского языка, как в процессе размышлений, так и при ответе

Обзор OpenScholar
Научный прогресс зависит от нашей способности находить, синтезировать и опираться на соответствующие знания из научной литературы. Однако экспоненциальный рост объема этой литературы — в настоящее время ежегодно публикуются миллионы статей — делает все более трудным для ученых поиск необходимой им информации или даже ознакомление с последними открытиями в одной области.

Чтобы помочь учёным эффективно ориентироваться в научной литературе и обобщать её, мы представляем OpenScholar — языковую модель с расширенными возможностями поиска (LM), которая отвечает на запросы пользователей, сначала находя соответствующие статьи в литературе, а затем генерируя ответы на основе этих источников

«Мы обучаем и выпускаем полностью открытую языковую модель с расширенным поиском, которая может синтезировать более 8 миллионов научных статей в открытом доступе, чтобы отвечать на научные вопросы».

OpenScholar работает с базой данных более 45 миллионов открытых научных статей. В отличие от GPT-4o, который часто генерирует ответы на основе предобученных данных, OpenScholar активно извлекает релевантные статьи, синтезирует их выводы и формирует ответ, опираясь на эти источники. Это делает его более надежным в плане фактической точности и правильности цитирования.

Система продемонстрировала выдающиеся результаты в тестах на новых бенчмарках, таких как ScholarQABench, и показала, что может обойти даже более крупные закрытые модели. Например, GPT-4o часто генерирует несуществующие ссылки, в то время как OpenScholar остается привязанным к проверяемым источникам.

В тестах OpenScholar продемонстрировала 5% улучшение по сравнению с GPT-4o и 7% по сравнению с PaperQA2 в правильности ответов. Более того, эксперты предпочитали ответы OpenScholar 51% и 70% случаев по сравнению с ответами, написанными людьми.

Эта модель не только улучшает качество научных обзоров, но и способствует более надежному научному дискурсу, предоставляя точные ссылки на оригинальные источники. OpenScholar открывает новые горизонты для исследователей, упрощая процесс синтеза информации и делая его более доступным.