🤔Экспериментальная модель 🖥Extract-0 за $196 превзошла 👩‍💻 GPT-4 и 👩‍💻 o3 в извлечении данных?

Исследователь Энрике Годой из 🇧🇷Бразилии представил ИИ-модель Extract-0, специализированную LLM с 7 миллиардами параметров, которая демонстрирует новый уровень эффективности в извлечении структурированной информации из документов. Согласно исследованию, данная языковая модель превосходит по производительности популярные универсальные модели, включая GPT-4.1, o3 и GPT-4.1-2025. Ресёрчер ставит под сомнение устоявшуюся парадигму, где доминирующим фактором эффективности считается исключительно масштаб модели.

Ключ к успеху Extract-0 кроется в новаторской трехэтапной методологии обучения, которая позволила достичь высокой точности при минимальных затратах. Процесс включает генерацию 280 128 синтетических примеров данных с сохранением контекстной памяти, параметроэффективную тонкую настройку (LoRA), затрагивающую всего 0.53% весов модели, и обучение с подкреплением (GRPO) с использованием семантической функции вознаграждения. Такой подход позволяет ИИ-агенту понимать смысловую эквивалентность данных, а не простое текстуальное совпадение.

В ходе тестирования на эталонном наборе из 1000 задач по извлечению информации Extract-0 достиг среднего показателя вознаграждения 0.573, значительно опередив GPT-4.1 (0.457) и o3 (0.464).

◀️Для адаптации ❗️ DeepSeek-R1-Distill-Qwen-7B применялся метод Low-Rank Adaptation (LoRA), который изменил всего 0.53% от общего числа параметров модели (40.4 млн из 7.66 млрд).

◀️Изначально базовая модель без дообучения имела средний результат 0.232 и валидность JSON на уровне 42.7%.

◀️После этапа контролируемой тонкой настройки (Supervised Fine-Tuning) производительность модели выросла до 0.507, а валидность JSON достигла 79.9%.

◀️Финальный этап обучения с подкреплением (GRPO) позволил достичь итогового результата в 0.573 со средней валидностью JSON в 89.0%, что представляет собой кумулятивное улучшение на 147.0% по сравнению с базовой моделью.

🖥 Примечательно, что общая стоимость всего цикла обучения модели на одном графическом процессоре NVIDIA H100 составила всего $196.

Цифры наглядно демонстрируют экономическую и техническую состоятельность целенаправленной оптимизации под конкретную задачу. Исследование убедительно пытается доказать, что узкоспециализированные ИИ-решения могут быть не только конкурентоспособными, но и более эффективными по сравнению с масштабируемыми моделями общего назначения.

👆Ограничение исследования коренится в его валидационной парадигме, которая оценивает производительность модели исключительно на in-distribution данных. Обучающий и тестовый наборы сэмплированы из одного и того же синтетического распределения, поэтому продемонстрованная высокая производительность не позволяет сделать надежных выводов о способности модели работать также эффективно в реальных условиях на практических задачах. Таким образом, полученные метрики обладают высокой внутренней валидностью (в рамках созданного синтетического мира), но их внешняя валидность (применимость к реальным задачам) остается под вопросом.

👀 В любом случае ознакомиться с исследованием не помешает.

✋ @Russian_OSINT

Развивайте карьеру с лидером горно-металлургической отрасли на бесплатном онлайн-курсе от «Норникеля»!
Проходите карьерные консультации, получайте приоритетное рассмотрение на «Профстарт», а также экскурсии на производство и подарки для самых активных.

Что ждет на программе:
✅Выбор профессионального трека и резюме, которое действительно работает;
✅Топ-10 гибких навыков, которые ценят работодатели;
✅Развитие инженерного, критического и экологического мышления, управление рисками и проектами;
✅Истории из первых уст: как на самом деле работают на Севере;
✅Кейс-чемпионат в конце курса.

Подойдет не только технарям, но и студентам менеджерских и бизнес-направлений.
🔥Старт — 10 октября.
Начните учебный год с мощного апгрейда, регистрируйтесь по ссылке: https://u.to/hnBbIg

Цикл лекций по структурной биологии

На следующей неделе в ФИЦ Биотехнологии РАН❤️ стартует цикл лекций в рамках участия Центра в ФНТП «Развитие синхротронных и нейтронных исследований и исследовательской инфраструктуры на период до 2030 года».

🗓Каждую неделю по средам в 16:00 в течении двух месяцев ведущие ученые из ФИЦ Биотехнологии РАН, МГУ имени М.В.Ломоносова, МФТИ и других институтов РАН представят научно-образовательные лекции по тематикам, лежащим в русле современной интегративной структурной биологии, ориентированные на широкий круг слушателей.

08 октября, 16:00
Спектроскопия в исследовании белков
Максимов Е.Г., д.б.н, зав. лаб. физико-химии биомембран биологического факультета МГУ имени М.В. Ломоносова

15 октября, 16:00
Рентгеновские лазеры на свободных электронах в структурной биологии и разработке лекарств
Мишин А.В., МФТИ, к.ф-м.н, с.н.с., и.о. заведующего лаборатории структурной биологии рецепторов, сопряжённых с G белком

22 октября, 16:00
Биомедицинская масс-спектрометрия
Николаев Е.Н., д.ф-м.н, профессор, зав. лаб. масс-спектрометрии биомакромолекул ИБХФ РАН

29 октября, 16:00
Малоугловое рассеяние: принципы, применение в структурной биологии и перспективы
Штыкова Э.В., д.х.н, в.н.с. лаборатории биоэлектрохимии ИФХЭ РАН

05 ноября, 16:00
Методы молекулярного моделирования в исследовании биологических систем
Хренова М.Г, д.ф-м.н., руководитель группы молекулярного моделирования ФИЦ Биотехнологии РАН / зав. НИЛ квантовой химии и молекулярного моделирования МГУ имени М.В. Ломоносова

12 ноября, 16:00
Методы ИИ в биологии (первая лекция)
Головин А.В., д.х.н., профессор факультета биоинженерии и биоинформатики МГУ имени М.В. Ломоносова, с.н.с отдела математических методов в биологии НИИ Физико-химической биологии имени А. Н. Белозерского МГУ имени М.В. Ломоносова

19 ноября, 16:00
Методы ИИ в биологии (вторая лекция)
Головин А.В., д.х.н., профессор факультета биоинженерии и биоинформатики МГУ имени М.В. Ломоносова, с.н.с отдела математических методов в биологии НИИ Физико-химической биологии имени А. Н. Белозерского МГУ имени М.В. Ломоносова

26 ноября, 16:00
Криоэлектронная микроскопия
Моисеенко А.В., н.с. кафедры биоинженерии (Биологический факультет) МГУ имени М.В. Ломоносова

📍Лекции пройдут в конференц-зале ФИЦ Биотехнологии РАН по адресу: пр-т 60-летия Октября, д. 7, корп. 2.

❗️Участие бесплатное, вход свободный!
Трансляция не предусмотрена.

➡️Следите за анонсами!