Вышел файнтюн llama 3.1 8b - Hawkish 8B, адаптированная к сфере финансового анализа.

Модель была дополнительно обучена на наборе 50 млн токенов, связанных с финансовыми темами, охватывающими такие темы, как экономика, фиксированный доход, акции, корпоративное финансирование, производные инструменты и управление портфелем.

Hawkish 8B превосходит Meta Llama-3.1-8B-Instruct более чем на 12% в специализированных финансовых тестах и ​​почти на 15% в вопросах, связанных с математикой.

Ей удалось сдать экзамен CFA (мировой стандарт в области финансового анализа и инвестиций) уровня 1, набрав средневзвешенный балл 71,3%, в то время как для людей средний балл составляет 65% и это первый случай среди генеративных моделей.

#AI #LLM #FINTECH

скачать модель

Наиболее полезные посты на этом канале

Применение ИИ в бизнесе
Генеративный ИИ в МДМ
Бот для 1С
Рекомендательная система для интернет-магазина

Полезные ИИ библиотеки, фреймворки, модели

RagBuilder
Фреймворк для параллельного вызова LLM
Метрики качества генеративного ИИ
Прогнозирование намерений пользователя
Языки программирования на LLM

Публикации
Что не так с Вашим кодом, сгенерированным LLM
Отчет о патентном ландшафте в генеративном ИИ 2024
Аналитический отчет Стенфордского университета про ИИ за 24 год

#AI #LLM

Epoch выпустил бенчмарк FrontierMath для оценки моделей генеративного ИИ с математическими задачами, которые охватывают основные разделы современной математики — от вычислительной теории чисел до абстрактной алгебраической геометрии — и обычно требуют часов или дней для решения экспертами-математиками.

Каждая задача прошла экспертную оценку со стороны экспертов-математиков, которые проверили правильность, недвусмысленность и оценивали уровень сложности.

Текущие модели - GPT4, Gemini, Claude справились менее чем с 2% в отличие от решения популярных математических бенчмарков - GSM-8K и MATH, где лучшие модели теперь достигают точности более 90%.

Решать такие задачи будет уже новый ИИ, появление которого ожидается на горизонте 5-6 лет
Источник

Вышла любопытная статья. о том, что скорость генерации ответа LLM зависит от формата данных, в котором ее попросили ответить. Самый быстрый - markdown, а вот json работает в 2 раза медленнее. Согласованность ответов моделей зависит от размера, при этом более крупные модели, такие как GPT-4, обеспечивают более однородные результаты в различных форматах.

Теперь тюним не только промпты, но и ответы

Источник

пример решения phi-4 конкретной математической задачи к посту выше

Дорогие друзья, с наступающим новым годом!

Для всех это год - змеи🐍, а вот для нас, любителей технологий и искусственного интеллекта, это год Питона! Для тех кто разрабатывает, и тех, кто доверяет свои бизнес-процессы искусственному интеллекту, и тех, кто только готовится сделать первые шаги в эту удивительную область.

⛄️ Змея ассоциируется с мудростью, проницательностью и аналитическими способностями. В этом году может наблюдаться рост интереса к методам, которые требуют тщательного планирования и стратегического подхода, что идеально подходит для разработки сложных ИИ-систем

⛄️ Способность сбрасывать кожу олицетворяет обновление и трансформацию. Это может побудить компании и исследователей пересмотреть свои подходы к ИИ, внедрять новые технологии и отказываться от устаревших методов. Год Змеи будет хорош для внедрения инноваций.

⛄️ Змея известна своей гибкостью и способностью адаптироваться к изменениям. В контексте ИИ это может означать увеличение акцента на разработку адаптивных систем, которые могут учиться на основе новых данных и изменяющихся условий.

⛄️ Год Змеи подчеркивает важность интуиции и внутреннего голоса, что может способствовать появлению новых идей и нестандартных решений в области ИИ. Разработчики могут быть вдохновлены на создание инновационных приложений, которые используют ИИ для решения сложных задач.

Спасибо, что читаете мои посты! Давайте продолжать вместе исследовать мир ИИ, делиться знаниями и вдохновляться новыми идеями.

Новый год - новая статья. Рассказала про то, как и для чего мы делаем нормализацию данных на vc.ru

Хабр сегодня вручил мне значок "Пилот года" - первая статья вышла в прошлом феврале
https://habr.com/ru/users/ksenia-plesovskikh/

Китайцы решили обогнать GPT-4 и представили новую и бесплатную! модель MiniMax-Text-01 на 456B параметров очень близкую по качеству к GPT-4 и Claude 3.5 Sonnet. Рекордом модели является огромное контекстное окно в 4 млн токенов. Есть возможность общаться через веб или api. API пока в пробной версии, тарифы не указаны.
Статья про модель

#AI #LLM

Китайцы продолжают удивлять. Мы привыкли, что обычно большие модели сравнивают с большими, маленькие с маленькими. А тут полный бенчмарк линейки моделей DeepSeek R1 и даже версия уровня 1.5B бьет на отдельных датасетах большие GPT-4O, O1и даже Claude-3.5-Sonnet.

Это означает, что пришло время, когда модель уровня GPT-4O уже может разместиться не только на персональном ПК, но и на смартфоне.

На huggingface написано, что чтобы R1 попробовать бесплатно, нужно зайти в чат DeepSeek, где изначально предлагается V3 и нажать кнопку DeepThink для переключения в R1. Проверила, работает!

API

Наша команда уже применяет DeepSeek V3 для повышения своей эффективности. А как у вас?

#AI #LLM #Deepseek

Друзья, у нас важные новости! 🚀

Мы растем и меняемся вместе с вами, и сегодня наш канал делает новый шаг вперед. Раньше мы фокусировались на технической стороне генеративного ИИ: алгоритмах, моделях, инструментах и подходах к разработке. Это было круто, но мы поняли, что ИИ — это не только код и технологии. Это люди, компании, идеи и истории, которые меняют мир.

Поэтому мы расширяем наш фокус! Теперь "Генеративный мир" — это не просто канал о разработке ИИ. Это сообщество, где мы будем говорить о:

* Людях, которые создают ИИ и вдохновляют других;

* Компаниях, которые внедряют ИИ и трансформируют свои отрасли;

* Историях о том, как ИИ меняет профессии, подходы и даже жизни;

* Технологиях, которые продолжают оставаться важной частью нашего диалога.

Мы хотим, чтобы "Генеративный мир" стал местом, где вы найдете не только знания, но и вдохновение.

Спасибо, что остаетесь с нами! Делитесь своими идеями, историями и предложениями — давайте создавать этот мир вместе. 🌍


#ГенеративныйМир #ИИ #Сообщество #Ребрендинг #КсенияПлесовских

Небольшой пост-анонс о том, как изменится формат канала и что ждет в этом месяце:

Что нового?
— Раньше: Глубоко технические разборы, алгоритмы, инструменты.
— Теперь: Мы превращаемся в пространство, где ИИ оживает через людей, идеи и действия.

Наша ДНК (ценность и миссия):
— Сообщество созидателей: От разработчиков до художников - все, кто меняет мир с помощью ИИ.
— Нетворкинг: Возможность находить единомышленников, делиться опытом и создавать коллаборации.
— Beyond Code: Как ИИ перестраивает карьеры, бизнес-модели и даже искусство.

Что будет в ленте?
— Голоса изнутри: Подкасты с теми, кто учит ИИ писать музыку, проектировать города или лечить болезни.
— ИИ-эксперименты: Челенджи, где подписчики вместе создают проекты.
— Дайджесты будущего: Как ИИ уже завтра изменит вашу профессию, даже если вы не технарь.

Зачем это вам?
— Прокачать компетенции: Гайды, которых нет в учебниках — от основ ИИ до управления AI-стартапами.
— Вдохновение без границ: Истории, которые заставят поверить, что невозможное — возможно.
— Быть в тренде: анонсы технологий, которые изменят рынки в 2025.

Ваша роль:
— Мы растем вместе с вами. Пишите, о чем хотите читать, предлагайте героев для интервью или сами станьте автором.
— Давайте соберем пазл будущего, где каждый элемент — это человек, идея или технология.

P.S. Скоро запускаем серию воркшопов «ИИ своими руками» — следите за анонсами!

#ГенеративныйМир #ИИ_с_человеческим_лицом #Создаем_будущее

Друзья, мы знаем, что многие из вас переживают: "А что будет с моими любимыми темами? Куда исчезнут технические анонсы и решения для закупок?"

Успокоим сразу - это все еще я - Ксения Плесовских и моя команда. Ваши любимые темы никуда не исчезнут — они останутся в основе нашего контента.

Но 2025 год — это год ИИ-агентов, и мы не можем оставаться в стороне. Поэтому в наших исследованиях появится новая тематика:
Нейросотрудники: Как ИИ-агенты могут стать частью команды?
Ускорение работы с помощью ИИ: инструменты и подходы, которые экономят время и ресурсы.
Новые архитектуры языковых моделей и ИИ-роботизация.
Практические кейсы. Мы верим в реальные истории, а не в теории. Будем делиться примерами, как компании уже используют ИИ для оптимизации процессов.

Мы станем не просто рассказывать о трендах — мы покажем, как их можно применить здесь и сейчас.

Что не изменится:
— Наша любовь к техническим деталям.
— Наша команда, которая остается с вами на этом пути. Хотя и тут мы открыты новому - каналу с большим будущим сейчас как никогда требуется редколлегия, кто хочет присоединиться, пишите в личку.

Спасибо, что вы с нами! Делитесь своими мыслями, задавайте вопросы в личку

#ГенеративныйМир #ИИ #Сообщество #Ребрендинг #КсенияПлесовских

Интересная техническая находка.

IntellAgent - open-source фреймворк для тестирования ИИ мультиагентов.

Кому полезен? в первую очередь для тестировщиков ИИ проектов

В чем польза?
Все, кто тестировал ИИ проекты, знает, насколько сложно покрыть его автотестами из-за разнообразия реакций на одно и тоже событие.

IntellAgent направлен на решение сложностей, связанных с оценкой агентов, которые должны вести многоходовые диалоги и придерживаться различных политик. Фреймворк создает синтетические сценарии, и позволяет комплексно тестировать агентов по нескольким параметрам сложности.

Конвейер системы IntellAgent состоит из трех основных компонентов: генерация событий, моделирование диалога и детальный анализ результата. В анализе проверяется правильность завершения диалога и соблюдение политик. Анализируется системный промпт и в отчете выводится, что было соблюдено, а что нарушено.

Забрать на тестирование тут

Шаг назад — это часть пути. Как ИИ и мы учимся перезаряжаться

Иногда жизнь заставляет нас остановиться. Сделать паузу. Даже отступить.
На первый взгляд это похоже на поражение: «Я сдаюсь? Я слабею?»
Но на самом деле это не слабость — это перезагрузка, как у брошенного вверх мяча.

Физика духа: кинетическая vs. потенциальная энергия

Представьте мяч 🏀, летящий вверх. Чем выше он поднимается, тем больше теряет кинетическую энергию (движение), но накапливает потенциальную (готовность к новому рывку).
В точке пика он на миг замирает — кажется, что все остановилось. Но именно этот миг дает ему силы упасть вниз, чтобы оттолкнуться и взлететь снова.

Наша жизнь тоже бывает похожа на мяч, иногда нужно "замедлиться", чтобы накопить энергию для следующего прыжка. Даже если это замедление в моменте, где ты почти у цели. Даже если это замедление на пути к твоей мечте.

История ИИ: как откаты вели к прорывам
Технологии, как и люди, проходят через кризисы. Но именно они меняют правила игры:

1970-е: Первая "зима ИИ"
Обещания создать мышлящий компьютер разбились о технические ограничения. Финансирование ушло, энтузиазм угас.
Итог: Ученые переосмыслили подходы. Появились экспертные системы, ставшие основой для логистики и медицины.

1980-е: Крах нейросетей
Нейросети объявили тупиком из-за недостатка данных и мощностей.
Итог: Через 20 лет это привело к deep learning — революции, которая подарила нам распознавание речи, GPT и беспилотные авто.

2010-е: Провалы Watson в медицине
IBM обещала, что ИИ будет ставить диагнозы лучше врачей. Реальность оказалась сложнее.
Итог: Сегодня ИИ не заменяет врачей, но помогает анализировать снимки, предсказывать эпидемии и ускорять разработку лекарств.

Что это значит для нас?

Каждый откат, каждая «зима» — это не конец, а точка перезарядки. Личные кризисы учат нас терпению и гибкости. Технологические провалы заставляют искать новые пути.

Если вы сегодня в «точке замирания» — помните: за ней всегда следует новый взлет.

Даже если сегодня ваш ИИ-агент дает сбой, а код не работает — это часть пути.

Даже если вы выгорели и не видите прогресса — это не конец, а точка для прыжка.

Огонь в душе гаснет только тогда, когда мы сами решаем его не подпитывать.

Когда-нибудь мы оглянемся на 2020-е и скажем: «Тогда мы думали, что ИИ - это DeepSeek и нейросотрудники. Мы даже не представляли, что будет дальше...».🔥

#ГенеративныйМир #ИИ #Сообщество #Ребрендинг #КсенияПлесовских

Завершающий это воскресенье пост уюта и доброты

Как я искала мечту и нашла ее под ногами

Несколько лет я жила в плену иллюзии: мне казалось, что моя настоящая жизнь где-то там, на сцене международных конференций по ИИ, среди исследователей из OpenAI и DeepMind. Я завидовала тем, кто публиковал прорывные статьи, а сама будто топталась на месте: проекты, пресейлы, бесконечные собеседования с кандидатами в мою команду... «Это не то», - твердила я себе.

Но пару недель назад судьба сделала мне подарок: коллеги предложили освободить меня от рутины, чтобы я наконец занялась исследованиями. Я составила план, нашла контакты ученых, которые могли вывести меня на уровень SOTA... И в последний момент не позвонила.

Потому что поняла, мое счастье все это время уже было со мной! В команде, которая верила в меня даже тогда, когда я была неидеальным, а порой и токсичным руководителем. В детях, которые с рождения привыкли к тому, что мама вечно занята этой своей работой. И в той самой "скучной операционке", волнениях о финансовом результате, осознании своего чувства ответственности. Убрать это из моей жизни - значит потерять саму себя.

Моя мечта уже сбылась, а я этого чуть не пропустила, слишком долго смотрела не в ту сторону.

Как ИИ-гении учились видеть мечту рядом

Истории из мира технологий, которые напоминают: иногда путь к цели - это не гонка, а умение остановиться.

Джеффри Хинтон: 30 лет в тени. Его называли «сумасшедшим» за веру в нейросети, когда весь мир ставил на экспертные системы. В 2012 году его модель AlexNet совершила прорыв, но до этого он 30 лет работал в тишине, часто без финансирования.

Его «мечта» не была о славе — она была о том, чтобы доказать, что нейросети могут изменить мир. И он нашел счастье в самом процессе, даже когда его не замечали.

DeepMind: от игр к спасению жизней. Компания начинала с создания ИИ для победы в Atari и Go. Но после успеха AlphaGo они перешли к медицинским исследованиям: предсказание структуры белков (AlphaFold), диагностика болезней.

Их новая «мечта» оказалась важнее первоначальной: вместо славы — реальная помощь человечеству.

Джой Буламавини: этика вместо алгоритмов. Исследовательница, которая обнаружила расовую предвзятость в facial recognition, отказалась от карьеры в разработке моделей.

Сегодня она борется за этичный ИИ, хотя когда-то мечтала создавать «крутые алгоритмы». Ее новая цель — защита людей — стала смыслом.

Почему мечта часто прячется в «здесь и сейчас»
— Бесконечная гонка за «большим» ослепляет. Как писал Стив Джобс: «Иногда жизнь бьет вас кирпичом по голове. Не теряйте веры». Но важно понять, какой кирпич - предупреждение или указание на то, что вы уже на месте.

— Мечта - не точка на карте, а путь. Как нейросеть, которая учится на каждом шаге, мы часто не замечаем, что уже достигли большего, чем планировали.

— Люди вокруг - часть вашей мечты. Команда, клиенты, семья — они те, ради кого вы работаете. Без них даже самый прорывной ИИ — просто код.

Cудьба заставила меня замедлиться не для того, чтобы остановить, а чтобы я наконец увидела:
— Мечта - это не конференция, а команда, которая верит в мои идеи.
— Не SOTA-модель, а проект, который решает чью-то проблему.
— Не слава, а возможность каждый день делать то, что меняет мир, даже если это мир всего одного человека.

Не теряйте это. Не проходите мимо.

P.S. А вы когда-нибудь ловили себя на том, что ваша мечта уже осуществилась?

#ГенеративныйМир #ИИ #Сообщество #Ребрендинг #КсенияПлесовских