Задача ранжирования

Ранжирование - присвоение ранга классу объектов. Ранг изменяется от 1 до + бесконечности. В качестве объектов может выступать что угодно: люди, предметы, документы и т.д. В качестве простого критерия ранжирования - успеваемость для учеников, размер предмета, число страниц в книге. Здесь можно обойтись без сложных ИИ-моделей, сортируя объекты по убыванию значения критерия.

А если в качестве критерия взять релевантность поискового запроса? Это абстрактная величина, которая измеряется в том, насколько точно поисковая выдача соответствует требованиям запроса.

Так работают поисковые системы Yandex и Google. Каждую секунду поисковики выдают ТОП-10.

Основные алгоритмы:
1. Поточечный - построение регрессионной зависимости (ссылка) для каждой пары - запрос / документ

2. Попарный - создание бинарного классификатора, когда на вход поступают 2 документа, на выходе модель определяет лучший из них (см. RankNet, FRank, RankBoost, RankSVM, IR-SVM)

3. Списочный - на вход поступают все документы, на выходе - перестановка документов уже в проранжированном виде (см. SoftRank, SVMmap, AdaRank, RankGP, ListNet, ListMLE)

4. Нейросетевые алгоритмы. Так работает поиск Яндекса. Алгоритм был представлен в 2020 году. Нейронная сеть обучается приближать смысловую связь между запросом и документом на миллиардах обучающих примеров.

Источники:
- wiki
- Нейросетевой алгоритм Яндекса

👉 @aisimpleru

Ученые из MIT разработали ИИ-модель, позволяющую определить какие препараты нельзя принимать вместе

Используя алгоритм машинного обучения, исследователи могут прогнозировать взаимодействия в организме человека, которые влияют на эффективность препарата.

Почти каждый препарат, который мы принимаем всасывается в кишечнике. За всасывание условно отвечают белки-переносчики. ИИ-модель позволяет определить такие белки, которые используются для различных лекарств.

В случае если для антибиотика и средства для разжижения крови используется один и тот же белок-переносчик, то такие препараты будут мешать друг другу при одновременном приеме внутрь.

ИИ-модель позволяет прогнозировать эффективность всасывания, тем самым повышая качество медикаментозного лечения, если одновременно назначено несколько препаратов.

Источник: nature.com

👉 @aisimpleru

Карьерный путь дата-саентиста или аналитика данных

Ранее мы уже писали, кто такие дата-саентисты или Data Scientists. Еще их иногда называют аналитиками данных.

Для тех, кто хочет развиваться в этом направлении, Яндекс.Практикум подготовил схему карьерного пути.
Не забудьте поделиться с друзьями.

Интересно, что все начинается с базовой аналитики. Затем специалист может развиваться в сфере Data Science или же уйти в продуктовую аналитику или маркетинг.

Все эти направления бок о бок пересекаются с ИИ и машинным обучением.

P.S. Это не реклама, просто рекомендация 😊

👉 @aisimpleru

Почему полноценный ИИ невозможен?

Ответ на этот вопрос - на картинке к посту.

Крупные СМИ во всем мире трубят о том, что скоро ИИ вытеснит человека из привычных сфер деятельности. Миром будут править роботы, а людям останется низкооплачиваемая работа или творчество. Так ли это на самом деле?

Почти все современные математические алгоритмы ИИ, моделируют функции работы коры головного мозга человека. Многослойные нейронные сети (Deep Learning), большие языковые модели (Large Language Models) и др.

Кора головного мозга или неокортекс отвечает за абстрактное мышление, обучение, адаптацию, речь, слух, зрительное восприятие.

Заметьте, что ни одна распиаренная модель ИИ не моделирует эмоции, регуляцию температуры или поведение. Безусловно, такие работы ведутся, и мы о них расскажем.

Сейчас на волне хайпа только генеративный ИИ - ChatGPT, Stable Diffusion, MidJourney и подобное.

Вы только вдумайтесь, какой пласт человеческих функций, присущих мозгу, текущие модели не описывают! Миллиардные бюджеты выделяются на создание моделирование работы некортекса.

Идея отбросить на второй план другие отделы мозга слишком примитивна. Без математического описания и дальнейшей разработки моделей эмоционального, поведенческого интеллекта, все научное направление может зайти не туда или лопнуть, как надутый пузырь.

По нашему мнению, без моделирования эмоций, инстинктов ИИ будет лишен способности называться интеллектом в полной мере. Согласны?

👉 @aisimpleru

Число проектов в сфере генеративного ИИ выросло на 350% за 1 год

По данным GitHub количество проектов в области генеративного искусственного интеллекта (Generative AI) на одноименной платформе выросло с 2022 по 2023 с
до 60 000 штук. Рост составил почти 350%.

Это немыслимые цифры. В ближайшее время, мы увидим новую волну хайпа, связанную с ИИ-моделями, генерирующими видео, дипфейки, создающие любые виды контента по запросу пользователя.

Держим руку на пульсе.

👉 @aisimpleru

Stable AI представила новую версию знаменитой нейросети для генерации изображений StableDiffusion 3

Новая версия нейронной сети доступна в листе ожидания.
От 800 млн. до 8 млрд. параметров, теперь входят в набор в моделей Stable Diffusion 3.

Напомним, что Stable Diffusion - нейросетевая программная модель.

Модель получает на входе текстовые описания или промпты (от англ. prompt - подсказка) и на выходе создает соответствующие изображения.


Stable Diffusion может улучшать качество изображений, делая их более четкими и красочными. Эти функции используются в медицине, когда врачи анализируют снимки или результаты КТ или МРТ, в медиа-сфере, чтобы создавать креативные и улучшенные изображения.

Источник: stability.ai

👉 @aisimpleru

Функция потерь для сверточной нейронной сети с 56 слоями (Deep Learning)

Красиво выглядит, не правда ли? Как вы думаете, что это такое? Похоже на какой-то каньон или горные хребты 🏔.

На картинке изображена визуализация функции потерь для многослойной нейронной сети.

В ранних постах мы уже касались процесса и алгоритмов обучения нейронных сетей.

Функция потерь - математическая функция, которая сравнивает результат работы модели (нейронной сети) с истинным выходом и выдает оценку.

Оценка показывает, насколько они различаются. Цель модели машинного обучения — свести к минимуму эту разницу или «потерю», чтобы решать задачу с наилучшей точностью.

Самой популярной задачей сверточных нейронных сетей является распознавание изображений. При решении этой задачи используются сложные структуры со множеством нейронов и скрытых слоев.

То есть одновременно расчитываются потери для матрицы (таблицы) элементов.

Именно поэтому функции потерь для многослойных нейронных сетей представляют собой сложные поверхности в форме оврагов, каньонов и озер.


Источник изображения: habr.com

👉 @aisimpleru

Более детальная классификация задач машинного обучения

Сегодня хотелось бы дополнить вот этот пост.

Мы расширили схему, на которой изображены типы задач машинного обучения. Теперь схема содержит более понятные задачи предметной области.

Сохраните 💾 себе где-нибудь!

👉 @aisimpleru

Самая крупная в мире LLM-модель от Amazon успешно обучена

Исследователи из Amazon обучили новую большую языковую модель (LLM) для преобразования текста в речь, которая, по их словам, демонстрирует невероятные способности.

Модель с 980 миллионами параметров, названная BASE TTS - самая крупная из моделей для преобразования текста в речь. Разработчики обучали модели разных размеров на 100 000 часах речевых данных из открытых источников.

Они обнаружили, что их модель среднего размера с 400 миллионами параметров, обученная на 10 000 часов аудио, продемонстрировала заметное улучшение универсальности и устойчивости на сложных тестовых предложениях.

Хотя BASE TTS не справилась с ними идеально, она допустила значительно меньше ошибок в ударении, интонации и произношении, чем существующие модели.

Как это работает?
Преобразователь на основе авторегрессии преобразует исходный текст в специальные речевые коды (speechcodes), затем сверточная нейронная сеть (convolution-based decoder) декодирует их непосредственно звуковые волны, по сути являющиеся речью.

Учитывая, что российский ИИ отстает от крупных мировых корпораций примерно на 1,5-2 года, первая отечественная LLM такого типа должна появиться в 2025-2026 году.

Источник: amazon.science

👉 @aisimpleru

Что LLM смогут через несколько лет?

В предыдущих постах мы рассматривали текущие LLM-модели.

Хотим поделиться небольшим прогнозом на будущее.

На изображении к посту - прогноз ChatGPT.
Ниже - наш прогноз.

Через 3-5 лет LLM:

🔹 имеют больше знаний, чем любой человек, по всем предметам,
🔹 работают в интернете,
🔹 используют существующую программную инфраструктуру: калькулятор, Python, MS Excel, устройства ввода и вывода - клавиатура мышь, колонки,
🔹 обладают зрением и создают изображения и видео автоматически с учетом увиденного,
🔹 слышат, воспроизводят речь, генерируют музыку,
🔹 способны думать в течение длительного времени, используя аналог человеческой коры головного мозга,
🔹 самообучаются в тех областях, где есть понятные критерии
🔹 LLM дорабатываются под конкретные задачи. Десятки и сотни версий LLM размещены в магазинах приложений,
🔹 общаются с другими LLM

Звучит нереалистично? Посмотрим 😎

👉 @aisimpleru