This media is not supported in your browser
VIEW IN TELEGRAM
Визуализация работы популярных оптимизаторов в Python
🐍 Python - наиболее популярный язык программирования для машинного обучения.
Оптимизатор - это встроенный в компонент Python алгоритм, позволяющий достичь оптимального значения функции потерь обучаемой модели.
В качестве модели может выступать нейронная сеть, алгоритм машинного обучения или их сочетание.
В процессе обучения мы стараемся минимизировать потери функции и обновлять параметры для повышения точности.
На графике выше наглядно представлено, как по-разному работают алгоритмы оптимизации Python. Все представленные оптимизаторы входят в пакет Numpy.
Источник: github.com
👉 @aisimpleru
🐍 Python - наиболее популярный язык программирования для машинного обучения.
Оптимизатор - это встроенный в компонент Python алгоритм, позволяющий достичь оптимального значения функции потерь обучаемой модели.
В качестве модели может выступать нейронная сеть, алгоритм машинного обучения или их сочетание.
В процессе обучения мы стараемся минимизировать потери функции и обновлять параметры для повышения точности.
На графике выше наглядно представлено, как по-разному работают алгоритмы оптимизации Python. Все представленные оптимизаторы входят в пакет Numpy.
Источник: github.com
👉 @aisimpleru
👍1🔥1
90% контента будет создаваться при помощи ИИ к 2026 году
К 2026 году 90% контента в интернете будет создавать искусственный интеллект, гласит прогноз Международного центра обработки данных (IDCA).
После публичного релиза таких генеративных моделей, как ChatGPT-3, StableDiffusion или MidJourney, инфополе заполнили скандалы вокруг выдачи ИИ-контента за творение человека.
В 2026, наступит интересное время. Время фейков, подделанных дважды.
Однозначно будет неясно, сгенерировано видео или контент при помощи ИИ-модели, или подготовлено человеком. На сознательный обман человека, который хочет выдать фейковое творение за реальное, будет накладываться вероятность сбоя ИИ-модели, которая сама может допускать ошибки-галлюцинации.
Изображение к посту сгенерировано в Midjourney.
Источник: idc-a.org
👉 @aisimpleru
К 2026 году 90% контента в интернете будет создавать искусственный интеллект, гласит прогноз Международного центра обработки данных (IDCA).
После публичного релиза таких генеративных моделей, как ChatGPT-3, StableDiffusion или MidJourney, инфополе заполнили скандалы вокруг выдачи ИИ-контента за творение человека.
В 2026, наступит интересное время. Время фейков, подделанных дважды.
Однозначно будет неясно, сгенерировано видео или контент при помощи ИИ-модели, или подготовлено человеком. На сознательный обман человека, который хочет выдать фейковое творение за реальное, будет накладываться вероятность сбоя ИИ-модели, которая сама может допускать ошибки-галлюцинации.
Изображение к посту сгенерировано в Midjourney.
Источник: idc-a.org
👉 @aisimpleru
👍3
По итогам 2023 года Россия - на 6 месте на GitHub, но в 2027 окажется на 9 месте
GitHub - это популярная платформа для коллективной разработки IT-проектов с возможностью контроля версий и просмотра кода чужих проектов.
В по данным GitHub сообщество российских разработчиков является 6 в мире по количеству пользователей.
В своих прогнозах на 5 лет вперед Github ориентируется на то, что Индия 🇮🇳 по числу разработчиков, зарегистрированных на GitHub, выйдет на 1 место 🚀, вытеснив США 🇺🇸 .
Бразилия 🇧🇷 поднимется на 3 место, потеснив Китай 🇨🇳 .
Россия 🇷🇺 и Германия 🇩🇪 опустятся, соответственно на 9 и 8 места, уступив позиции Индонезии 🇮🇩 и Японии 🇯🇵 .
Это мнение GitHub
👉 @aisimpleru
GitHub - это популярная платформа для коллективной разработки IT-проектов с возможностью контроля версий и просмотра кода чужих проектов.
В по данным GitHub сообщество российских разработчиков является 6 в мире по количеству пользователей.
В своих прогнозах на 5 лет вперед Github ориентируется на то, что Индия 🇮🇳 по числу разработчиков, зарегистрированных на GitHub, выйдет на 1 место 🚀, вытеснив США 🇺🇸 .
Бразилия 🇧🇷 поднимется на 3 место, потеснив Китай 🇨🇳 .
Россия 🇷🇺 и Германия 🇩🇪 опустятся, соответственно на 9 и 8 места, уступив позиции Индонезии 🇮🇩 и Японии 🇯🇵 .
Это мнение GitHub
👉 @aisimpleru
👍4
Задача ранжирования
Ранжирование - присвоение ранга классу объектов. Ранг изменяется от 1 до + бесконечности. В качестве объектов может выступать что угодно: люди, предметы, документы и т.д. В качестве простого критерия ранжирования - успеваемость для учеников, размер предмета, число страниц в книге. Здесь можно обойтись без сложных ИИ-моделей, сортируя объекты по убыванию значения критерия.
А если в качестве критерия взять релевантность поискового запроса? Это абстрактная величина, которая измеряется в том, насколько точно поисковая выдача соответствует требованиям запроса.
Так работают поисковые системы Yandex и Google. Каждую секунду поисковики выдают ТОП-10.
Основные алгоритмы:
1. Поточечный - построение регрессионной зависимости (ссылка) для каждой пары - запрос / документ
2. Попарный - создание бинарного классификатора, когда на вход поступают 2 документа, на выходе модель определяет лучший из них (см. RankNet, FRank, RankBoost, RankSVM, IR-SVM)
3. Списочный - на вход поступают все документы, на выходе - перестановка документов уже в проранжированном виде (см. SoftRank, SVMmap, AdaRank, RankGP, ListNet, ListMLE)
4. Нейросетевые алгоритмы. Так работает поиск Яндекса. Алгоритм был представлен в 2020 году. Нейронная сеть обучается приближать смысловую связь между запросом и документом на миллиардах обучающих примеров.
Источники:
- wiki
- Нейросетевой алгоритм Яндекса
👉 @aisimpleru
Ранжирование - присвоение ранга классу объектов. Ранг изменяется от 1 до + бесконечности. В качестве объектов может выступать что угодно: люди, предметы, документы и т.д. В качестве простого критерия ранжирования - успеваемость для учеников, размер предмета, число страниц в книге. Здесь можно обойтись без сложных ИИ-моделей, сортируя объекты по убыванию значения критерия.
А если в качестве критерия взять релевантность поискового запроса? Это абстрактная величина, которая измеряется в том, насколько точно поисковая выдача соответствует требованиям запроса.
Так работают поисковые системы Yandex и Google. Каждую секунду поисковики выдают ТОП-10.
Основные алгоритмы:
1. Поточечный - построение регрессионной зависимости (ссылка) для каждой пары - запрос / документ
2. Попарный - создание бинарного классификатора, когда на вход поступают 2 документа, на выходе модель определяет лучший из них (см. RankNet, FRank, RankBoost, RankSVM, IR-SVM)
3. Списочный - на вход поступают все документы, на выходе - перестановка документов уже в проранжированном виде (см. SoftRank, SVMmap, AdaRank, RankGP, ListNet, ListMLE)
4. Нейросетевые алгоритмы. Так работает поиск Яндекса. Алгоритм был представлен в 2020 году. Нейронная сеть обучается приближать смысловую связь между запросом и документом на миллиардах обучающих примеров.
Источники:
- wiki
- Нейросетевой алгоритм Яндекса
👉 @aisimpleru
👍3
Галлюцинации AI
Что-нибудь слышали о таком?
На изображениях к посту я привел свой вчерашний диалог с ChatGPT 3.5.
ИИ-модель запуталась в своих ответах про Юрия Лозу и его песни🤭
Современные модели ИИ могут искажать выходную информацию.
Галлюцинации ИИ — ситуация, когда модель не знает ответа на вопрос и выдает неверные результаты.
Галлюцинации опасны тем, что ИИ упрямо настаивает на своём. Если уличить модель во лжи, она продолжит доказывать свою правоту.
Чем могут быть вызваны галлюцинации ИИ?
1️⃣ Качество данных ИИ
2️⃣ Неверная обратная связь пользователей
3️⃣ Принцип работы ИИ-модели
4️⃣ Неточный или слишком сложный запрос
Как определить галлюцинации ИИ?
Пока что никто не придумал способа вычислять галлюцинации со 100% точностью. Самый надёжный вариант — проверять ответы модели через другие источники.
Модели ИИ будут совершенствоваться сводя к минимуму процент брака в выдаче ответов. Качество обучения будет улучшаться. Вскоре определить станет невозможно - модель ИИ случайно ошибается или намеренно искажает выдаваемые ответы. Совсем как человек 😎
👉 @aisimpleru
Что-нибудь слышали о таком?
На изображениях к посту я привел свой вчерашний диалог с ChatGPT 3.5.
ИИ-модель запуталась в своих ответах про Юрия Лозу и его песни🤭
Современные модели ИИ могут искажать выходную информацию.
Галлюцинации ИИ — ситуация, когда модель не знает ответа на вопрос и выдает неверные результаты.
Галлюцинации опасны тем, что ИИ упрямо настаивает на своём. Если уличить модель во лжи, она продолжит доказывать свою правоту.
Чем могут быть вызваны галлюцинации ИИ?
1️⃣ Качество данных ИИ
2️⃣ Неверная обратная связь пользователей
3️⃣ Принцип работы ИИ-модели
4️⃣ Неточный или слишком сложный запрос
Как определить галлюцинации ИИ?
Пока что никто не придумал способа вычислять галлюцинации со 100% точностью. Самый надёжный вариант — проверять ответы модели через другие источники.
Модели ИИ будут совершенствоваться сводя к минимуму процент брака в выдаче ответов. Качество обучения будет улучшаться. Вскоре определить станет невозможно - модель ИИ случайно ошибается или намеренно искажает выдаваемые ответы. Совсем как человек 😎
👉 @aisimpleru
👍5
Яндекс выпустил нейробраузер, стоит ли скачивать?
14 февраля 2024 компания «Яндекс» представила свой браузер со встроенным ИИ.
В список нововведений входят:
🔹 нейроредактирование - позволяет в один клик редактировать тексты, изменяя стиль, обобщая текст или исправляя ошибки.
🔹 генерация изображений при помощи YandexART - можно создавать собственные изображения по запросу «Нарисуй»,
🔹 пересказ и перевод видео - можно быстро получить информацию о видео, в т.ч. перевод на русский.
Стоит ли скачивать?
На наш взгляд, ИИ-функции еще сыроваты.
Посмотрите на изображение к посту, в особенности, на руки девушки. Такие картинки Midjourney генерировала 1,5 - 2 года назад.
Источник: https://browser.yandex.ru/c/index
👉 @aisimpleru
14 февраля 2024 компания «Яндекс» представила свой браузер со встроенным ИИ.
В список нововведений входят:
🔹 нейроредактирование - позволяет в один клик редактировать тексты, изменяя стиль, обобщая текст или исправляя ошибки.
🔹 генерация изображений при помощи YandexART - можно создавать собственные изображения по запросу «Нарисуй»,
🔹 пересказ и перевод видео - можно быстро получить информацию о видео, в т.ч. перевод на русский.
Стоит ли скачивать?
На наш взгляд, ИИ-функции еще сыроваты.
Посмотрите на изображение к посту, в особенности, на руки девушки. Такие картинки Midjourney генерировала 1,5 - 2 года назад.
Источник: https://browser.yandex.ru/c/index
👉 @aisimpleru
👍4
Посмотрите на эти видео. Замечаете что-то необычное?
Перед вами три детально проработанных видео, которые созданы искусственным интеллектом от OpenAI.
Sora - это новая модель, которая генерирует видео длиной до 1 минуты по текстовому запросу пользователя.
Креативные изображения в прошлом. Создавайте миры-вселенные в видеоформате. И это только начало.
Представьте, как в ближайшие годы изменится привычное нам мультимедийное пространство и вся наша жизнь!
По словам разработчиков, Sora - основа для моделей, которые могут понимать и моделировать реальный мир. Эта способность станет важной вехой на пути к созданию общего искусственного интеллекта (AGI).
С нетерпением ждем, когда эта модель станет доступна широкому кругу пользователей.
👉 @aisimpleru
Перед вами три детально проработанных видео, которые созданы искусственным интеллектом от OpenAI.
Sora - это новая модель, которая генерирует видео длиной до 1 минуты по текстовому запросу пользователя.
Креативные изображения в прошлом. Создавайте миры-вселенные в видеоформате. И это только начало.
Представьте, как в ближайшие годы изменится привычное нам мультимедийное пространство и вся наша жизнь!
По словам разработчиков, Sora - основа для моделей, которые могут понимать и моделировать реальный мир. Эта способность станет важной вехой на пути к созданию общего искусственного интеллекта (AGI).
С нетерпением ждем, когда эта модель станет доступна широкому кругу пользователей.
👉 @aisimpleru
👍5🔥1
Ученые из MIT разработали ИИ-модель, позволяющую определить какие препараты нельзя принимать вместе
Используя алгоритм машинного обучения, исследователи могут прогнозировать взаимодействия в организме человека, которые влияют на эффективность препарата.
Почти каждый препарат, который мы принимаем всасывается в кишечнике. За всасывание условно отвечают белки-переносчики. ИИ-модель позволяет определить такие белки, которые используются для различных лекарств.
В случае если для антибиотика и средства для разжижения крови используется один и тот же белок-переносчик, то такие препараты будут мешать друг другу при одновременном приеме внутрь.
ИИ-модель позволяет прогнозировать эффективность всасывания, тем самым повышая качество медикаментозного лечения, если одновременно назначено несколько препаратов.
Источник: nature.com
👉 @aisimpleru
Используя алгоритм машинного обучения, исследователи могут прогнозировать взаимодействия в организме человека, которые влияют на эффективность препарата.
Почти каждый препарат, который мы принимаем всасывается в кишечнике. За всасывание условно отвечают белки-переносчики. ИИ-модель позволяет определить такие белки, которые используются для различных лекарств.
В случае если для антибиотика и средства для разжижения крови используется один и тот же белок-переносчик, то такие препараты будут мешать друг другу при одновременном приеме внутрь.
ИИ-модель позволяет прогнозировать эффективность всасывания, тем самым повышая качество медикаментозного лечения, если одновременно назначено несколько препаратов.
Источник: nature.com
👉 @aisimpleru
👍6🔥1
Карьерный путь дата-саентиста или аналитика данных
Ранее мы уже писали, кто такие дата-саентисты или Data Scientists. Еще их иногда называют аналитиками данных.
Для тех, кто хочет развиваться в этом направлении, Яндекс.Практикум подготовил схему карьерного пути.
Не забудьте поделиться с друзьями.
Интересно, что все начинается с базовой аналитики. Затем специалист может развиваться в сфере Data Science или же уйти в продуктовую аналитику или маркетинг.
Все эти направления бок о бок пересекаются с ИИ и машинным обучением.
P.S. Это не реклама, просто рекомендация 😊
👉 @aisimpleru
Ранее мы уже писали, кто такие дата-саентисты или Data Scientists. Еще их иногда называют аналитиками данных.
Для тех, кто хочет развиваться в этом направлении, Яндекс.Практикум подготовил схему карьерного пути.
Не забудьте поделиться с друзьями.
Интересно, что все начинается с базовой аналитики. Затем специалист может развиваться в сфере Data Science или же уйти в продуктовую аналитику или маркетинг.
Все эти направления бок о бок пересекаются с ИИ и машинным обучением.
P.S. Это не реклама, просто рекомендация 😊
👉 @aisimpleru
👍4
Почему полноценный ИИ невозможен?
Ответ на этот вопрос - на картинке к посту.
Крупные СМИ во всем мире трубят о том, что скоро ИИ вытеснит человека из привычных сфер деятельности. Миром будут править роботы, а людям останется низкооплачиваемая работа или творчество. Так ли это на самом деле?
Почти все современные математические алгоритмы ИИ, моделируют функции работы коры головного мозга человека. Многослойные нейронные сети (Deep Learning), большие языковые модели (Large Language Models) и др.
Кора головного мозга или неокортекс отвечает за абстрактное мышление, обучение, адаптацию, речь, слух, зрительное восприятие.
Заметьте, что ни одна распиаренная модель ИИ не моделирует эмоции, регуляцию температуры или поведение. Безусловно, такие работы ведутся, и мы о них расскажем.
Сейчас на волне хайпа только генеративный ИИ - ChatGPT, Stable Diffusion, MidJourney и подобное.
Вы только вдумайтесь, какой пласт человеческих функций, присущих мозгу, текущие модели не описывают! Миллиардные бюджеты выделяются на создание моделирование работы некортекса.
Идея отбросить на второй план другие отделы мозга слишком примитивна. Без математического описания и дальнейшей разработки моделей эмоционального, поведенческого интеллекта, все научное направление может зайти не туда или лопнуть, как надутый пузырь.
По нашему мнению, без моделирования эмоций, инстинктов ИИ будет лишен способности называться интеллектом в полной мере. Согласны?
👉 @aisimpleru
Ответ на этот вопрос - на картинке к посту.
Крупные СМИ во всем мире трубят о том, что скоро ИИ вытеснит человека из привычных сфер деятельности. Миром будут править роботы, а людям останется низкооплачиваемая работа или творчество. Так ли это на самом деле?
Почти все современные математические алгоритмы ИИ, моделируют функции работы коры головного мозга человека. Многослойные нейронные сети (Deep Learning), большие языковые модели (Large Language Models) и др.
Кора головного мозга или неокортекс отвечает за абстрактное мышление, обучение, адаптацию, речь, слух, зрительное восприятие.
Заметьте, что ни одна распиаренная модель ИИ не моделирует эмоции, регуляцию температуры или поведение. Безусловно, такие работы ведутся, и мы о них расскажем.
Сейчас на волне хайпа только генеративный ИИ - ChatGPT, Stable Diffusion, MidJourney и подобное.
Вы только вдумайтесь, какой пласт человеческих функций, присущих мозгу, текущие модели не описывают! Миллиардные бюджеты выделяются на создание моделирование работы некортекса.
Идея отбросить на второй план другие отделы мозга слишком примитивна. Без математического описания и дальнейшей разработки моделей эмоционального, поведенческого интеллекта, все научное направление может зайти не туда или лопнуть, как надутый пузырь.
По нашему мнению, без моделирования эмоций, инстинктов ИИ будет лишен способности называться интеллектом в полной мере. Согласны?
👉 @aisimpleru
👍6❤2🔥1😱1
Число проектов в сфере генеративного ИИ выросло на 350% за 1 год
По данным GitHub количество проектов в области генеративного искусственного интеллекта (Generative AI) на одноименной платформе выросло с 2022 по 2023 с
до 60 000 штук. Рост составил почти 350%.
Это немыслимые цифры. В ближайшее время, мы увидим новую волну хайпа, связанную с ИИ-моделями, генерирующими видео, дипфейки, создающие любые виды контента по запросу пользователя.
Держим руку на пульсе.
👉 @aisimpleru
По данным GitHub количество проектов в области генеративного искусственного интеллекта (Generative AI) на одноименной платформе выросло с 2022 по 2023 с
до 60 000 штук. Рост составил почти 350%.
Это немыслимые цифры. В ближайшее время, мы увидим новую волну хайпа, связанную с ИИ-моделями, генерирующими видео, дипфейки, создающие любые виды контента по запросу пользователя.
Держим руку на пульсе.
👉 @aisimpleru
👍4
Stable AI представила новую версию знаменитой нейросети для генерации изображений StableDiffusion 3
Новая версия нейронной сети доступна в листе ожидания.
От 800 млн. до 8 млрд. параметров, теперь входят в набор в моделей Stable Diffusion 3.
Напомним, что Stable Diffusion - нейросетевая программная модель.
Модель получает на входе текстовые описания или промпты (от англ. prompt - подсказка) и на выходе создает соответствующие изображения.
Stable Diffusion может улучшать качество изображений, делая их более четкими и красочными. Эти функции используются в медицине, когда врачи анализируют снимки или результаты КТ или МРТ, в медиа-сфере, чтобы создавать креативные и улучшенные изображения.
Источник: stability.ai
👉 @aisimpleru
Новая версия нейронной сети доступна в листе ожидания.
От 800 млн. до 8 млрд. параметров, теперь входят в набор в моделей Stable Diffusion 3.
Напомним, что Stable Diffusion - нейросетевая программная модель.
Модель получает на входе текстовые описания или промпты (от англ. prompt - подсказка) и на выходе создает соответствующие изображения.
Stable Diffusion может улучшать качество изображений, делая их более четкими и красочными. Эти функции используются в медицине, когда врачи анализируют снимки или результаты КТ или МРТ, в медиа-сфере, чтобы создавать креативные и улучшенные изображения.
Источник: stability.ai
👉 @aisimpleru
👍2
Функция потерь для сверточной нейронной сети с 56 слоями (Deep Learning)
Красиво выглядит, не правда ли? Как вы думаете, что это такое? Похоже на какой-то каньон или горные хребты 🏔.
На картинке изображена визуализация функции потерь для многослойной нейронной сети.
В ранних постах мы уже касались процесса и алгоритмов обучения нейронных сетей.
Функция потерь - математическая функция, которая сравнивает результат работы модели (нейронной сети) с истинным выходом и выдает оценку.
Оценка показывает, насколько они различаются. Цель модели машинного обучения — свести к минимуму эту разницу или «потерю», чтобы решать задачу с наилучшей точностью.
Самой популярной задачей сверточных нейронных сетей является распознавание изображений. При решении этой задачи используются сложные структуры со множеством нейронов и скрытых слоев.
То есть одновременно расчитываются потери для матрицы (таблицы) элементов.
Именно поэтому функции потерь для многослойных нейронных сетей представляют собой сложные поверхности в форме оврагов, каньонов и озер.
Источник изображения: habr.com
👉 @aisimpleru
Красиво выглядит, не правда ли? Как вы думаете, что это такое? Похоже на какой-то каньон или горные хребты 🏔.
На картинке изображена визуализация функции потерь для многослойной нейронной сети.
В ранних постах мы уже касались процесса и алгоритмов обучения нейронных сетей.
Функция потерь - математическая функция, которая сравнивает результат работы модели (нейронной сети) с истинным выходом и выдает оценку.
Оценка показывает, насколько они различаются. Цель модели машинного обучения — свести к минимуму эту разницу или «потерю», чтобы решать задачу с наилучшей точностью.
Самой популярной задачей сверточных нейронных сетей является распознавание изображений. При решении этой задачи используются сложные структуры со множеством нейронов и скрытых слоев.
То есть одновременно расчитываются потери для матрицы (таблицы) элементов.
Именно поэтому функции потерь для многослойных нейронных сетей представляют собой сложные поверхности в форме оврагов, каньонов и озер.
Источник изображения: habr.com
👉 @aisimpleru
👍4
Более детальная классификация задач машинного обучения
Сегодня хотелось бы дополнить вот этот пост.
Мы расширили схему, на которой изображены типы задач машинного обучения. Теперь схема содержит более понятные задачи предметной области.
Сохраните 💾 себе где-нибудь!
👉 @aisimpleru
Сегодня хотелось бы дополнить вот этот пост.
Мы расширили схему, на которой изображены типы задач машинного обучения. Теперь схема содержит более понятные задачи предметной области.
Сохраните 💾 себе где-нибудь!
👉 @aisimpleru
👍3
Самая крупная в мире LLM-модель от Amazon успешно обучена
Исследователи из Amazon обучили новую большую языковую модель (LLM) для преобразования текста в речь, которая, по их словам, демонстрирует невероятные способности.
Модель с 980 миллионами параметров, названная BASE TTS - самая крупная из моделей для преобразования текста в речь. Разработчики обучали модели разных размеров на 100 000 часах речевых данных из открытых источников.
Они обнаружили, что их модель среднего размера с 400 миллионами параметров, обученная на 10 000 часов аудио, продемонстрировала заметное улучшение универсальности и устойчивости на сложных тестовых предложениях.
Хотя BASE TTS не справилась с ними идеально, она допустила значительно меньше ошибок в ударении, интонации и произношении, чем существующие модели.
Как это работает?
Преобразователь на основе авторегрессии преобразует исходный текст в специальные речевые коды (speechcodes), затем сверточная нейронная сеть (convolution-based decoder) декодирует их непосредственно звуковые волны, по сути являющиеся речью.
Учитывая, что российский ИИ отстает от крупных мировых корпораций примерно на 1,5-2 года, первая отечественная LLM такого типа должна появиться в 2025-2026 году.
Источник: amazon.science
👉 @aisimpleru
Исследователи из Amazon обучили новую большую языковую модель (LLM) для преобразования текста в речь, которая, по их словам, демонстрирует невероятные способности.
Модель с 980 миллионами параметров, названная BASE TTS - самая крупная из моделей для преобразования текста в речь. Разработчики обучали модели разных размеров на 100 000 часах речевых данных из открытых источников.
Они обнаружили, что их модель среднего размера с 400 миллионами параметров, обученная на 10 000 часов аудио, продемонстрировала заметное улучшение универсальности и устойчивости на сложных тестовых предложениях.
Хотя BASE TTS не справилась с ними идеально, она допустила значительно меньше ошибок в ударении, интонации и произношении, чем существующие модели.
Как это работает?
Преобразователь на основе авторегрессии преобразует исходный текст в специальные речевые коды (speechcodes), затем сверточная нейронная сеть (convolution-based decoder) декодирует их непосредственно звуковые волны, по сути являющиеся речью.
Учитывая, что российский ИИ отстает от крупных мировых корпораций примерно на 1,5-2 года, первая отечественная LLM такого типа должна появиться в 2025-2026 году.
Источник: amazon.science
👉 @aisimpleru
👍2