Тут я сравнил FLUX.1 [pro] с FLUX.1 [dev].
Видно, что Guidance Distillation очень хорошо справилась с задачей и почти не повлияла на качество FLUX.1 [dev].
High-frequency детали не такие резкие у дистиллированной модели – смотри на перья Эму в первой паре.
Text Faithfulness только немного пострадал от дистилляции – вместо двух алигаторов, стал только один. В остальном в моем маленьком тесте она показала себя на уровне оригинально модели. Даже на тесте с людьми и гориллами, где модели от гугла часто прокалывались в прошлом, FLUX.1 модель выдала достойный результат.
Первая картинка в каждой паре - FLUX.1 [pro],
Ввторая картинка - FLUX.1 [dev].
Промпты в комментах.
Тыкал в бесплатое демо:
- https://fal.ai/models/fal-ai/flux-pro
- https://fal.ai/models/fal-ai/flux/dev
@ai_newz
Видно, что Guidance Distillation очень хорошо справилась с задачей и почти не повлияла на качество FLUX.1 [dev].
High-frequency детали не такие резкие у дистиллированной модели – смотри на перья Эму в первой паре.
Text Faithfulness только немного пострадал от дистилляции – вместо двух алигаторов, стал только один. В остальном в моем маленьком тесте она показала себя на уровне оригинально модели. Даже на тесте с людьми и гориллами, где модели от гугла часто прокалывались в прошлом, FLUX.1 модель выдала достойный результат.
Первая картинка в каждой паре - FLUX.1 [pro],
Ввторая картинка - FLUX.1 [dev].
Промпты в комментах.
Тыкал в бесплатое демо:
- https://fal.ai/models/fal-ai/flux-pro
- https://fal.ai/models/fal-ai/flux/dev
@ai_newz
Умельцы прикрутили новую Ламу 405B к Comfy UI.
Работает на хостинге Replicate. По сути, это кастомная нода, которая пишет полноценный промпт из простого описания (prompt rewrite), так же как ChatGPT для Dalle-3.
Вообще мне не очень понравился процесс генерации картинок в нашем любимом чатГПТ, потому что у тебя нет контроля над финальным промптом, который идёт в диффузионку. Даже если просишь использовать данный промпт слово в слово, гптишка нет-нет, да меняет там что-нибудь без твоего разрешения. А суть промпт-инжиниринга в том, чтобы итеративно менять промпт и смотреть, что улучшилось, но бот часто берет и всё переписывает. Хотя для новичков это, конечно, топчик. Ну и как отправная точка для профи, тоже хорошо.
Вижу такой пайплайн для генерации короткометражных фильмов:
1) Сценарист выдаёт краткое описание кадров и, может быть, скетч от руки.
2) Нодами генерим промпт для каждого кадра на вход, берём скетчи и раскадровку от сценариста.
3) Художник пишет промпт для стиля. Добавляем его после промпта каждого кадра отдельной нодой. Подбирает модельки, лоры и пр.
4) Запускаем весь батч раз 5-10, берём лучшие кадры.
5) Идем в Luma оживлять картинки.
Кстати, нужны гайды по Комфи? Ставьте 🦄
Гитхаб
@ai_newz
Работает на хостинге Replicate. По сути, это кастомная нода, которая пишет полноценный промпт из простого описания (prompt rewrite), так же как ChatGPT для Dalle-3.
Вообще мне не очень понравился процесс генерации картинок в нашем любимом чатГПТ, потому что у тебя нет контроля над финальным промптом, который идёт в диффузионку. Даже если просишь использовать данный промпт слово в слово, гптишка нет-нет, да меняет там что-нибудь без твоего разрешения. А суть промпт-инжиниринга в том, чтобы итеративно менять промпт и смотреть, что улучшилось, но бот часто берет и всё переписывает. Хотя для новичков это, конечно, топчик. Ну и как отправная точка для профи, тоже хорошо.
Вижу такой пайплайн для генерации короткометражных фильмов:
1) Сценарист выдаёт краткое описание кадров и, может быть, скетч от руки.
2) Нодами генерим промпт для каждого кадра на вход, берём скетчи и раскадровку от сценариста.
3) Художник пишет промпт для стиля. Добавляем его после промпта каждого кадра отдельной нодой. Подбирает модельки, лоры и пр.
4) Запускаем весь батч раз 5-10, берём лучшие кадры.
5) Идем в Luma оживлять картинки.
Кстати, нужны гайды по Комфи? Ставьте 🦄
Гитхаб
@ai_newz
Вместе с ним Google хайрит ещё одного кофаундера и около 30 (из 130) сотрудников Character. Взамен Google даёт большой мешок денег инвесторам стартапа и лицензирует его технологии. По факту это приобретение, но чтобы не разозлить FTC какой-то призрак компании будет функционировать.
Ноам это один из главных звёзд в ИИ ресёрче: один из авторов оригинального Attention is All You Need, T5, PaLM, нескольких важных пейперов о MoE, придумал Multi-Query Attention. Количество людей с таким количеством импакта можно посчитать на пальцах.
В итоге Google станет ещё сильнее, особенно интересно это ощущается на фоне недавних результатов на арене. Из приятного - Character обещает удариться в опенсорс, учитывая уровень эффективности их моделей, всему опенсорс комьюнити они точно не помешают.
А помните пару месяцев назад Microsoft провернул такой же трюк с Inflection?
@ai_newz
Please open Telegram to view this post
VIEW IN TELEGRAM
У Nvidia проблемы - Blackwell задерживается
В суперчипах GB200 нашли изъян - у чипа, отвечающего за связь двух B200 друг с другом и с Grace CPU, слишком большое количество производственных дефектов. Чтобы удовлетворить гигантский спрос, его нужно редизайнить. Если всё пойдёт хорошо, Blackwell поставят на три месяца позже планируемого срока.
Это заметно задержит развёртывание ряда кластеров: Microsoft хотела дать OpenAI доступ к 50 тыс.+ GPU нового поколения к началу 2025 года, Google заказал 400 тыс. GPU для своего облака, ряд других технологических гигантов сделали заказы на 10+ миллиардов долларов. Из-за этого новое поколение моделей, для тренировки которых и нужны новые кластеры, задержится на несколько месяцев.
@ai_newz
В суперчипах GB200 нашли изъян - у чипа, отвечающего за связь двух B200 друг с другом и с Grace CPU, слишком большое количество производственных дефектов. Чтобы удовлетворить гигантский спрос, его нужно редизайнить. Если всё пойдёт хорошо, Blackwell поставят на три месяца позже планируемого срока.
Это заметно задержит развёртывание ряда кластеров: Microsoft хотела дать OpenAI доступ к 50 тыс.+ GPU нового поколения к началу 2025 года, Google заказал 400 тыс. GPU для своего облака, ряд других технологических гигантов сделали заказы на 10+ миллиардов долларов. Из-за этого новое поколение моделей, для тренировки которых и нужны новые кластеры, задержится на несколько месяцев.
@ai_newz
This media is not supported in your browser
VIEW IN TELEGRAM
Whisper Medusa - сверхбыстрое распознавание речи
Файнтюн Whisper со слегка изменённой архитектурой - теперь за одну итерацию модель выдаёт несколько токенов, а не один. В разы ускоряет декодинг, но качество слегка проседает.
Подход похож на недавнюю Multi-Token Prediction Language Model от коллег из Meta, только тут это применили для распознавания речи
Ждём когда это применят к Distil Whisper
Код
Веса
@ai_newz
Файнтюн Whisper со слегка изменённой архитектурой - теперь за одну итерацию модель выдаёт несколько токенов, а не один. В разы ускоряет декодинг, но качество слегка проседает.
Подход похож на недавнюю Multi-Token Prediction Language Model от коллег из Meta, только тут это применили для распознавания речи
Ждём когда это применят к Distil Whisper
Код
Веса
@ai_newz
Стартап Exactly.ai ищет Head of ML Engineering
Exactly.ai — это платформа, позволяющий художникам тренировать ML-модели на своих иллюстрациях и предоставлять их в аренду брендам. Бренды могут создавать иллюстрации для маркетинговых кампаний с помощью моделей лучших художников. Exactly.ai — самый большой хаб персональных моделей, созданных профессиональными художниками и иллюстраторами. В прошлом году Google включил Exactly.ai в топ-15 лучших стартапов. Компания привлекла Seed Round и стремится к расширению.
Мы ищем специалиста с опытом в ML-инженерии и руководстве командой, который будет играть ключевую роль в развитии наших технологий.
Ваша работа будет включать разработку и внедрение инновационных ML решений, оптимизацию и улучшение существующих алгоритмов и моделей, а также управление командой ML-инженеров.
Крутая команда, конкурентная зарплата, опцион, офис в Лондоне с возможностью удаленной работы, подробности.
Если вам интересно, отправьте ваше резюме и сопроводительное письмо на roman@exactly.ai
#промо
Exactly.ai — это платформа, позволяющий художникам тренировать ML-модели на своих иллюстрациях и предоставлять их в аренду брендам. Бренды могут создавать иллюстрации для маркетинговых кампаний с помощью моделей лучших художников. Exactly.ai — самый большой хаб персональных моделей, созданных профессиональными художниками и иллюстраторами. В прошлом году Google включил Exactly.ai в топ-15 лучших стартапов. Компания привлекла Seed Round и стремится к расширению.
Мы ищем специалиста с опытом в ML-инженерии и руководстве командой, который будет играть ключевую роль в развитии наших технологий.
Ваша работа будет включать разработку и внедрение инновационных ML решений, оптимизацию и улучшение существующих алгоритмов и моделей, а также управление командой ML-инженеров.
Крутая команда, конкурентная зарплата, опцион, офис в Лондоне с возможностью удаленной работы, подробности.
Если вам интересно, отправьте ваше резюме и сопроводительное письмо на roman@exactly.ai
#промо
Scaling Laws with Vocabulary: Larger Models Deserve Larger Vocabularies
В последнее время, увеличение размера словаря токенизатора для LLM всплывало в основном как метод улучшения многоязычного перформанса. Но часто народ забывает, что увеличение размера словаря ещё и позволяет пропустить через LLM больше текста при том же компьюте (потому что в каждый токен, в среднем, будет влезать больше букв), тем самым повысив эффективность тренировки и улучшив результаты модели. Но где предел такому росту эффективности?
В этом пейпере авторы натренировали ряд моделей с разными размерами словаря токенизатора и вывели формулу для расчёта оптимальных размеров. Вот основные выводы:
➖ У большинства современных моделей словари слишком маленькие, результаты можно заметно улучшить просто его увеличив.
➖ Оптимальный размер словаря растёт очень медленно - с увеличением модели в 100 раз, оптимальный словарь растёт в 10.
➖ Модели учатся хуже как со словарём больше оптимального, так и меньше оптимального.
➖ Если есть ограничение в размере датасета, иногда лучше использовать неоптимальный токенизатор, чтобы увеличить количество токенов, и тем самым улучшить результаты.
➖ Оптимальный размер словаря токенизатора Llama 3.1 405B - полмиллиона токенов, в 4 раза больше оригинального словаря.
Токенизаторы — это всё ещё очень плохо изученная тема, и даже большие лабы делают тут банальные ошибки. Если хотите разобраться как они работают сейчас, то вот лучший туториал.
Пейпер
@ai_newz
В последнее время, увеличение размера словаря токенизатора для LLM всплывало в основном как метод улучшения многоязычного перформанса. Но часто народ забывает, что увеличение размера словаря ещё и позволяет пропустить через LLM больше текста при том же компьюте (потому что в каждый токен, в среднем, будет влезать больше букв), тем самым повысив эффективность тренировки и улучшив результаты модели. Но где предел такому росту эффективности?
В этом пейпере авторы натренировали ряд моделей с разными размерами словаря токенизатора и вывели формулу для расчёта оптимальных размеров. Вот основные выводы:
➖ У большинства современных моделей словари слишком маленькие, результаты можно заметно улучшить просто его увеличив.
➖ Оптимальный размер словаря растёт очень медленно - с увеличением модели в 100 раз, оптимальный словарь растёт в 10.
➖ Модели учатся хуже как со словарём больше оптимального, так и меньше оптимального.
➖ Если есть ограничение в размере датасета, иногда лучше использовать неоптимальный токенизатор, чтобы увеличить количество токенов, и тем самым улучшить результаты.
➖ Оптимальный размер словаря токенизатора Llama 3.1 405B - полмиллиона токенов, в 4 раза больше оригинального словаря.
Токенизаторы — это всё ещё очень плохо изученная тема, и даже большие лабы делают тут банальные ошибки. Если хотите разобраться как они работают сейчас, то вот лучший туториал.
Пейпер
@ai_newz
Варшава x ai_newz!
Друзья, я еду Варшаву на несколько дней! Хочется поотдыхать и поработать в новой обстановке, и, конечно, поесть белорусской, украинской и польской вкуснятины (кстати, посоветуйте хорошие места)!
Я знаю, что там должно быть очень большое комьюнити наших ребят. Было бы круто сделать сходку, познакомиться. В этом году я так уже делал в Сан-Франциско и Тбилиси – это были всегда очень классные встречи.
Если вы сейчас в Варшаве, вступайте в чат, там договоримся, когда и где организуем митап:
https://t.me/+XZX3N3B-DP9mZjUy
#personal
@ai_newz
Друзья, я еду Варшаву на несколько дней! Хочется поотдыхать и поработать в новой обстановке, и, конечно, поесть белорусской, украинской и польской вкуснятины (кстати, посоветуйте хорошие места)!
Я знаю, что там должно быть очень большое комьюнити наших ребят. Было бы круто сделать сходку, познакомиться. В этом году я так уже делал в Сан-Франциско и Тбилиси – это были всегда очень классные встречи.
Если вы сейчас в Варшаве, вступайте в чат, там договоримся, когда и где организуем митап:
https://t.me/+XZX3N3B-DP9mZjUy
#personal
@ai_newz
This media is not supported in your browser
VIEW IN TELEGRAM
Генерация видео от Black Forest Labs
Они релизнули FLUX.1 всего неделю назад, а уже тизерят SOTA видеогенерацию. Видео искажено эффектом телевизора, но выглядит очень впечатляюще.
Ребята наглядно показывают насколько в Stability был фиговый менеджмент. Если за полгода с нуля те же самые люди, которые сделали SD3 забахали такое, то в Stability всё очень запущено, некому пилить ресерчи, а новый менеджмент может и не спасти.
Как думаете, будет опенсорс?
@ai_newz
Они релизнули FLUX.1 всего неделю назад, а уже тизерят SOTA видеогенерацию. Видео искажено эффектом телевизора, но выглядит очень впечатляюще.
Ребята наглядно показывают насколько в Stability был фиговый менеджмент. Если за полгода с нуля те же самые люди, которые сделали SD3 забахали такое, то в Stability всё очень запущено, некому пилить ресерчи, а новый менеджмент может и не спасти.
Как думаете, будет опенсорс?
@ai_newz
Дешёвые, как грязь, LLM
API-провайдеры невероятно быстро снижают стоимость использования своих LLM. При отсутствии ярко выраженного лидера по качеству моделей, главным аргументом становится цена.
➖ Google с 12 августа дропает цены на Gemini Flash на 80%. Вот и реакция на GPT-4o mini, спустя две недели после релиза. Вот бы то же самое сделали с Pro 1.5.
➖ Новая версия GPT-4o упала в цене до $2.5 input/$10 output за миллион токенов, прошлые версии стоили $5 input/$15 output за миллион токенов. Последний месяц Claude 3.5 Sonnet и Llama 3.1 405B сильно поджимали OpenAI по цене, пришлось отвечать.
➖Deepseek релизит обещанный месяц назад Context Caching. Цены поражают: стоимость токенов при попадании в кэш падает не в 2x, как у гугла, а в 10x, при этом с бесплатным хранением. DeepSeek V2 и так произвёл эффект разорвавшейся бомбы на китайском рынке три месяца назад: модель была в разы дешевле конкурентов, при лучшем качестве. А сейчас нанесли добивающий удар.
С такими темпами цена за миллион токенов станет меньше цента менее чем через год. И будем мы мерять цены в долларах за миллиард токенов.
А помните, цены на GPT-4 доходили до $60 input/$120 output?
@ai_newz
API-провайдеры невероятно быстро снижают стоимость использования своих LLM. При отсутствии ярко выраженного лидера по качеству моделей, главным аргументом становится цена.
➖ Google с 12 августа дропает цены на Gemini Flash на 80%. Вот и реакция на GPT-4o mini, спустя две недели после релиза. Вот бы то же самое сделали с Pro 1.5.
➖ Новая версия GPT-4o упала в цене до $2.5 input/$10 output за миллион токенов, прошлые версии стоили $5 input/$15 output за миллион токенов. Последний месяц Claude 3.5 Sonnet и Llama 3.1 405B сильно поджимали OpenAI по цене, пришлось отвечать.
➖Deepseek релизит обещанный месяц назад Context Caching. Цены поражают: стоимость токенов при попадании в кэш падает не в 2x, как у гугла, а в 10x, при этом с бесплатным хранением. DeepSeek V2 и так произвёл эффект разорвавшейся бомбы на китайском рынке три месяца назад: модель была в разы дешевле конкурентов, при лучшем качестве. А сейчас нанесли добивающий удар.
С такими темпами цена за миллион токенов станет меньше цента менее чем через год. И будем мы мерять цены в долларах за миллиард токенов.
А помните, цены на GPT-4 доходили до $60 input/$120 output?
@ai_newz
Вместе с анонсом понижения цен на Gemini Flash, Google анонсировали ещё и доступность тюнинга моделей Gemini для всех разработчиков. Я тогда как-то анонс пропустил, а ведь это разрыв:
➖ Тюнинг бесплатный. Совсем. Не только для Flash, но и для Pro.
➖ Цена инференса затюнненных такая же как и у обычных моделей (у OpenAI затюненные модели стоят в два раза дороже).
Работает это, скорее всего, через что-то похожее на batched LoRa. Из-за этого качество тюнов на больших датасетах может страдать, насколько - нужно тестить. Кстати API Gemini до определённых лимитов можно использовать бесплатно, за право тюнинга на ваших запросах.
@ai_newz
➖ Тюнинг бесплатный. Совсем. Не только для Flash, но и для Pro.
➖ Цена инференса затюнненных такая же как и у обычных моделей (у OpenAI затюненные модели стоят в два раза дороже).
Работает это, скорее всего, через что-то похожее на batched LoRa. Из-за этого качество тюнов на больших датасетах может страдать, насколько - нужно тестить. Кстати API Gemini до определённых лимитов можно использовать бесплатно, за право тюнинга на ваших запросах.
@ai_newz
Всем хайпующим по 🍓 желаю успокоиться, потрогать траву и нормально провести остаток выходных. Я вот, например, пойду сейчас чилить в сауну и бассейн.
Пояснительная бригада: Project Strawbery - это по слухам грядущее обновление модели ChatGPT. Пока нет оснований утверждать, что это будет каким-то прорывом, но народ сильно хайпует в твитторе.
@ai_newz
@ai_newz
Qwen 2 - Math и Audio
Прямо перед выходными Alibaba релизнула несколько тюнов своей линейки Qwen 2.
Math модель выглядит крайне вкусно - 7B версия обходит недавнюю Mathstral, а 72B обходит ВСЕ существующие модели в математике, даже упомянутую мимоходом в техрепорте версию Gemini заточенную под математику. Но, в отличии от господ из Google, не утруждающих себя "релизами", китайцы выложили все веса на huggingface.
Вместе с Math выпустили ещё и 7B Audio модель, это уже второе поколение аудиомоделей от Alibaba. Лучше во всех бенчмарках, понимает восемь разговорных языков. Но всё ещё немая - может общаться только лишь текстом. До Omni модели от китайцев, видимо, ещё далеко.
Веса Math
Веса Audio
@ai_newz
Прямо перед выходными Alibaba релизнула несколько тюнов своей линейки Qwen 2.
Math модель выглядит крайне вкусно - 7B версия обходит недавнюю Mathstral, а 72B обходит ВСЕ существующие модели в математике, даже упомянутую мимоходом в техрепорте версию Gemini заточенную под математику. Но, в отличии от господ из Google, не утруждающих себя "релизами", китайцы выложили все веса на huggingface.
Вместе с Math выпустили ещё и 7B Audio модель, это уже второе поколение аудиомоделей от Alibaba. Лучше во всех бенчмарках, понимает восемь разговорных языков. Но всё ещё немая - может общаться только лишь текстом. До Omni модели от китайцев, видимо, ещё далеко.
Веса Math
Веса Audio
@ai_newz
This media is not supported in your browser
VIEW IN TELEGRAM
Через пять минут начнётся Made By Google
Презентацию продвигали как анонс новых телефонов Pixel, но они уже тизерят Gemini Live - мб понимающую прямую трансляцию видео и аудио. Может и Gemini 2 завезут.
Интересно что учудит на этот раз OpenAI, они часто привязывают свои релизы к ивентам гугла.
https://www.youtube.com/watch?v=jvyyfvf0gjI
@ai_newz
Презентацию продвигали как анонс новых телефонов Pixel, но они уже тизерят Gemini Live - мб понимающую прямую трансляцию видео и аудио. Может и Gemini 2 завезут.
Интересно что учудит на этот раз OpenAI, они часто привязывают свои релизы к ивентам гугла.
https://www.youtube.com/watch?v=jvyyfvf0gjI
@ai_newz