Love. Death. Transformers.
24.5K subscribers
4.63K photos
525 videos
82 files
3.03K links
❤️☠️🤗

Указанные действия не являются ресерчем, поскольку:
а) Мы не ученые;
б) Оно работает.
@transformerslovedeatch по всем вопросам
Все ситуации вымышлены, любые совпадения с реальности плот вашей фантазии.
Download Telegram
Опен аи релизнули text2video

- папиры нет
- информации нет - Learn more in our technical paper (coming later today).
- демки отвал жопы

https://openai.com/sora
пример
🔥76🤮4🤩3
папиры еще нет, есть только короткое: модель это гибрид трансформера и диффузии.

Ставки, потом посмотрим что внутри:

- отдельные эмбединги кадров генерятся трансформером
- эмбеды из трансформера идут в диффузию с доп. кондишеном на время
- возможно LCM дистиляция диффузии(?)
24🔥2🤔2
админы соревнуются в скорости интернета
😁111🤡7👍1
вышла вышла вышла
openai.com/sora#researchpaper.pdf
174🤡433917🔥8😢4🤮42😁1
Мемы на осень
12825😢103🤩3👍11
папиры в 2020-22: вот такая архитектура, вот такой оптимайзер, вот такой датасет
2024: если модель учить, она учиться

думаю как у dalle3 попозже выйдет что то похожее на нормальную папиру
😁95👍62🔥1
This media is not supported in your browser
VIEW IN TELEGRAM
22🤮3
Не обзор Sora

- архитектура не понятная, патчи, ссылки на cavit(video vit), диффузии, бульбулятор и непойми еще на что
- про данные известно что их размечали синтетически
- если потратить х16 компьюта модель будет работать лучше. что такое х1 компьюта - одному карпатому известно.
- за счет того что трансформер генерит патчи(?) которые декодируются диффузией можно вместо кучи фреймов генерить 1 и притворяться что у нас text2image, а еще решать кучу задач, ну патчи можно inplace удалять и догенеривать кадры в центре, или продолжать видео. Круто и изящно, но деталей нет
- картинка как комментарий к названию статьи.
👍33😁135🤔1
Проклятый таймлайн.
😢273🤡95😁3🤩3🔥1
😢239👍219🔥5🤡3
Внимание загадка.

Pix art alpha это трансформер?
184