Слава OpenClaw не дает людям покоя и один чел решил пойти дальше, создав Web 4.0

Встречайте довольно свежую, радикальную, но ожидаемую концепцию интернета агентов от Sigil Wen. Суть её в том, чтобы посадить существующие модели в некий Терминал, который превратит Клода/ЧатГПТ/Гемини/etc. в самостоятельных, независимых агентов, способных бороздить просторы глобальной сети Интернет без надзора, и, главное, без инициации человека. То есть, модельке даются реальные деньги (крипта), и ими она без всякого промптинга распоряжается сама, пытаясь заработать больше. Более того, такой агент, прозванный Автоматоном, будет размножаться, создавая других агентов. В общем, это откровенная попытка создать Скайнет на том, что уже существует.

Ну что, доумилялись танцующим роботам? Они придут за каждым

Текущая ситуация с Seedance 2.0 на каждом буквальном мета-уровне. (Типа Дисней гонится за сгенерированными лицензионными персонажами, а нам с вами остаётся только за всем этим наблюдать)

Кстати, отсылка к One Battle After Another, ну да ладно

Опять наш телегам прошляпил важный прорыв, но я это исправлю

Исследователи из ВШЭ Екатерина Гришина, Михаил Горбунов и Максим Рахуба представили новый метод сжатия нейросетей ProcrustesGPT, который скорее всего станет заменой популярным подходам вроде SliceGPT, причем работающей без необходимости в дообучении или калибровочных датасетах. Код и препринт уже доступны в открытом доступе.

В отличие от стандартных методов, которые просто обрезают или аппроксимируют веса, ProcrustesGPT использует свойство инвариантности выхода нейросети к ортогональному преобразованию. Авторы решают классическую задачу Прокруста, находя такую матрицу поворота, при которой веса модели максимально точно укладываются в структурированную форму, например, в сумму произведений Кронекера. После этого веса заменяются на эту структуру, и модель считается сжатой.

Результаты экспериментов на Llama-2 показывают высокую эффективность. При сжатии параметров примерно на 25% модель сохраняет значительно лучшую перплексию по сравнению с SliceGPT и выигрывает у него 9–10% в задачах zero-shot. Если сжимать аккуратнее, на 14–15%, то потери качества практически отсутствуют даже на моделях масштаба 13B. Заметное падение метрик начинается только при сжатии более трети весов, но и там метод остается лучше большинства бейзлайнов.

Главное преимущество подхода в его практичности для реального железа. Структурированные матрицы не только экономят место на диске, но и позволяют ускорить инференс на устройствах, поддерживающих быстрые операции с Кронекеровыми произведениями, включая многие мобильные GPU. Метод работает независимо для каждого слоя, что позволяет легко распараллелить процесс сжатия. Это отличное решение для деплоя больших языковых моделей на ограниченных ресурсах без сложного цикла переобучения.

P. S. Работа отправлена на рецензию еще в июне прошлого года, но публикация в ACL Anthology прошла только вчера

Много сидансных мэшапов не бывает. А прикиньте, вы видите это где-нибудь в 2К19 и такие АЧЕВСМЫСЛЕ!?

Мне нравится, как Сиданс даже походку актеров копирует, не говоря об их мимике и голосе

буквально я ждущий 24 февраля когда релизнится Seedance 2.0 (я буду генерить 7-часовую аниме экранизацию своего фанфика про богомолов-вампиров)

В Seedance 2.0 есть режим video-to-video. И он, также, как и все в Сидансе, огненный

Я надеюсь, никому не надо объяснять, что не стоит покупать подписки или кредиты на Seedance 2.0 на неизвестных сайтах? Уже известны случаи, когда доверчивые люди приобретали за сотни долларов на площадках типа seedance20-pro.com доступ к... Seedance 1.5, который ни в какое сравнение со вторым не идет, и который можно бесплатно получить во многих официальных и известных сервисах.

Как говорится, Бог терпел и нам велел, вот мы и потерпим до 24 февраля (или таки сумеем купить китайскую симку и шоб она была рабочей).

Честно, вижу только одно прикладное применение для Lyria 3, которую уже начинают раскатывать в Gemini. Озвучивать картинки со смешными подписями. Скорее всего, забытые самыми старыми старожилами (мной) демотиваторы обретут новую жизнь. Ну и бабушкины открытки на День дня.

До Suno v5 этой лирии крайне далеко.

Ну ведь понятно же, да, что теперь у нас будет «Во все тяжкие», аниме-версия? Шестьдесят две серии, кадр-в-кадр. Ну ведь хорошо же!

лучшая генерация дня

Тестируем Lyria 3, которая теперь доступна в Gemini. Просто кидаете ей картинку, а она вам 30-секундный трек под неё. Можно выбирать из шаблонов. Ваши собственные демки, напевания и музыку на вход не принимаются.

В принципе, мелочь, но приятно. Пускай будет.

Трек к сему мему ниже 👇🏿

Качество, конечно, и техническое и поэтическое примерно как на третьей Суне. До пятой, как я и говорил, далековато. 👇🏿