🌟 LongLLaVA: MMLM, оптимизированная для обработки большого количества изображений.

LongLLaVA - мультимодальная модель, предназначена для разработки приложений, требующих понимания длинных видеороликов, изображений высокого разрешения и сложных мультимодальных сценариев.

В модели применяется гибридная архитектура из комбинации блоков Mamba и Transformer в соотношении 7:1. Для сжатия визуальных данных применяется метод 2D-пулинга, который снижает вычислительные затраты при сохранении производительности.

В процессе обучения применялся трехфазный метод: выравнивание по одному изображению, настройка инструкций по одному изображению и настройка инструкций по нескольким изображениям.

Экспериментальные результаты показали, что LongLLaVA превосходит другие модели с открытым исходным кодом по пониманию в длинном контексте, особенно в задачах поиска, подсчета и упорядочивания.

▶️Технические параметры модели:

🟢Parameters: 53B;
🟢Active parameters: 13B;
🟢Numbers of layers: 24;
🟢Mixture of Experts: 16/Top-2 for each token;
🟢Normalization: RMSNorm;
🟢Attention: Grouped Query Attention;
🟢Activation functions: SwiGLU.


📌Лицензирование : MIT License


🟡Arxiv
🟡Модель
🖥Github


@ai_machinelearning_big_data

#AI #ML #MMLM #LongLLaVA

🐎 fheroes2

Доступен выпуск проекта fheroes2 1.1.2, который воссоздаёт движок игры Heroes of Might and Magic II с нуля.

Код проекта написан на C++ и распространяется под лицензией GPLv2. Для запуска игры требуются файлы с игровыми ресурсами, которые можно получить из оригинальной игры Heroes of Might and Magic II.

Основные изменения:

- Улучшен ИИ для защиты замков.
- Улучшен ИИ для прокачки навыков героев.
- Оптимизированы алгоритмы, отвечающие за соблюдение радиуса героями-патрулями.
- Снижены бонусы для ИИ соперников.

▪ Github

🚀 Endless Sky - это космическая песочница с открытым исходным кодом, где игроки могут исследовать Вселенную, заниматься торговлей, перевозить пассажиров или выполнять миссии, написанная на C++.

Начните свое путешествие на маленьком корабле, улучшайте его, сражайтесь с пиратами и участвуйте в гражданской войне, выбирая между основным сюжетом и дополнительными активностями, такими как торговля или охота за головами.

🌟Эта игра имеет открыть исходный код, доступна для скачивания на платформах GitHub, Steam, GOG и Flathub, и она имеет низкие системные требования, что делает ее подходящей для большинства устройств.

▪ Github

@cpluspluc