Привет!
Мы активно работаем проекта и хотим поделиться нашими ближайшими планами и текущими работами. Многие из этих улучшений станут возможны благодаря вкладу студентов-разработчиков!
Что в разработке:
1. Умное управление ресурсами Vulkan 🔧
- Проблема: Сейчас ресурсы (буферы, наборы дескрипторов) накапливаются, и для их очистки требуется принудительная синхронизация с хост-системой, что тормозит выполнение.
- Решение: Мы работаем над усовершенствованием системы, чтобы ресурсы освобождались пакетами и по мере накопления, минимизируя простои и повышая эффективность.
2. Импорт моделей ONNX 📥
- В мастер скоро будет залит минимально рабочий прототип для импорта моделей в формате ONNX!
- Эта важная функциональность была реализована студентом НГУ в рамках практической работы в лаборатории ФИТ. Большое спасибо за этот вклад!
- Дальше мы планируем развивать и расширять эту возможность.
3. Распределённое обучение (Data Parallelism) ⚙️
- Ведутся работы по реализации распределённого обучения с параллелизацией по данным. Это позволит значительно ускорить обучение больших моделей на нескольких GPU.
4. Большая эволюция вычислительного графа 🧠
- Запланирована серьёзная переработка архитектуры вычислительного графа.
- Цель: сделать граф максимально гибким для проведения сложных оптимизаций, а также для конвертации в другие промежуточные представления, такие как ONNX или различные диалекты MLIR. Это откроет путь к интеграции с другими экосистемами и инструментами.
Важно отметить: Работы по пунктам 3 и 4 (распределённое обучение и новая архитектура графа) также ведутся в рамках студенческих проектов и практик. Мы рады поддерживать новое поколение инженеров и исследователей!
Следите за обновлениями в репозитории, и, как всегда, ждём ваших вопросов, идей и участия!
Ссылка на репозиторий: https://gitverse.ru/kolkir/adept
#Adept #MachineLearning #OpenSource #Vulkan #ONNX #DistributedTraining #MLIR #Разработка #НГУ #Студенты
Мы активно работаем проекта и хотим поделиться нашими ближайшими планами и текущими работами. Многие из этих улучшений станут возможны благодаря вкладу студентов-разработчиков!
Что в разработке:
1. Умное управление ресурсами Vulkan 🔧
- Проблема: Сейчас ресурсы (буферы, наборы дескрипторов) накапливаются, и для их очистки требуется принудительная синхронизация с хост-системой, что тормозит выполнение.
- Решение: Мы работаем над усовершенствованием системы, чтобы ресурсы освобождались пакетами и по мере накопления, минимизируя простои и повышая эффективность.
2. Импорт моделей ONNX 📥
- В мастер скоро будет залит минимально рабочий прототип для импорта моделей в формате ONNX!
- Эта важная функциональность была реализована студентом НГУ в рамках практической работы в лаборатории ФИТ. Большое спасибо за этот вклад!
- Дальше мы планируем развивать и расширять эту возможность.
3. Распределённое обучение (Data Parallelism) ⚙️
- Ведутся работы по реализации распределённого обучения с параллелизацией по данным. Это позволит значительно ускорить обучение больших моделей на нескольких GPU.
4. Большая эволюция вычислительного графа 🧠
- Запланирована серьёзная переработка архитектуры вычислительного графа.
- Цель: сделать граф максимально гибким для проведения сложных оптимизаций, а также для конвертации в другие промежуточные представления, такие как ONNX или различные диалекты MLIR. Это откроет путь к интеграции с другими экосистемами и инструментами.
Важно отметить: Работы по пунктам 3 и 4 (распределённое обучение и новая архитектура графа) также ведутся в рамках студенческих проектов и практик. Мы рады поддерживать новое поколение инженеров и исследователей!
Следите за обновлениями в репозитории, и, как всегда, ждём ваших вопросов, идей и участия!
Ссылка на репозиторий: https://gitverse.ru/kolkir/adept
#Adept #MachineLearning #OpenSource #Vulkan #ONNX #DistributedTraining #MLIR #Разработка #НГУ #Студенты
🔥1