#MachineLearning #TensorFlow

TensorFlow Dev Summit key takeaways for Android Developers

На прошедшем TensorFlow Dev Summit было объявлено несколько важных новостей касательно работы этого фреймворка на Android:
👉 Ускорение TensorFlow Lite на GPU, которая увеличивает скорость 2-7 раз на устройствах с OpenGL ES 3.1 (Android 5.0+)
👉 Улучшена документация. больше примеров
👉 Запуск более сложных моделей на устройстве

#MLKit #MachineLearning #TensorFlow

New tools for finding, training, and using custom machine learning models on Android

Вышло продолжение поста про ML Kit.

В продолжении рассматриваются следующие вопросы:
👉 где можно найти альтернативные ML модели
👉 тренировка собственных моделей
👉 разные способы импортирования кастомных моделей в Android приложение

Интересные ссылки в посте:
💪 TensorFlow Hub  - репозиторий с множеством готовых ML моделей
💪 Codelab Recognize Flowers with TensorFlow Lite on Android (beta)
💪 Видео в помощь прохождения указанного выше codelab
💪 Видео о том как найти модель на TensorFlow Hub и начать ее использовать с ML Kit
💪 Ноутбук на Colab, посвященный классификации изображений с TensorFlow Lite Model Maker
P.S.: Что такое Google Codelabs можно узнать здесь

#Firebase #MachineLearning #TensorFlow

Enhance your TensorFlow Lite deployment with Firebase

В статье рассказывается о полезных возможностях Firebase при использовании TensorFlow Lite:
👉 deploy моделей в облаке (вручную или автоматизировано). Это позволит доставить модель на устройство без необходимости перепубликации приложения
👉 измерение скорости ответа модели, с помощью Firebase Performance Monitoring
👉 проведение A/B тестов с разными моделями с помощью Firebase Remote Config и Firebase A/B Testing
💪 статья содержит примеры кода
💪 есть ссылки на codelabs (Android и iOS), которые помогут освоить рассмотренные вопросы на практике

​​#TensorFlow #ML

В TensorFlow Lite 2.3.0 появилась поддержка GPU ускорения

Новая фича аппаратного ускорения пока экспериментальная, но позволяет достичь до 10 раз ускорения работы моделей.

#ml #tensorflow

Easier object detection on mobile with TensorFlow Lite

Статья с рассказом обновлений касательно TensorFlow Lite, представленных в рамках Google I/O:
👉 Тренировка модели на смартфонах
👉 Улучшение определения объектов для смарфтонов

#cv #ml #tensorflow #pytourch

Computer Vision для iOS, Android, Web

Расскажут, как устроена подготовка моделей компьютерного зрения к использованию, какими фреймворками пользуются для запуска, какие сложности решали и чем остались довольны разработчики. Если вы занимаетесь запуском нейронных сетей на мобильных устройствах или вебе, статья для вас.

#tensorflow #ml

On-device training in TensorFlow Lite

В TensorFlow Lite появилась возможность обучать модель прямо на мобильном устройстве (пока только на Android, iOS подтянется)

Статья с разбором состояния ML технологий на Android. Рассказывает про опыт использования ML Kit и TensorFlow Lite с собственными ML модели

В целом запускать можно много чего и Google оптимизирует модели их аппаратного ускорения: уводя процессинг с CPU. Жалко, что полноценно нельзя использовать NPU устройств, но уже становится лучше!

#ml #tensorflow

Разработчик решил сравнить (7 мин, EN, ссылка без VPN) 2 популярных решения для ML на устройстве: PyTourch Mobile и TensorFlow Lite (TF Lite). Для эксперимента была взята задач по определению объекта в кадре.

Результат - TF Lite победитель по удобству использования, скорости работы и размеру модели на устройстве, больше примером и демок

#ml #tensorflow

Экспериментальное MediaPipe LLM Inference API позволяет запускать Large Language Models (LLMs) модели на устройства разных платформ (включая Android и iOS)

Кажется запуск больших нейросеток на устройствах уже все ближе. У меня остались вопрос по расходу батарейки и нагреву устройству при активном использовании. В статье рассказывают про оптимизации и результаты

🔗 Примеры кода на GitHub

На видео в посте демонстрация запуска модели Gemma 2B на iOS и Android с помощью MediaPipe LLM Inference API (размер параметров - 2.5 миллиона)

#ml #tensorflow

Короткая статья (6м) про то как Android Studio может позволить вам легко перенести модель TensorFlow Lite в приложение

#ai #tensorflow #tflite #androidstudio