NPU - это специализированный нейропроцессорный модуль в современных мобильных процессорах, таких как Snapdragon 8 Gen 3.

NPU разработан для высокоэффективного выполнения матричных вычислений, которые являются основой нейронных сетей.

Благодаря работе в низкой точности (8 бит), NPU достигает скорости до 34 TOPS (34 триллиона операций/сек). Это позволяет ему, например, генерировать изображения через Stable Diffusion всего за несколько секунд.

NPU обеспечивает максимальную скорость и энергоэффективность для локальной работы ИИ, не требуя подключения к облаку и экономя заряд батареи.