AI ускоритель для эмбеддед-применений

Внезапно в 2025Q2 осознал что доступных* железок для ускорения инференса класса "подключить к RPi" или воткнуть в ноут в m.2 слот вместо 5G WWAN - нет 🤷‍♂️

Всё что удалось найти:

1️⃣ Hailo-8 на 26 TOPS за 25т.р. на али
2️⃣ QNAP QAI-M100 на Rockchip RK1808 на 3 TOPS за 65EUR

Железка от Axelera в исполнении m.2 похоже увидела свет только на бумаге в виде пресс-релизов, а жаль.. от Bitfury ожидал большего.

Есть конечно еще Nvidia Jetson - но это уже немного другая парадигма - как будто бы вокруг неё надо выстраивать разработку, да и в ноутбучный слот не засунешь такое (см.кейс QNAP NAS).

PS: Еще какая-то особенность есть, что вендоры NPU для Edge/embedded применений крайне неохотно раскрывают размер RAM: найти эти данные по Hailo-8 или по мифической карточке Axelera я не смог 🤷‍♂️

Может я чего-то упускаю и рынок в 2025Q2 буквально наводнён нишевыми NPU?

*доступный - значит можно купить на дижикей/аллиэкспресс

@embedoka

Field application engineer

Твой братюня в дистибьюторе (или вендоре). Большую часть своего времени отвечает на тупые вопросы (которые гуглятся за 10 секунд), подгоняет семплы и киты и испытывает батхерт и фейспалм от кривизны продуктов, которые вынужден саппортить. Может сводить вкусно пообедать, списав расходы как представительские.


#dictionary #словарь #цитаты #cites #dictum
@embedoka

1й раз прочёл эту статью о промышленном шпионаже три года назад:

Если ты, товарищ, хочешь бороться с проклятым западным капитализмом — копируй смело, не стесняйся. Ленин ведь что сказал:

Коммунистом стать можно лишь тогда, когда обогатишь свою память знанием всех тех богатств, которые выработало человечество.

Вот! Под словами «обогатишь свою память» как раз и понимается самое беззастенчивое копирование «всех тех богатств, которые выработало человечество».

Они там тратятся, отлаживают всё, набивают себе шишки — а ты перерисовывай, не парься. Пользуйся тем, что наработали неизвестные тебе рабы капитала. Не пропадет их скорбный труд во глубине пиндосских руд. Так победим! 🤘🏻

PS: как считаете насколько это стало самосбывающимся пророчеством? И как быстро минуем компромиссную стадию в виде школьного рюкзака 👀

@embedoka

Очень заинтриговала вот эта штука с зеленой маской на SOM-3568-SMARC.
Посмотрел функциональную схему модуля (в комментарии) и не нашёл ничего похожего, что могло бы объяснить что это и почему в таком исполнении.

Единственное предположение: какой-то ТРМ/сайберсекьюр чип и из-за госрегулирования контроля экспорта/импорта криптографических железок этот чип запаивается как опция, а чтобы не держать на складе оба варианта исполнения, то для варианта исполнения с наличием чипа - он просто запаивается вручную с оптическим контролем качества 🤷‍♂️

❓Какие еще гипотезы?

@embedoka