AI ускоритель для эмбеддед-применений
Внезапно в 2025Q2 осознал что доступных* железок для ускорения инференса класса "подключить к RPi" или воткнуть в ноут в m.2 слот вместо 5G WWAN - нет 🤷♂️
Всё что удалось найти:
1️⃣ Hailo-8 на 26 TOPS за 25т.р. на али
2️⃣ QNAP QAI-M100 на Rockchip RK1808 на 3 TOPS за 65EUR
Железка от Axelera в исполнении m.2 похоже увидела свет только на бумаге в виде пресс-релизов, а жаль.. от Bitfury ожидал большего.
Есть конечно еще Nvidia Jetson - но это уже немного другая парадигма - как будто бы вокруг неё надо выстраивать разработку, да и в ноутбучный слот не засунешь такое (см.кейс QNAP NAS).
PS: Еще какая-то особенность есть, что вендоры NPU для Edge/embedded применений крайне неохотно раскрывают размер RAM: найти эти данные по Hailo-8 или по мифической карточке Axelera я не смог 🤷♂️
Может я чего-то упускаю и рынок в 2025Q2 буквально наводнён нишевыми NPU?
*доступный - значит можно купить на дижикей/аллиэкспресс
@embedoka
Внезапно в 2025Q2 осознал что доступных* железок для ускорения инференса класса "подключить к RPi" или воткнуть в ноут в m.2 слот вместо 5G WWAN - нет 🤷♂️
Всё что удалось найти:
1️⃣ Hailo-8 на 26 TOPS за 25т.р. на али
2️⃣ QNAP QAI-M100 на Rockchip RK1808 на 3 TOPS за 65EUR
Железка от Axelera в исполнении m.2 похоже увидела свет только на бумаге в виде пресс-релизов, а жаль.. от Bitfury ожидал большего.
Есть конечно еще Nvidia Jetson - но это уже немного другая парадигма - как будто бы вокруг неё надо выстраивать разработку, да и в ноутбучный слот не засунешь такое (см.кейс QNAP NAS).
PS: Еще какая-то особенность есть, что вендоры NPU для Edge/embedded применений крайне неохотно раскрывают размер RAM: найти эти данные по Hailo-8 или по мифической карточке Axelera я не смог 🤷♂️
Может я чего-то упускаю и рынок в 2025Q2 буквально наводнён нишевыми NPU?
*доступный - значит можно купить на дижикей/аллиэкспресс
@embedoka