В развитии поста о доступных железках для ускорения инференса класса "подключить к RPi" теперь буквальней не придумаешь:

Maix4-HAT - NPU доступный исключительно в исполнении "шляпа для Малины" 😅
Характеристики - на скринах. Продаван клянётся своей китайской мамой, что эта "шляпа" рвёт Hailo8 как тузик грелку и заточена под LLM (и есть собственная память 8GB LPDDR4x): 72 TOPS@INT4 | 18 TOPS@INT8

Печалит лишь то, что это полноценная SoC и какого фига надо еще к ней RPi 5 докупать (единственный вариант подключения PCI-e 😭)

По традиции, прямые ссылки:
▫️https://aliexpress.com/item/1005009532798434.html
▫️https://aliexpress.ru/item/1005009532798434.html

(сейчас всю партию видимо малинщики раскупили, а так была цена 13000Р с доставкой в РФ).

@embedoka