OrangePi 5 Ultra 🚀 Neural Processing Unit (NPU): Tutorial RKNN SDK e Deployment Rete Neurale su Chip

Описание: Orange Pi 5 Ultra, come tutti gli OrangePi della line-up 5 monta un SoC (o processore) dotato di Neural Processing Unit (NPU). Il processore in questione è il RockChip RK3588, un processore ARM cinese che già di base è in grado di offrire prestazioni spettacolari (quando funziona), ma che monta al di sopra anche una NPU. Questa Neural Processing Unit è un unità logico-computazionale, presente dentro al chip del processore, che è in grado di accelerare enormemente la computazione dei modelli di intelligenza artificiale, offrendoci prestazioni che vanno oltre la real-timeness!
Avere una NPU separata per l'esecuzione dei nostri modelli di AI è un vantaggio: richiede risorse come la memoria ma scarica l'utilizzo computazionale su un chip dedicato, lasciando libero il processore principale!

In generale, per utilizzare una qualsiasi NPU, sia essa integrata on-chip sul vostro SoC (come per RK3588), sia essa esterna (come Hailo), richiede comunque una serie di passaggi da svolgere a priori. Tipicamente ogni acceleratore è accompagnato da un framework che consente l'adattamento dei nostri modelli di AI, allenati con PyTorch, Tensorflow o Jax, alle operazioni che è in grado di svolgere la NPU. Di conseguenza, i pesi originali del modello devono essere forniti al framework in primis per determinare il grafo computazionale ed ottimizzarlo in base alle operazioni che può svolgere la NPU. Successivamente il modello deve essere calibrato numericamente, attraverso l'ausilio di alcuni esempi del training set originale, e poi quantizzato, siccome questi acceleratori di solito non supportano la computazione in virgola mobile.

Calibrazione e quantizzazione sono procedimenti delicati in quanto determinano l'efficienza e l'accuratezza finale del modello. Per trovare il giusto compromesso è necessario fare diversi esperimenti, e qualora il modello fosse troppo grande, potrebbe essere prevista anche una fase di compressione intermedia (ad esempio attraverso pruning).

Repository ufficiale RockChip: https://github.com/airockchip/rknn-to...

00:00 Introduzione
00:44 AI su Sistemi Embedded
02:06 Cosa è una NPU?
02:28 NPU RockChip RK3588
04:46 Cosa facciamo Oggi?
08:07 Installazione SDK
14:05 Codice Python: Esportare il Modello AI
23:00 Codice Python: Esecuzione file RKNN
28:21 Potenzialità NPU RK3588

TENIAMOCI IN CONTATTO!
🎥 Iscriviti al nostro Canale YouTube
👉 https://youtube.com/c/ProjectoOfficia...

🎓 Iscriviti a Prime Student per supportarci
🛒 http://www.amazon.it/joinstudent?tag=...

🧰 Prodotti Consigliati su Amazon
🛍️ https://www.amazon.it/shop/projecto

🌐 Tutti i nostri Link Utili
🔗 https://linktr.ee/OfficialProjecto

📱 Seguici sui nostri Social!
📘 Facebook:   / miniprojectsofficial  
📸 Instagram:   / officialprojecto  

📬 INFO • SPONSORSHIP • CONTATTI • CONSULENZA
💼 https://projectoofficial.github.io/

#IntelligenzaArtificiale #OrangePi #NPU