Trovare l'architettura neurale giusta per un microcontrollore con poche decine di kilobyte di SRAM non è un semplice problema di riduzione della complessità: è un vincolo fisico che cambia il modo in cui si progetta la ricerca stessa. ENAS, il framework hardware-aware per Neural Architecture Search (NAS) presentato da EdgeIntelligenceLab, attacca proprio questo punto. Il progetto si distingue perché non richiede GPU: la ricerca può girare in ambienti di sviluppo con risorse limitate, un dettaglio che lo separa da molti framework NAS esistenti pensati per l'accelerazione su GPU.
ENAS combina un controllo statico di fattibilità, uno spazio di ricerca cell-based con blocchi standard, depthwise-separable e bottleneck, connessioni skip opzionali, e una strategia ibrida a tre stadi: random, top-K e mutazione, con cache persistente tra le esecuzioni. In pratica, il framework può esplorare un insieme di architetture valide prima di addestrarle, scartando subito quelle che non entrano nei limiti hardware.
I test coprono due benchmark TinyML, Visual Wake Words e Melanoma Cancer, su otto microcontrollori con SRAM da 20 KB a 1 MB e nove risoluzioni di input. Su Visual Wake Words il tempo medio di ricerca accelera di 2,41 volte rispetto a NanoNAS; su Melanoma Cancer di 1,70 volte, mantenendo un'accuratezza competitiva. ENAS raggiunge il 79,4% di accuratezza su un microcontrollore STM32H743, superando di 2,6 punti percentuali una baseline CPU-only di tipo greedy. I modelli selezionati usano inoltre una RAM di attivazione di picco sostanzialmente inferiore a parità di accuratezza, un dato decisivo perché la RAM di attivazione è il vincolo che blocca il deployment su microcontroller.
La tesi che emerge da questi risultati è che la ricerca di architetture per TinyML sta diventando un'attività da CPU, non da data center. Se un framework NAS può ottenere accelerazioni rilevanti senza GPU, il costo di ingresso per chi sviluppa applicazioni embedded scende in modo netto. Non serve un cluster per cercare modelli; basta una workstation, e i dati possono restare nel laboratorio o nello stabilimento. Questo sposta gli incentivi: il valore non sta più nella potenza bruta di calcolo, ma nella capacità di incorporare i vincoli hardware nella pipeline di ricerca. La riduzione della RAM di attivazione di picco è il punto chiave, perché su microcontrollori è il limite che blocca il deployment prima ancora del numero di parametri.
Per i team embedded, soprattutto in settori come medicale, industriale e automotive, l'assenza di dipendenza da GPU significa iterare più rapidamente e in modo più riservato, con minore esposizione di dati sensibili verso servizi cloud. I fornitori di microcontroller possono trarre beneficio da un flusso di progettazione più automatizzato. Chi punta solo su accelerazione GPU per NAS potrebbe vedere ridursi il differenziale competitivo in questo segmento specifico. L'open source infine non è un dettaglio: consente di verificare i risultati e integrare il framework in pipeline CPU-only, anche all'interno di ambienti air-gapped. Chi valuta deployment on-premise su dispositivi embedded può approfondire i trade-off con i framework analitici disponibili su AI-RADAR.
La domanda aperta è se lo stesso approccio senza GPU possa scalare a spazi di ricerca più ampi o a modelli più grandi. Per ora, ENAS dimostra che il NAS per TinyML non ha bisogno di un data center: può vivere vicino al silicio che dovrà eseguire i modelli.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!