Un chip da tre dollari con 512 KB di SRAM e nessuna NPU può ora eseguire un intero stack di sintesi vocale neurale. È il risultato documentato nel repository sanoTTS, che presenta una famiglia di modelli TTS da 294mila a 2,2 milioni di parametri, con 11 voci e 6 lingue. Il modello più compatto, in quantization INT8, occupa 337 KB: abbastanza per girare su un microcontrollore a basso costo senza unità di calcolo dedicata alle reti neurali.
I numeri raccontano una compressione estrema: secondo il progetto, sanoTTS è circa 1000 volte più piccolo di Kokoro e 9000 volte più piccolo di Voxtral TTS; la variante da 1,5 milioni di parametri registra SCOREQ 4,13 e UTMOS 4,10, superando modelli più grandi come Inflect Nano (4,63 milioni) e KittenTTS (15 milioni) rispettivamente a 3,81 e 3,02. Su un microcontrollore ESP32, il fattore RTF dichiarato è 0,225: in pratica, un secondo di elaborazione produce quattro secondi di audio.
La memoria, non il calcolo, diventa il collo di bottiglia
La notizia più rilevante non è il singolo benchmark, ma il cambio di vincolo che porta con sé. In un chip privo di NPU, il limite reale non è la potenza di calcolo ma la memoria disponibile; la quantization INT8 fa passare lo stack da un problema di capacità a un problema di architettura. Questo rende l'inference vocale una funzione locale su hardware da pochi watt, con vantaggi immediati: niente latenza di rete, nessun costo per carattere, nessun flusso audio verso servizi cloud. Per chi costruisce dispositivi per la casa, pannelli industriali, giocattoli o strumenti per l'accessibilità, il dato cambia l'equazione tra edge e cloud.
La presenza di un porting WebAssembly estende lo stesso principio al browser, e la ricetta pubblicata per aggiungere lingue e voci lascia intravedere una modularità che non richiede infrastrutture dedicate. In ottica di settore, il progetto segnala che la corsa ai modelli sempre più grandi non è l'unica traiettoria: sul margine della rete, la compressione e l'efficienza in memoria spostano il valore dal fornitore di API al produttore di hardware. Non è una minaccia teorica per i servizi cloud di TTS, ma riduce il loro spazio nei contesti in cui sovranità dei dati, offline o costi di esercizio contano.
Resta da valutare, sul campo, la qualità percepita su lingue e voci estese: i benchmark segnalano circa il 2% di WER misurato con Whisper, ma l'adozione su hardware reale dipenderà dalla robustezza in scenari rumorosi e dalla facilità di integrazione. Il punto, per AI-RADAR, è che casi come questo rendono tangibile un trade-off che di solito resta astratto: se una pipeline vocale può essere compressa fino a 337 KB, l'argomento per mantenere in cloud l'elaborazione vocale andrà difeso con ragioni diverse dal semplice peso del modello.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!