La notizia è asciutta, quasi sussurrata: su Hugging Face compare una scheda modello firmata NVIDIA, «Nemotron-VoiceChat-11B», con l’etichetta «full duplex». Poche righe, nessun annuncio roboante. Eppure quel piccolo dettaglio – full duplex – è la chiave di volta che trasforma un ennesimo LLM in un acceleratore per il deployment on‑premise dell’AI vocale.

Per chi non mastica protocolli audio: full duplex significa che il modello può ascoltare e parlare simultaneamente, come in una conversazione umana. Non è un chatbot che attende il punto e virgola prima di rispondere; è un agente capace di interrompere, reagire a esitazioni, modulare il tono in tempo reale. Portare questa dinamica su un modello da 11 miliardi di parametri – e renderlo scaricabile senza barriere – non è un esercizio cosmetico. È un segnale di dove NVIDIA intende spingere il mercato: lontano dalla sola inference cloud, verso la periferia e i rack aziendali.

Il vero colpo da analizzare sta nella dimensione del modello. Undici miliardi di parametri, specie se abbinati a quantization aggressiva (INT8 o 4-bit), stanno comodamente in una GPU consumer di fascia alta o in una scheda professionale entry‑level. Paradossalmente, mentre i grandi modelli da centinaia di miliardi monopolizzano i titoli, quelli sotto i 15B stanno diventando i cavalli di battaglia del self‑hosted. E quando il carico di lavoro è la voce – un flusso continuo con requisiti di latenza bassissimi – la scelta di un 11B da quantizzare non è una rinuncia, è una progettazione deliberata per chi fa i conti con VRAM, watt e dissipazione termica in un data closet aziendale.

Chi vince e chi perde. In superficie, vince NVIDIA: un modello ottimizzato per la voce full duplex, verosimilmente con un codec audio neurale proprietario tagliato su CUDA e TensorRT, lega gli sviluppatori all’ecosistema hardware dell’azienda. Anche se gli open‑weight permettono di eseguirlo su acceleratori concorrenti, la resa migliore resterà sulle GPU NVIDIA. A beneficiarne in modo strutturale sono i settori schiacciati dalla compliance: banche, assicurazioni, sanità, studi legali. Per loro, spostare una conversazione vocale su un LLM in cloud significa mandare dati sensibili fuori dal perimetro. Poter eseguire un assistente vocale full duplex su un server in‑house, magari in air‑gapped, cambia radicalmente la valutazione del rischio. Chi perde, invece, sono i provider di API vocali cloud: l’offerta «tutto incluso» viene erosa da una commodity open‑weight che può girare su hardware già ammortizzato.

C’è una seconda implicazione, meno visibile e più strutturale. Un modello full duplex eseguito interamente on‑prem costringe a ripensare l’architettura di serving. La pipeline non è più un generatore di testi asincrono con latenza tollerabile: diventa un processo in tempo reale, dove il token ha la stessa urgenza di un pacchetto in uno stream RTP. Questo obbliga a rivedere motori di inference, codec, bilanciamento dei carichi e strategie di caching. NVIDIA lo sa, e un modello come Nemotron-11B non è solo un esercizio di scienza: è un banco di prova per vendere l’intero stack, dalle librerie software fino ai DSP audio integrati nei futuri BlueField o nelle schede Jetson.

Non è un caso che il modello arrivi senza squilli di tromba su Hugging Face. Sembra un invito silenzioso a sperimentare, a scaricarlo, a confrontare le stime di TCO. Per chi valuta un deployment on‑premise dell’AI vocale, AI‑RADAR mette a disposizione framework analitici su /llm‑onpremise che aiutano a soppesare questi trade‑off: costo dell’hardware iniziale, consumi energetici, manutenzione del serving engine. Ma al di là degli strumenti, questo rilascio ci obbliga a una domanda: se un 11B full duplex girasse già oggi su un server che avete nel seminterrato, che scusa avreste ancora per inviare le vostre telefonate a un’azienda terza?