Perplexity ha portato su Windows il suo agente AI locale, ma con un requisito che divide subito il pubblico: servono GPU RTX con almeno 24GB di VRAM. La notizia arriva attraverso il progetto Portable Computer, pensato per eseguire attività multistep su PC compatibili. Non si tratta di una semplice app: l'agente deve gestire più passaggi, mantenere contesto e coordinare strumenti, e questo ha ripercussioni dirette sulla memoria video richiesta.

Il vincolo dei 24GB non è un dettaglio tecnico da poco. Esclude di fatto la maggior parte dei laptop e delle schede consumer entry-level, restringendo il campo alle configurazioni desktop di fascia alta o alle workstation. Per chi ragiona in ottica on-premise, la soglia diventa un criterio di progettazione infrastrutturale: non basta avere una GPU RTX qualsiasi, serve una quantità di VRAM che consenta di caricare il modello, gestire la finestra di contesto e mantenere in memoria gli stati intermedi dell'agente. Le attività multistep, come navigare tra applicazioni o concatenare più chiamate a strumenti, amplificano il consumo di memoria rispetto a una singola inference.

Questa scelta segnala una direzione strutturale: gli agenti locali non sono semplici chatbot. Hanno bisogno di risorse che, fino a poco fa, erano considerate appannaggio di server o postazioni professionali. Il fatto che Perplexity ponga un requisito così alto su Windows suggerisce che l'azienda punti prima a utenti tecnici e enthusiast, disposti a investire in hardware potente, piuttosto che a una diffusione di massa immediata. Chi ci guadagna sono i produttori di GPU con tagli di memoria elevati e i system integrator che assemblano macchine per AI locale. Chi ci perde è l'utente con un PC medio, che potrà usare l'agente solo in cloud o rinunciare alla versione locale.

C'è anche un effetto di secondo ordine: una soglia di VRAM così esplicita spinge gli sviluppatori a lavorare su quantization e tecniche di compressione per ridurre l'ingombro del modello. Ma ridurre la precisione può compromettere l'affidabilità di un agente che deve compiere più passaggi senza errori. Il trade-off tra accessibilità e robustezza diventa quindi un tema centrale per chi progetta pipeline locali.

Sul fronte della sovranità dei dati, l'agente locale promette di tenere informazioni e comandi sul dispositivo, evitando il passaggio attraverso servizi remoti. Per organizzazioni con vincoli di compliance, questa è una leva significativa, ma il costo dell'hardware necessario alza il TCO iniziale. Non è una strada a costo zero: il CapEx per una GPU con 24GB di VRAM può essere rilevante, anche se i costi operativi restano legati all'energia e alla manutenzione locale.

In definitiva, la notizia non riguarda solo Perplexity: mostra che il deployment locale di agenti AI sta entrando in una fase in cui la memoria video definisce chi può partecipare. Per chi valuta deployment on-premise, esistono trade-off tra controllo, costi e prestazioni che vanno analizzati caso per caso; AI-RADAR offre framework analitici su /llm-onpremise per orientarsi senza scorciatoie.