Seduti davanti a un workspace condiviso, i data scientist di oggi non scrivono più solo query o notebook. Aprendo ChatGPT Work, incollano metriche grezze, segmentazioni e log di sistema e chiedono al modello di restituire un brief sulle cause radice, un memo KPI per la riunione delle 11 o la bozza di una dashboard. Non è un assistente di codice: è un co-analista che lavora sugli stessi input reali che prima venivano maneggiati esclusivamente dentro l’organizzazione. Questa evoluzione — raccontata dagli stessi materiali di supporto di OpenAI — accende un riflettore su un trade-off che per AI-RADAR è strutturale: il vantaggio di un time-to-insight quasi immediato si paga con l’esportazione dei propri dati su un servizio cloud di terze parti.

La fabbrica dei report e il prezzo del contesto

L’elenco dei deliverable che ChatGPT Work promette di generare — root-cause briefs, impact readout, KPI memo, scoped analyses, dashboard specs — coincide con il pane quotidiano di un data team. Non sono esperimenti, ma prodotti aziendali che spesso contengono informazioni riservate: tassi di conversione, segmenti di clientela ad alto valore, rilevazioni di anomalie su sistemi produttivi. Caricare questi input su una piattaforma esterna significa delegare l’ultimo miglio dell’analisi a un modello ospitato su infrastrutture che l’organizzazione non controlla.

Per i team di business, il nuovo flusso è un acceleratore di decisioni: si riduce il lavoro manuale di scrittura e formattazione, e il tempo guadagnato può essere dedicato alla validazione e alla strategia. Ma chi lavora in ambiti regolati o con clausole stringenti su residenza dei dati — finanza, sanità, difesa, manifattura avanzata — si trova di fronte a un dilemma concreto. Non si tratta più di una discussione teorica sul futuro del lavoro: qui il dipendente che incolla un CSV in ChatGPT Work sta facendo una scelta di deployment, magari senza averne la delega, che può violare policy interne o normative come il GDPR.

Quello che sta accadendo è la naturale prosecuzione di una dinamica già vista con gli strumenti SaaS tradizionali: la user experience vince sulla compliance, almeno finché non arriva una sanzione o un incidente. La novità è che il contenuto generato non è più solo un grafico di Google Analytics, ma un ragionamento inferenziale costruito su dati sensibili, con tutte le implicazioni di tracciabilità e audit che questo comporta.

Quale hardware serve per fare le stesse cose on-premise?

La domanda che sorge spontanea è se sia possibile ottenere la stessa produttività mantenendo i dati dentro il perimetro aziendale. Tecnicamente sì: esistono LLM open-weight con capacità analitiche paragonabili che, con un fine-tuning ragionato e una pipeline di retrieval su documenti interni, possono produrre report simili. Ma farlo girare in locale non è banale. Per eseguire un modello da oltre 70 miliardi di parametri con una finestra di contesto sufficientemente ampia da gestire log e metriche estesi, servono GPU con VRAM nell’ordine delle decine di gigabyte, oltre a uno strato di orchestrazione che gestisca la coda delle richieste senza degradare i tempi di risposta.

Il TCO di uno stack self-hosted, se confrontato con il canone di ChatGPT Work, appare subito più alto, ma il calcolo cambia radicalmente quando si includono i costi — spesso intangibili — di una fuga di dati o della perdita di controllo sui flussi informativi. Non è un caso che alcune organizzazioni stiano sperimentando l’uso locale di modelli quantizzati con tecniche di quantization progressiva che riducono il footprint senza sacrificare la coerenza analitica, creando un ambiente dove il team può iterare su dati reali senza mai farli uscire dalla infrastruttura on-premise.

Ciò che il caso ChatGPT Work segnala a livello strutturale è un cambio di aspettative: il business inizia a considerare l’LLM non più come un prototipo da esplorare, ma come un componente integrato del workflow decisionale. Questo spinge inevitabilmente la domanda di hardware per inference all’interno dei datacenter aziendali, facendo crescere l’interesse per architetture modulari in grado di scalare le risorse di calcolo in base ai carichi analitici. Per chi valuta questi scenari, AI-RADAR offre framework analitici su /llm-onpremise per soppesare i trade-off senza scorciatoie.

Nel frattempo, il data scientist che questa mattina ha prodotto tre memo KPI con un paio di prompt ha già spostato l’asticella di ciò che l’organizzazione si aspetta dalla funzione dati. La vera partita non si gioca più sulla qualità del report, ma su chi controlla il modello che lo scrive.