La scelta di far girare un modello di visione da 0,8 miliardi di parametri direttamente sul telefono per leggere gli scontrini non è solo una curiosità da sviluppatore. È un segnale concreto di come l'inference su device stia diventando una strada praticabile per attività documentali ad alto valore personale, dove la privacy non è una preferenza ma un vincolo.

Il progetto parte da un'esigenza precisa: tracciare la spesa per singolo articolo senza inviare ricevute a terzi. L'app Android scatta una foto, estrae negozio, data, totale e ogni voce in JSON. Il motore è un modello Qwen3.5 0.8B sottoposto a fine-tuning su dati di scontrini, insieme a OvisOCR2, che a sua volta è un fine-tuning della stessa base. Non serve un cloud: l'elaborazione resta sul telefono.

La scelta del modello ridotto non è neutra. I 0,8 miliardi di parametri impongono meno memoria e consumi rispetto a modelli generalisti, ma spostano la complessità sul fine-tuning e sulla qualità dei dati. Per questo lo sviluppatore chiede donazioni di immagini di scontrini: ogni ricevuta donata migliora il modello successivo, creando un ciclo di addestramento distribuito e volontario. Il fatto che i modelli saranno pubblicati open source e utilizzabili con un proprio server OpenAI-compatibile allarga il progetto oltre l'app: chi vuole può mantenere l'elaborazione locale ma spostarla su una macchina più capace, in una logica self-hosted.

Qui si vede un trade-off strutturale. Il telefono basta per l'uso quotidiano, ma se la memoria diventa un limite, l'app offre la valvola di sfogo di un server compatibile. È un pattern ibrido edge-to-self-hosted: il default è la sovranità sul device, l'opzione è la delega a un'infrastruttura che l'utente controlla. Non è cloud pubblico, ma nemmeno isolamento assoluto. Per chi valuta deployment on-premise, AI-RADAR offre framework analitici su /llm-onpremise per soppesare questi equilibri, perché la decisione non è binaria tra telefono e cloud, ma coinvolge costi, latenza e controllo dei dati.

La notizia segnala anche un cambiamento di incentivi. Le app di contabilità personale hanno tradizionalmente monetizzato dati aggregati o abbonamenti. Qui il valore non è nel modello (open source), né nei dati (donati volontariamente), ma nell'integrazione: un formato JSON standard per scontrini, una pipeline di fine-tuning replicabile e un'app gratuita. Se questo approccio regge, abbassa la barriera per applicazioni verticali che trattano documenti personali, dalle ricevute ai referti medici, dove la sovranità dei dati non è negoziabile.

Resta un punto aperto: l'App Store Apple è in attesa di revisione, e il feedback da dispositivi diversi sarà decisivo per capire se i modelli da 0,8B reggono la variabilità di fotocamere, illuminazione e formati di scontrini. Non c'è una garanzia di performance uniforme, e proprio questa variabilità è il banco di prova dell'approccio on-device: un conto è girare in condizioni controllate, un altro è leggere uno scontrino spiegazzato in tasca al supermercato.