Un file da 22 MB può sembrare un dettaglio tecnico, ma per Cactus Compute è il punto di partenza: Mirage, il nuovo modello visivo-linguistico, è stato progettato per girare localmente su telefoni, wearable e robot, non per essere servito da un cluster. Henry di Cactus Compute ha mostrato misurazioni end-to-end su Samsung Galaxy S26: 74 ms sulla NPU e 107 ms sulla CPU per descrizione della scena, object detection, OCR, segmentation e analisi delle relazioni spaziali in un solo passaggio. Le descrizioni coprono sette lingue, tra cui italiano, tedesco, francese, spagnolo, olandese e polacco.

La scelta architetturale è più interessante del numero di parametri. Mirage ha 51,3 milioni di parametri: 7,8 milioni per l'image encoder, 40,8 milioni per il decoder linguistico e 2,6 milioni per i head OCR e spaziali. L'encoder usa HConvGLU, che mescola i canali con trasformate di Hadamard fisse e piccole convoluzioni apprese. Detection e maschere condividono le feature dell'immagine; il decoder usa la famiglia Simple Attention e Hadamard MLP già vista in Needle e Whistle. Non è una compressione estrema di un modello generalista, ma un tentativo di separare la percezione dalla generazione di prosa: il modello mette struttura nel problema tramite head spaziali, un lettore di testo dedicato e riferimenti brevi che collegano nomi e regioni, mentre il decoder produce nomi, proprietà, relazioni e una traccia di ragionamento compatta.

Il risultato più rilevante per chi guarda al deployment locale è che l'output di Mirage può dare a un LLM testuale capacità da VLM senza fine-tuning. Su 256 domande VQAv2 tratte da 128 immagini, Qwen3-0.6B è passato da 9,3 con la sola domanda a 31,3 usando il record strutturato e la traccia completa di Mirage, su un punteggio di credito VQA su 100. Nessuno dei due modelli era stato sottoposto a fine-tuning. Su un record di un'altra immagine il punteggio è stato 22,2, mentre rimuovendo la traccia è salito a 33,1. In quel campione le osservazioni specifiche dell'immagine hanno aiutato, ma la traccia di ragionamento non ha portato benefici affidabili: è bastata la risposta strutturata.

I modelli testuali più grandi non hanno replicato lo stesso pattern. Con lo stesso prompt e le osservazioni di Mirage, Qwen3-1.7B è passato da 27,5 a 31,6 e Qwen3-4B-Instruct-2507 da 33,4 a 37,3. C'è però un dettaglio operativo che sporca questi numeri: i test richiedevano un oggetto JSON con un campo stringa answer, e le risposte che non rispettavano il formato ricevevano zero punti. Nemotron ha violato il requisito in 214 risposte su 256; Qwen3-1.7B in 34. I punteggi quindi mescolano correttezza della risposta e conformità al formato. Non è un problema secondario: in una pipeline on-device che collega un estrattore visivo a un LLM locale, la capacità di produrre output strutturati in modo stabile diventa una specifica di sistema, non un dettaglio di prompting.

Il limite strutturale emerge anche dalla percezione. In una foto con uno skateboard, Mirage non ha rilevato lo skateboard e ha descritto automobili, persone e scarpe. Qwen ha indovinato a skateboard dalla sola domanda, ma dopo aver letto il record di Mirage ha risposto a car. Un lettore più grande, quindi, ha bisogno che l'osservazione rilevante sia presente nel record. Si torna al punto centrale: Mirage non promette ragionamento visivo autonomo, ma una compressione delle evidenze che un LLM testuale può consumare. Se la compressione perde il dettaglio utile, nessun modello a valle può recuperarlo.

Cactus Compute ha annunciato che proverà a fare fine-tuning del lettore su record Mirage abbinati a domande e risposte brevi. Per chi valuta deployment on-premise ed edge, questo passaggio segnala una direzione precisa: invece di portare un modello multimodale pesante sul dispositivo, si può mantenere un piccolo estrattore locale e lasciare che un LLM self-hosted o locale consumi record strutturati. I vantaggi non sono solo di latenza, ma di sovranità dei dati: l'immagine può essere processata interamente sul device e trasformata in testo, riducendo ciò che esce dalla rete. Ma il prezzo è una dipendenza forte dalla qualità di estrazione e dal formato dei dati. AI-RADAR offre framework analitici su /llm-onpremise per valutare questi trade-off in contesti enterprise.