Dopo oltre un anno di notti e weekend, un developer noto come TangySword ha pubblicato Jenny, un'app desktop Electron con licenza MIT per eseguire LLM in locale. Non è una semplice chat: integra tool calling, rollback e un IDE, e nasce da una convinzione esplicita: l’accesso ai modelli di frontiera è oggi sovvenzionato da private equity e venture capital, e quando quei sussidi finiranno il servizio tenderà a degradarsi. Da qui la scelta di costruire un harness self-hosted che non dipenda da endpoint cloud.

Il progetto arriva in un segmento già affollato — LM Studio, Open WebUI, Unsloth Desktop — ma punta su un equilibrio particolare tra produttività e sicurezza locale. I comandi shell distruttivi richiedono approvazione esplicita; le modifiche ai file vengono salvate con checkpoint. Per chi usa modelli piccoli, spesso veloci ma inclini all’errore, questa non è una funzione accessoria: riduce il costo di un output sbagliato e rende più praticabile l’automazione su file e calendario. Jenny espone anche log e diagnostica, così l’utente può ricostruire cosa ha fatto il runtime locale.

Sul piano tecnico l’app accetta llama.cpp, vLLM o qualsiasi endpoint locale compatibile con OpenAI, oltre a GGUF tramite il llama-server gestito (per MTP). Il developer segnala buone prestazioni su una GPU GeForce RTX 5070 Ti con un modello da 9 miliardi di parametri, ornith1.5:9b, per tool calling e velocità. Windows è la piattaforma di riferimento; macOS non è stato testato e Linux non è disponibile. La scelta è coerente con una priorità desktop su workstation singola, ma limita l’adozione server headless in contesti enterprise.

Il punto strutturale non è la singola app, ma il segnale che manda. Quando la qualità delle API commerciali dipende da sussidi esterni, la via locale smette di essere una nicchia ideologica e diventa un’opzione di controllo del TCO e dei dati. Jenny lo affronta al livello dell’utente individuale: nessuna chiamata di rete oltre al runtime locale, licenza permissiva, telemetria solo privata per il debug. Resta il rischio di mantenibilità: è un progetto individuale, con un day job e una vita privata da proteggere, e il codice è aperto più come invito che come garanzia. Ma per chi guarda al deployment on-premise, strumenti come questo mostrano che il collo di bottiglia non è la potenza di calcolo, ma la capacità di governare gli effetti collaterali di un modello che sbaglia. Per chi valuta questi trade-off, AI-RADAR offre framework analitici su /llm-onpremise; qui il dato è un altro: la domanda di esecuzione locale sta producendo interfacce sempre più complete, anche quando a costruirle è una sola persona.