Lemonade 11.9 è uscito oggi e, a prima vista, sembra l'ennesimo aggiornamento di un server AI locale. La parte interessante non è però la solita promessa di privacy: è il supporto sperimentale al backend ROCm HRX dentro Llama.cpp. HRX è indicato come la novità da osservare nel panorama ROCm di AMD. Il fatto che arrivi prima qui, in un progetto open source e sostenuto da AMD, non è casuale.

Lemonade ha costruito la sua identità sull'idea di un uso «100% gratuito e privato» dell'AI su hardware locale, siano GPU, CPU o NPU. Non è una piattaforma cloud: il calcolo resta sulla macchina dell'utente. Questo posizionamento lo rende un banco di prova naturale per tecnicie che devono dimostrare di funzionare in contesti self-hosted, lontano dai data center iperscalabili e dagli stack proprietari.

Il nodo strategico è Llama.cpp. Si tratta di un motore di inference molto diffuso nel mondo open source, usato per eseguire LLM su hardware consumer e server senza dipendere da servizi esterni. Aggiungere un backend ROCm HRX, anche in forma sperimentale, significa abbassare la soglia per chi vuole usare GPU AMD in pipeline locali. Oggi molti deployment on-premise restano legati a CUDA per ragioni storiche, di maturità dei driver e di disponibilità di tooling. Ogni progresso su ROCm dentro un progetto come Llama.cpp riduce, almeno in potenza, questa asimmetria.

Il secondo effetto è meno visibile ma rilevante: un backend sperimentale serve a raccogliere segnali. Chi prova HRX su Lemonade 11.9 sta fornendo ad AMD informazioni su compatibilità, prestazioni e regressioni in scenari reali, non in benchmark controllati. In un ecosistema open source, questa fase è spesso il preludio a un supporto più stabile e a una presenza più ampia sui server locali. Non è un annuncio di prodotto finito, ma un meccanismo di sviluppo.

C'è poi un terzo livello, quello strutturale. L'inference locale vive di hardware eterogeneo: GPU dedicate, iGPU, CPU con accelerazione, NPU montate su laptop e mini PC. Un backend ROCm che dialoga con Llama.cpp potrebbe estendere le opzioni hardware senza costringere gli utenti a cambiare l'intero stack. Per chi valuta server on-premise, il calcolo del TCO non si limita al prezzo di acquisto: include manutenzione, consumo energetico, licenze e dipendenza da un unico fornitore. In questo framework, la pluralità di backend è una variabile strutturale, non un dettaglio tecnico.

Va detto che il supporto è appunto sperimentale. La fonte non fornisce benchmark, livelli di quantization garantiti o confronti di latenza. Sarebbe un errore trasformare questa release in una prova di maturità. Ma il segnale è chiaro: AMD spinge ROCm dentro strumenti open source già adottati, usando Lemonade come veicolo per portare HRX a contatto con chi esegue modelli in locale. Per chi segue il deployment self-hosted, esistono trade-off da valutare tra controllo dei dati, costi operativi e maturità dell'ecosistema; AI-RADAR offre framework analitici su /llm-onpremise per orientarsi.

La domanda aperta è se HRX riuscirà a superare la fase sperimentale e a diventare un'alternativa credibile per carichi di inference continui. La risposta non arriverà da una singola release, ma dal numero di progetti che inizieranno a trattarlo come un componente normale del proprio stack.