Lemonade, progetto open source allineato all'ecosistema AMD per server AI locali, ha pubblicato la release 2026.39.1 e una release candidate della 2026.40. Il passaggio a un nuovo schema di versioning è il dettaglio meno interessante. Le due modifiche che contano sono la correzione dello streaming dei modelli sulle APU AMD e l'eliminazione del supporto OpenMOSS su ROCm, indicato come circa 40 volte più lento dell'alternativa Vulkan.
La rimozione non è un aggiustamento minore. In un server AI self-hosted, la differenza tra un backend di calcolo e l'altro si traduce direttamente in latenza di inference, numero di richieste servibili e costi operativi. Su un'APU, dove CPU e GPU condividono lo stesso package e spesso la stessa memoria, la scelta del runtime diventa ancora più sensibile: un percorso pensato per GPU discrete può pagare overhead che su grafica integrata diventano insostenibili.
Il fatto che Vulkan si dimostri nettamente più veloce di ROCm in questo scenario non è una vittoria simbolica. Indica che per determinati carichi di streaming di LLM, le API di calcolo a più basso livello possono sfruttare meglio le risorse di un'APU. Chi progetta pipeline di serving locali su hardware AMD integrato ora ha un dato concreto: mantenere due backend non è neutrale, e il progetto ha scelto di tagliare quello che non regge il confronto.
A livello strutturale, la notizia segnala che l'ecosistema software per l'inference locale su GPU AMD resta frammentato. ROCm è la piattaforma di riferimento per le GPU discrete, ma la sua efficacia non è uniforme su tutte le categorie di prodotto. Lemonade, essendo un SDK pensato per il server AI locale, sta di fatto dicendo che su APU il percorso Vulkan è quello praticabile. Questo cambia gli incentivi per chi sviluppa tooling: investire su un singolo stack proprietario può lasciare scoperti i dispositivi più economici e diffusi per l'on-premise e l'edge.
Per chi valuta deployment self-hosted, la questione non è solo prestazionale ma di TCO: hardware integrato a basso consumo può diventare interessante se il software lo sfrutta bene. Un gap di 40x non è ottimizzabile con piccoli accorgimenti; è un problema architetturale. La scelta di Lemonade suggerisce che la maturità di un runtime su APU va verificata prima di standardizzare l'infrastruttura.
La release candidate 2026.40 indica che il progetto intende mantenere un ritmo rapido. Il nuovo schema di versioning, più che un fatto tecnico, serve a rendere più leggibili questi cambiamenti. Per ora, il messaggio principale resta uno: nel serving locale su APU AMD, Vulkan ha preso un vantaggio che ROCm non è riuscito a colmare.
💬 Commenti (0)
🔒 Accedi o registrati per commentare gli articoli.
Nessun commento ancora. Sii il primo a commentare!