Indiscrezioni da una pull request indicano modelli Qwen4 con contesto fino a un milione di token e una possibile versione da 120 miliardi di parametri, ridisegnando i requisiti per l'inference self-hosted. Cache chiave-valore più grandi rendono VRAM e RAM un costo centrale per i deployment locali.
Un dettaglio in una pull request riaccende il dibattito su una classe di LLM da 120 miliardi di parametri. Per chi gestisce deployment self-hosted, la taglia ridefinisce i calcoli su VRAM, quantization e TCO, senza annunci ufficiali. Il segnale indic...
Una pull request nel repository QwenLM/qwen-code accende i riflettori su un possibile modello da 120 miliardi di parametri. Non è un annuncio ufficiale, ma la taglia da 120B tocca un nodo centrale per i deployment on-premise: VRAM aggregata, quantiza...
La pull request in qwen-code segnala che Qwen4 punta a una finestra da un milione di token. Per chi fa inference self-hosted il costo non è teorico: la cache chiave-valore cresce con i token e satura la VRAM insieme ai pesi. Qwen4-27B rende probabili...
Alibaba porta Qwen4 a un milione di token di contesto. La notizia emerge da una pull request in qwen-code: Qwen4-27B atteso domani all'evento Apsara nei Paesi Bassi, Qwen4-max datato 1° novembre con possibile placeholder al 1° ottobre. L'analisi si c...
