Esegui LLM in locale: guide modello per modello
Una pagina per modello: esattamente quanta VRAM richiede ogni quant, l'hardware minimo onesto, il comando Ollama, i token/sec attesi e le insidie specifiche di quel modello. Tutti i valori seguono il nostro metodo di sizing e la guida alla quantizzazione.
Non sai quale modello? Parti dalla tua GPU: 12GB → Phi-4 · 16GB → Mistral Small · 24GB → Qwen3.6 27B (o Gemma 3 per la visione, DeepSeek-R1 per il ragionamento) · 48GB+ → Llama 3.3 70B.
Qwen3.6 27B
Il punto ideale per schede da 24GB: coding, ottimo italiano e thinking mode attivabile.
Leggi la guida →Llama 3.3 70B
Il riferimento della classe 70B: massima qualità generale open-weight, se hai 48GB.
Leggi la guida →DeepSeek-R1 32B (distill)
Ragionamento in stile frontiera su una scheda da 24GB — pensa prima di rispondere.
Leggi la guida →Gemma 3 27B
Visione + ottimo multilingue su 24GB — con build QAT ufficiali che brillano a 4-bit.
Leggi la guida →Mistral Small 3.1
Il campione di efficienza: qualità quasi-27B che entra in una scheda da 16GB — ed è europeo.
Leggi la guida →Phi-4 14B
Il piccolo gigante: un 14B che colpisce ben oltre la sua taglia — gira su una scheda da 12GB.
Leggi la guida →Due regole dalle nostre guide che vale la pena ripetere: fino al 4-bit, un modello più grande quantizzato batte uno più piccolo a precisione piena a parità di memoria; e con un buon RAG, la qualità del retrieval sposta la qualità delle risposte più della dimensione del modello. Contesto completo: guida all'acquisto GPU · TCO reale · Osservatorio On-Premise.