AI in locale: i modelli aperti sul tuo computer

In breve

I modelli a pesi aperti si scaricano e girano sul tuo hardware: se la configuri senza connessioni esterne (niente sincronizzazioni, telemetria o modelli cloud di riserva), i dati restano sulla macchina e non paghi a token.
Il prezzo: meno capacità dei modelli di frontiera, hardware adeguato e un po’ di manutenzione.
Regola pratica per la memoria: con la quantizzazione a 4 bit servono circa 0,6 GB per miliardo di parametri, più margine per il contesto.
Per iniziare: LM Studio (grafico, semplicissimo) od Ollama (riga di comando, ideale per automazioni).
Per la maggior parte delle persone non conviene: per un modello davvero capace serve moltissima memoria, la RAM nel 2026 costa più del triplo di un anno fa e i modelli locali restano molto meno intelligenti di quelli in cloud. Ha senso solo se hai un budget alto e ti servono riservatezza assoluta o fine-tuning.

Perché farlo (e perché no)

Buoni motivi:

massima riservatezza: documenti di clienti, dati sanitari, segreti industriali che non vuoi o non puoi inviare a terzi;
costi prevedibili per lavori ad altissimo volume (classificare milioni di documenti);
funzionamento offline e indipendenza da un fornitore;
personalizzazione: puoi specializzare il modello sui tuoi dati.

Cattivi motivi:

“Così è gratis”: l’hardware costa, l’elettricità anche, e il tempo di chi lo gestisce di più.
“È uguale a ChatGPT”: non lo è. Secondo Artificial Analysis, a ottobre 2026 il miglior modello aperto (MiMo-V2.6-Pro) fa 46 punti contro i 58 di Claude Opus 5.5, e i modelli che entrano in un portatile sono molto più indietro.

Quali modelli esistono

I modelli aperti più forti del 2026 vengono soprattutto dalla Cina e da alcuni laboratori occidentali. Dalla classifica di Artificial Analysis:

Modello	Parametri (totali / attivi)	Indice	Note
MiMo-V2.6-Pro (Xiaomi)	1.020 mld / 42 mld	46	Il più capace tra gli aperti; serve hardware da server
GLM-5.3 (Z AI)	circa 750 mld / 40 mld	45	Ottimo in ragionamento e codice
Kimi K3 (Moonshot)	2.800 mld / 104 mld	44	Contesto lunghissimo
Qwen3.8 27B (Alibaba)	27 mld (denso)	n.d.*	La versione aperta più piccola della famiglia
DeepSeek V4.1 Flash	552 mld / 8-16 mld	39	Veloce ed efficiente
Mistral Small 4	119 mld / 6,5 mld	9-17	Serve comunque una workstation
gpt-oss (OpenAI)	117 mld / 5,1 mld e 21 mld / 3,6 mld	9-17	La versione da 21 mld gira su un buon portatile
Gemma 4 (Google)	31 mld, 26 mld / 3,8 mld, 4,5 e 2,3 mld	9-17	Le versioni piccole girano anche su un portatile

*Nell’indice di Artificial Analysis il punteggio di 40 appartiene alla versione più grande della famiglia Qwen3.8, non alla 27B: per la 27B non riporto un valore confrontabile, ma è sensibilmente più indietro.

“Parametri attivi” vuol dire quanti ne usa per ogni parola: i modelli Mixture of Experts (vedi sotto) ne hanno tantissimi, ma ne attivano solo una parte. In memoria però devono starci tutti: per i primi cinque della tabella servono da centinaia di GB a oltre un terabyte.

I modelli “piccoli” hanno punteggi bassi nei benchmark generali, ma per compiti mirati (riassumere, classificare, estrarre dati, tradurre) spesso bastano.

Leggi la licenza

“Pesi aperti” non vuol dire sempre “uso libero”. Alcune licenze limitano l’uso commerciale o impongono condizioni. Controlla prima di usare un modello in azienda.

Quale hardware serve

Un modello è fatto di parametri, cioè numeri. Per farlo girare devono stare in memoria (meglio se nella memoria della scheda video, o nella memoria unificata dei Mac con chip Apple). Con la quantizzazione a 4 bit, che riduce la precisione dei numeri con una perdita di qualità contenuta, la regola pratica è:

Dimensione del modello	Memoria indicativa	Dove gira
4-8 miliardi di parametri	4-6 GB	Quasi ogni computer recente
12-14 miliardi	8-10 GB	Portatile con 16 GB di RAM
27-35 miliardi	18-24 GB	Mac con 32 GB, PC con scheda video da 24 GB
70-120 miliardi	45-80 GB	Workstation o Mac con 64-128 GB
Oltre 300 miliardi	Centinaia di GB	Server con più GPU

Molti modelli moderni sono Mixture of Experts (le sigle tipo “35B A3B”): hanno 35 miliardi di parametri ma ne usano 3 per ogni token. Occupano la memoria di un modello grande, perché tutti i pesi devono stare in memoria, ma per ogni parola calcolano molto meno: per questo spesso sono più veloci di un modello denso della stessa taglia, anche se la velocità dipende molto dalla banda della memoria.

Il contesto lungo occupa memoria in più: se vuoi analizzare documenti da centinaia di pagine, prevedi margine.

Il problema vero: memoria, costi e intelligenza

Detto in modo diretto: oggi ottenere in locale un modello davvero capace è complicato e molto costoso, e per la maggior parte delle persone non conviene. I motivi sono tre.

1. Servono quantità enormi di memoria. I modelli aperti che si avvicinano a quelli di frontiera hanno da 500 miliardi a quasi 3.000 miliardi di parametri. Anche compressi a 4 bit occupano da 300 GB a oltre 1,5 TB, che devono stare tutti in memoria veloce. Un portatile ha 16-32 GB: ci entrano solo i modelli piccoli.

2. La memoria non è mai costata così tanto. Nel 2026 c’è una vera crisi della RAM: i produttori spostano la capacità sui chip per i data center dell’intelligenza artificiale e quella per i computer normali scarseggia. Secondo TrendForce, nel primo trimestre del 2026 i prezzi contrattuali della DRAM sono aumentati del 90-95% in tre mesi, e un kit da 32 GB di DDR5 che un anno fa costava circa 120 dollari oggi ne costa intorno ai 400. I produttori stessi prevedono carenze almeno fino al 2027. Tradotto: un computer con 128 GB o più di memoria, il minimo per i modelli medi, costa molte migliaia di euro; un server per i modelli grandi decine di migliaia.

3. I modelli locali sono molto meno intelligenti. Anche spendendo tanto, il miglior modello aperto resta parecchio dietro ai migliori modelli in cloud (46 punti contro 58 nell’indice di Artificial Analysis), e quelli che girano su un computer normale sono ancora più indietro. Il rischio concreto è spendere molto per usare un modello poco capace, quando con 20 € al mese hai accesso ai modelli migliori del mondo.

Per chi ha senso, allora

L’AI in locale è consigliata solo se hai un budget importante da investire e allo stesso tempo:

ci tieni moltissimo alla riservatezza dei dati (o la legge e i contratti ti impediscono di inviarli a terzi), oppure
vuoi fare fine-tuning, cioè addestrare ulteriormente il modello sui tuoi dati per specializzarlo.

In tutti gli altri casi, un piano business di un modello in cloud (che non usa i tuoi dati per l’addestramento) dà risultati migliori a una frazione del costo.

Iniziare in dieci minuti

Con LM Studio (consigliato per iniziare)

Scarica LM Studio dal sito ufficiale e installalo.
Nella sezione di ricerca cerca un modello piccolo (per esempio della famiglia Gemma o Qwen) nella versione quantizzata a 4 bit che il programma indica come compatibile con il tuo computer.
Scaricalo e apri la chat: funziona come ChatGPT, ma tutto in locale.
Se vuoi usarlo da altri programmi, attiva il server locale: espone un’interfaccia compatibile con le API di OpenAI.

Con Ollama (per automazioni)

Ollama si usa da terminale: un comando scarica il modello, un altro lo avvia. È perfetto come “motore” per automazioni private, per esempio con n8n installato sullo stesso server: i documenti vengono letti, classificati e riassunti senza mai uscire dall’ufficio.

Un’architettura tipica per uno studio

Un computer o piccolo server in ufficio con un modello da 20-35 miliardi di parametri.
Ollama come motore, n8n per i flussi (vedi la guida sulle automazioni).
Un indice dei documenti interni per le domande (vedi la guida su RAG ed embedding).
Per i compiti difficili e non riservati, un modello di frontiera via API con contratto business.

È l’approccio ibrido: in locale ciò che è riservato e ripetitivo, nel cloud ciò che richiede la massima intelligenza.

In pratica

Prova LM Studio con un modello piccolo: in dieci minuti capisci cosa può e non può fare sul tuo computer, senza spendere nulla.
Prima di comprare hardware, fai i conti: con i prezzi della RAM di oggi un computer adatto ai modelli medi costa molte migliaia di euro, per modelli che restano meno capaci di quelli in cloud.
Investi nell’AI in locale solo se hai un budget alto e ti servono la massima riservatezza (con una configurazione davvero isolata) o il fine-tuning; altrimenti scegli un piano business in cloud.
Calcola il costo vero: hardware, energia, tempo di gestione.
Controlla sempre la licenza del modello.

Fonti

Contenuto informativo aggiornato alla data indicata. Prezzi, modelli e norme cambiano spesso: verifica sempre sulle fonti ufficiali. Testo scritto con il supporto di strumenti di AI e rivisto dall'autore.