Fine-tuning: quando conviene addestrare un modello sui tuoi dati

In breve

Il fine-tuning riprende un modello già addestrato e lo allena ancora su centinaia o migliaia di tuoi esempi, così impara un comportamento: un formato, uno stile, un compito ripetitivo.
Non serve per “insegnargli i tuoi documenti”: per le informazioni che cambiano si usa il RAG, che è più economico e aggiornabile.
Prima del fine-tuning prova sempre, in ordine: un prompt migliore con esempi, poi il RAG. Nella maggior parte dei casi bastano.
Conviene quando hai tanti esempi di qualità, un compito stretto e ripetuto e un volume tale che un modello piccolo specializzato fa risparmiare molto.
Con tecniche come LoRA costa molto meno di un tempo, ma resta un progetto: dati, test, manutenzione.

Cosa succede davvero

Un modello impara in due grandi fasi (le racconto nella lezione su come funziona un LLM): il pre-addestramento su enormi quantità di testo, poi l’addestramento a seguire istruzioni e comportarsi da assistente. Il fine-tuning è una terza fase, piccola e tua: gli mostri molte coppie “richiesta → risposta ideale” e il modello aggiusta leggermente i suoi parametri per comportarsi così.

Il risultato è un modello che:

produce sempre lo stesso formato senza bisogno di lunghe istruzioni;
adotta lo stile e il lessico dei tuoi esempi;
esegue un compito specifico (classificare, estrarre, riscrivere) con più precisione;
spesso permette di usare un modello più piccolo, più veloce ed economico, al posto di uno grande.

Quello che non fa bene: imparare fatti nuovi in modo affidabile. Se lo alleni sui listini di quest’anno, li “ricorderà” in modo approssimativo e non saprà dirti da dove viene un numero; e quando i listini cambiano, devi riaddestrarlo.

Prompt, RAG o fine-tuning?

Ti serve che il modello…	Strumento giusto	Perché
Segua regole e tono	Prompt con istruzioni ed esempi	Immediato, gratis da modificare
Risponda su documenti e dati aggiornati	RAG	Cita le fonti, si aggiorna caricando i file
Faccia sempre lo stesso compito stretto, con un formato preciso, su volumi alti	Fine-tuning	Più preciso e spesso più economico per richiesta
Parli un linguaggio di settore molto particolare	Fine-tuning (eventualmente insieme al RAG)	Impara lessico e stile dagli esempi

Le tre cose si combinano: un modello specializzato con il fine-tuning può comunque ricevere i documenti giusti dal RAG e istruzioni nel prompt.

Le cinque domande prima di iniziare

Ho provato un prompt serio? Con istruzioni chiare e 5-10 esempi completi nel prompt. Spesso il problema si risolve qui.
Il problema riguarda conoscenze o comportamento? Se riguarda conoscenze (documenti, prezzi, procedure), serve il RAG, non il fine-tuning.
Ho abbastanza esempi buoni? Servono almeno qualche centinaio di coppie corrette e coerenti, meglio migliaia. Esempi sbagliati insegnano errori.
Il volume lo giustifica? Se fai poche decine di richieste al giorno, il risparmio non ripaga il lavoro.
So misurare se migliora? Senza un set di test (una serie di domande con la risposta giusta, su cui confrontare i modelli) non saprai se il modello specializzato è davvero meglio.

Se rispondi “sì” a tutte, il fine-tuning ha senso.

Il dataset è tutto

La qualità del fine-tuning dipende quasi solo dagli esempi. Ogni esempio è una conversazione: le istruzioni, la richiesta e la risposta che vorresti sempre.

Varietà: copri i casi normali, quelli difficili e le eccezioni, nelle proporzioni reali.
Coerenza: stesse regole in tutti gli esempi. Se metà delle risposte usa un formato e metà un altro, il modello imparerà la confusione.
Pulizia: togli dati personali e riservati. Quello che entra nell’addestramento può riemergere nelle risposte.
Separazione: tieni da parte un 10-20% di esempi che il modello non vede in addestramento, per i test.

Un trucco diffuso: far scrivere le prime bozze delle risposte a un modello grande, poi correggerle a mano e usarle per specializzare un modello piccolo. Si chiama distillazione: il modello piccolo impara a imitare il grande sul tuo compito, costando molto meno.

Le due strade: fornitore o modello aperto

1. Fine-tuning presso il fornitore. Alcuni fornitori di modelli chiusi permettono di specializzare certi loro modelli caricando il dataset: paghi i token usati per l’addestramento e poi un prezzo per l’uso del modello specializzato. È la via più semplice, senza hardware. Limiti: non tutti i modelli sono disponibili, i dati vanno al fornitore (verifica il contratto) e resti legato a lui.

2. Fine-tuning di un modello aperto. Prendi un modello a pesi aperti (vedi la lezione sull’AI in locale) e lo specializzi tu, sul tuo hardware o su GPU noleggiate. Qui entrano in gioco LoRA e QLoRA: invece di modificare tutti i miliardi di parametri, si addestra un piccolo “strato aggiuntivo” di pochi milioni di parametri, e con QLoRA il modello di base viene anche compresso a 4 bit. Risultato: specializzare un modello da 7-30 miliardi di parametri diventa possibile su una sola GPU, spesso in poche ore e con una spesa di decine di euro di calcolo noleggiato. Librerie come PEFT di Hugging Face o Unsloth rendono il processo molto più accessibile.

Il costo vero non è il calcolo

L’addestramento in sé, con LoRA, costa poco. Costano il tempo per preparare e verificare i dati, i test, e la manutenzione: quando esce un modello di base migliore (succede ogni pochi mesi) il tuo modello specializzato resta indietro e va riaddestrato. Spesso il nuovo modello di base, con un buon prompt, fa già meglio del vecchio specializzato.

Come capire se ha funzionato

Confronta sul set di test che hai tenuto da parte:

il modello di base con il tuo miglior prompt;
il modello specializzato con un prompt corto.

Guarda qualità, costo per richiesta e velocità. Se il modello specializzato non batte chiaramente il prompt ben fatto, non vale la pena tenerlo in produzione. Controlla anche che non abbia perso capacità generali che ti servono: un modello troppo specializzato può peggiorare su tutto il resto.

Esempi in cui ha senso

Uno studio che classifica decine di migliaia di documenti al mese in categorie interne: un modello piccolo specializzato è preciso e costa pochissimo.
Un’azienda che deve generare descrizioni prodotto sempre nello stesso formato e con il suo stile, per un catalogo enorme.
Un servizio che lavora con dati che non possono uscire dall’azienda: un modello aperto specializzato e installato in sede (con i limiti di costo dell’hardware di cui parlo nella lezione sull’AI in locale).

E uno in cui non ha senso: un chatbot che deve rispondere sulle procedure aziendali che cambiano ogni mese. Lì serve il RAG.

In pratica

Prima prova un prompt con esempi, poi il RAG: risolvono la maggior parte dei casi.
Usa il fine-tuning per insegnare un comportamento (formato, stile, compito), non per insegnare fatti.
Raccogli almeno alcune centinaia di esempi corretti e coerenti, e tienine da parte una parte per i test.
Valuta prima la strada del fornitore; il modello aperto con LoRA conviene se ti servono controllo e riservatezza.
Misura sempre contro il modello di base con un buon prompt, e ripeti il confronto quando escono modelli nuovi.

Fonti

Contenuto informativo aggiornato alla data indicata. Prezzi, modelli e norme cambiano spesso: verifica sempre sulle fonti ufficiali. Testo scritto con il supporto di strumenti di AI e rivisto dall'autore.