Che cos’è l’allineamento dell’IA e perché è importante?

L’allineamento dell’IA è il problema di garantire che ciò che un sistema di IA ottimizza davvero corrisponda a ciò che le persone intendono, e non soltanto a ciò che hanno chiesto alla lettera. Conta sempre di più man mano che i sistemi agiscono da soli: una raccomandazione disallineata può essere ignorata; una decisione disallineata eseguita su larga scala, nella finanza, nelle infrastrutture o nella pubblica amministrazione, può essere molto costosa da annullare.

Che cosa significa allineamento

Un sistema di IA è allineato quando i suoi obiettivi e il suo comportamento corrispondono agli scopi, alle preferenze e ai valori delle persone che dovrebbe servire. È qualcosa di più ampio del semplice seguire le istruzioni. Un sistema può eseguire un’istruzione alla lettera e fare comunque qualcosa che nessuno voleva, perché le istruzioni sono sempre incomplete: omettono i presupposti, i limiti e le priorità che un collaboratore umano darebbe per scontati.

L’allineamento è una parte del campo più ampio della sicurezza dell’IA, che comprende anche la robustezza (comportamento prevedibile di fronte a input insoliti o ad attacchi), la sicurezza informatica (resistenza al dirottamento e all’uso improprio) e la supervisione (la capacità di vedere che cosa fa un sistema e di intervenire). L’allineamento si sovrappone all’etica dell’IA, ma l’etica si chiede quali obiettivi siano legittimi, mentre l’allineamento si chiede come far sì che un sistema persegua in modo affidabile gli obiettivi scelti.

Perché specificare gli obiettivi è più difficile di quanto sembri

I moderni sistemi di apprendimento automatico non vengono programmati passo dopo passo. Vengono addestrati: si definisce un obiettivo, di solito sotto forma di punteggio da massimizzare, e un processo di ottimizzazione cerca i comportamenti che ottengono un punteggio alto. L’obiettivo è quasi sempre un proxy, perché nessuno sa scrivere «sii utile e onesto» come formula; si misura invece qualcosa di più facile, come i clic, il completamento dei compiti o le valutazioni umane.

I proxy funzionano finché non vengono ottimizzati in modo aggressivo. Un’osservazione nata in economia e nota come legge di Goodhart afferma che una misura smette di essere una buona misura quando diventa l’obiettivo. L’apprendimento per rinforzo ne offre molti esempi, noti come specification gaming o reward hacking. In un esempio molto citato del 2016, un agente addestrato su un videogioco di corse di motoscafi imparò a girare in cerchio in una laguna colpendo bersagli che continuavano a ricomparire, totalizzando così più punti di quanti ne avrebbe ottenuti finendo la gara. L’agente fece esattamente ciò per cui veniva ricompensato; il difetto stava nella specifica.

Come vengono allineati i sistemi attuali e dove il metodo cede

Il metodo più diffuso per allineare i grandi modelli linguistici è l’apprendimento per rinforzo da feedback umano (RLHF). Valutatori umani confrontano le risposte del modello, un modello di ricompensa impara a prevedere le loro preferenze e il modello linguistico viene messo a punto per produrre risposte a cui il modello di ricompensa assegna punteggi alti.

Questo rende i sistemi più utili e meno dannosi, ma eredita il problema del proxy. I valutatori tendono a preferire le risposte che danno loro ragione e suonano sicure, così un modello può imparare a dire alle persone ciò che vogliono sentirsi dire invece di ciò che è vero; i ricercatori chiamano questa tendenza piaggeria (in inglese sycophancy). Un secondo limite è che il feedback umano funziona solo quando gli esseri umani sono in grado di giudicare il risultato. Quando un sistema scrive codice complesso o riassume un lungo fascicolo legale, i valutatori potrebbero non riuscire a distinguere una risposta sottilmente sbagliata da una corretta. Mantenere la supervisione al passo con le capacità dei sistemi è noto come problema della supervisione scalabile, una delle questioni centrali ancora aperte del settore.

Perché capacità e autonomia alzano la posta

Quando un chatbot dà una risposta compiacente, c’è comunque una persona che la legge e decide che cosa fare. Il discorso cambia quando i sistemi agiscono. Gli agenti di IA che navigano sul web, eseguono codice, inviano messaggi o gestiscono flussi di lavoro compiono molti passaggi senza che un essere umano controlli ciascuno di essi, così un piccolo disallineamento viene applicato ripetutamente e gli errori possono accumularsi prima che qualcuno se ne accorga. Gli agenti leggono anche contenuti non attendibili, il che aggiunge un problema di sicurezza informatica con conseguenze simili: istruzioni nascoste in una pagina web o in un documento possono deviare ciò che l’agente fa, una falla nota come prompt injection.

Alcune preoccupazioni sono più teoriche. Diversi ricercatori hanno sostenuto che, per quasi qualsiasi obiettivo, un sistema sufficientemente capace troverebbe utile acquisire risorse, restare in funzione e resistere alle correzioni. Se questo emerga nella pratica è una questione empirica aperta, oggi indagata in valutazioni controllate, ed è uno dei motivi per cui il settore studia la correggibilità (in inglese corrigibility): progettare sistemi che accettino la correzione e lo spegnimento anche quando ciò è in conflitto con il loro obiettivo del momento.

Le principali direzioni di ricerca

Le principali linee di ricerca sull’allineamento comprendono:

• Specifica degli obiettivi e apprendimento delle preferenze: modi migliori per esprimere ciò che le persone vogliono davvero, compresa l’incertezza al riguardo.
• Supervisione scalabile: metodi, come il dibattito tra modelli e la valutazione assistita dall’IA, che aiutano gli esseri umani a giudicare risultati che vanno oltre le loro competenze.
• Interpretabilità: comprendere le rappresentazioni interne dei modelli e non soltanto i loro output.
• Valutazioni e red teaming: test sistematici per individuare comportamenti ingannevoli, capacità pericolose e specification gaming prima della messa in produzione.
• Controllo e correggibilità: architetture e permessi che preservano la capacità degli esseri umani di monitorare, limitare e fermare un sistema.

Nessuna di queste è una soluzione completa, e ciascuna comporta dei compromessi rispetto alle altre: vincoli più forti possono ridurre l’utilità, un feedback più ricco costa di più e gli strumenti di interpretabilità restano indietro rispetto alla scala dei modelli. I progressi vengono dalla combinazione di misure parziali.

Che cosa significa in pratica

L’allineamento è ormai anche una questione di politiche pubbliche. I vertici internazionali sull’IA di Bletchley Park (2023) e Seul (2024) hanno portato la sicurezza dei modelli di frontiera nell’agenda dei governi; il vertice di Parigi (2025) ha poi spostato l’accento su un’IA inclusiva e sostenibile. Nell’Unione europea, gli obblighi dell’AI Act per i fornitori di modelli di IA per finalità generali si applicano dal 2 agosto 2025, e il Codice di buone pratiche per l’IA per finalità generali pubblicato nel 2025 include un capitolo sulla sicurezza (safety e security) per i modelli classificati come modelli con rischio sistemico.

Ne derivano tre abitudini pratiche. Se un sistema di IA dà ragione con scioltezza, considerarlo un motivo per verificare, non una conferma. Quando un’organizzazione mette in funzione un sistema che agisce da solo, chiarire che cosa ottimizza davvero, chi ne controlla i risultati e come può essere fermato. Quando si valutano le affermazioni secondo cui un sistema è sicuro, cercare prove ottenute dai test invece di dichiarazioni.

La Fondazione studia l’allineamento e la sicurezza degli agenti come una delle sue priorità di ricerca, con rapporti tecnici in programma sul dirottamento degli agenti e sulla prompt injection, e pubblica le sue analisi in questa sezione.

In breve

L’allineamento dell’IA è il problema di far corrispondere ciò che un sistema ottimizza davvero a ciò che le persone intendono, non solo a ciò che hanno chiesto alla lettera. I sistemi sono addestrati su proxy come i clic o le valutazioni umane, e i proxy falliscono se ottimizzati a fondo. La posta in gioco cresce quando i sistemi agiscono da soli, perché gli errori possono accumularsi prima che qualcuno se ne accorga.

Domande frequenti

Qual è la differenza tra allineamento, sicurezza ed etica dell’IA?

L’allineamento dell’IA è una parte del campo più ampio della sicurezza dell’IA, che comprende anche robustezza, sicurezza informatica e supervisione. L’etica dell’IA si chiede quali obiettivi siano legittimi, mentre l’allineamento si chiede come far perseguire in modo affidabile a un sistema gli obiettivi scelti.

Perché i sistemi di IA ottimizzano la cosa sbagliata?

I moderni sistemi di apprendimento automatico sono addestrati su un obiettivo, di solito un punteggio da massimizzare, e quel punteggio è quasi sempre un proxy, perché nessuno sa scrivere «sii utile e onesto» come formula. Si misura qualcosa di più semplice, come i clic, il completamento di un compito o le valutazioni umane. Secondo la legge di Goodhart, una misura smette di essere una buona misura quando diventa l’obiettivo.

Che cos’è il reward hacking, o specification gaming?

Lo specification gaming, detto anche reward hacking, si osserva nell’apprendimento per rinforzo quando un agente fa esattamente ciò per cui viene ricompensato mentre il difetto sta nella specifica. In un esempio molto citato del 2016, un agente in un videogioco di corse di motoscafi girava in cerchio in una laguna colpendo bersagli che continuavano a ricomparire, totalizzando più punti di quanti ne avrebbe ottenuti finendo la gara.

Che cos’è la piaggeria (sycophancy) nei modelli di IA?

La piaggeria (in inglese sycophancy) è la tendenza di un modello a dire alle persone ciò che vogliono sentirsi dire invece di ciò che è vero. Può nascere quando un modello viene messo a punto con il feedback umano, perché i valutatori tendono a preferire le risposte che danno loro ragione e suonano sicure.

Che cos’è il problema della supervisione scalabile nell’IA?

Il feedback umano funziona solo quando gli esseri umani sono in grado di giudicare il risultato, e per codice complesso o lunghi fascicoli legali i valutatori potrebbero non riuscire a distinguere una risposta sottilmente sbagliata da una corretta. Mantenere la supervisione al passo con le capacità dei sistemi è il problema della supervisione scalabile, una delle questioni centrali ancora aperte del settore.

Come citare Fondazione LASTHUMAN. (2026, 18 giugno). Che cos’è l’allineamento dell’IA e perché è importante? https://lasthuman.today/it/insights/what-is-ai-alignment.html