Sicurezza ed etica dell’IA: qual è la differenza?

I termini sicurezza dell’IA ed etica dell’IA sono spesso usati come sinonimi, ma pongono domande diverse. La sicurezza chiede se un sistema faccia in modo affidabile ciò che i suoi progettisti intendono; l’etica chiede se quell’intento, e i suoi effetti sulle persone, siano giustificabili. In parole semplici, la sicurezza riguarda i mezzi, l’etica i fini, e un approccio serio all’IA ha bisogno di entrambe.

Due domande, non una

Prendiamo un sistema di raccomandazione di contenuti. La domanda della sicurezza è se faccia ciò per cui è stato costruito, in modo affidabile e senza farsi manipolare. La domanda dell’etica è se ciò per cui è stato costruito, per esempio trattenere le persone su una piattaforma il più a lungo possibile, sia un obiettivo legittimo, e chi ne paghi il prezzo quando funziona bene. Un sistema può superare la prima prova e fallire la seconda. Accade anche il contrario: ottimi principi sulla carta, e un modello che nessuno ha messo alla prova con input manipolati.

Che cosa studia la sicurezza dell’IA

I sistemi che apprendono dai dati non fanno semplicemente ciò che i loro progettisti intendevano; fanno ciò che l’obiettivo, i dati e l’ambiente premiano. I temi centrali della sicurezza dell’IA discendono da questo scarto, più uno dedicato al danno causato intenzionalmente.

• Allineamento: far coincidere gli obiettivi effettivi di un sistema con le intenzioni umane, anche in situazioni che nessuno ha specificato.
• Robustezza: comportarsi in modo prevedibile con input insoliti e di fronte ad attacchi deliberati.
• Valutazione: misurare ciò che un modello sa e non sa fare, con test che non ha mai visto prima.
• Controllo e supervisione: conservare la capacità di monitorare, correggere o spegnere un sistema.
• Prevenzione degli usi impropri: limitare quanto un sistema è disposto ad aiutare un utente a causare danni gravi.

Una modalità di fallimento ben documentata è lo specification gaming, detto reward hacking nell’apprendimento per rinforzo: un sistema soddisfa la lettera del proprio obiettivo tradendone lo scopo, come quando un agente che gioca a un videogioco, premiato per i punti, continua a girare in cerchio per raccoglierli invece di concludere la gara. Non c’è stato alcun malfunzionamento; l’obiettivo era una cattiva approssimazione dello scopo.

Quando i modelli linguistici agiscono come agenti che navigano sul web, la prompt injection diventa centrale: istruzioni nascoste in una pagina web possono essere lette come se venissero dall’utente. Limitare i permessi dell’agente e testarlo contro attacchi adattivi determinano se gli si possa affidare il compito, non se il compito meriti di essere svolto.

Che cosa chiede l’etica dell’IA

L’etica dell’IA parte dalle persone, non dai sistemi. Chiede quali obiettivi siano legittimi, chi ne sia toccato, chi sopporti il costo degli errori e se una decisione che incide sulla vita di una persona debba davvero essere automatizzata. La Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale (2021), i Principi dell’OCSE sull’intelligenza artificiale (2019, aggiornati nel 2024) e la Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale (2024) danno a queste preoccupazioni un vocabolario comune.

Si consideri uno strumento per le assunzioni addestrato sulle decisioni passate. Se le selezioni precedenti hanno svantaggiato un gruppo, un modello che impara a prevederle riprodurrà con ogni probabilità quello svantaggio su larga scala. Fa ciò per cui è stato addestrato; il problema sta nel trattare le decisioni passate come il metro di ciò che rende buono un candidato. I soli test di robustezza non lo farebbero emergere, perché il sistema sta svolgendo bene il compito sbagliato.

L’etica riguarda anche l’autonomia delle persone, e una parte di questa preoccupazione è già legge: l’articolo 22 del GDPR riconosce alle persone il diritto, con alcune eccezioni, di non essere sottoposte a una decisione basata unicamente sul trattamento automatizzato che produca effetti giuridici o incida in modo analogo significativamente sulla loro persona. Dietro la norma c’è un giudizio: alcune decisioni meritano un essere umano che possa risponderne.

Dove le due si incontrano

Un sistema affetto da bias è un fallimento etico, ma è anche insicuro per le persone che giudica male, perciò i test di equità rientrano nel lavoro sulla sicurezza. La dipendenza è reciproca: «sicuro» significa sempre sicuro per qualcuno, rispetto a un certo danno, a un certo livello di rischio accettato, e queste sono scelte etiche; un principio di cui non si possa dimostrare il rispetto da parte di un sistema è un auspicio, non una garanzia.

Il diritto dell’UE le tratta come un unico pacchetto. Per i sistemi ad alto rischio, l’AI Act dell’UE (regolamento (UE) 2024/1689) richiede la gestione dei rischi, l’esame dei dati di addestramento, convalida e prova alla ricerca di possibili bias, la sorveglianza umana, nonché accuratezza, robustezza e cibersicurezza, il tutto all’interno di un’unica valutazione della conformità. Secondo il calendario originario, la maggior parte di questi obblighi avrebbe dovuto applicarsi dal 2 agosto 2026, e dal 2 agosto 2027 per l’IA ad alto rischio presente in prodotti già coperti dalla legislazione dell’UE sui prodotti. Nel luglio 2026 un regolamento modificativo, l’omnibus digitale sull’IA (regolamento (UE) 2026/1744), li ha rinviati rispettivamente al 2 dicembre 2027 e al 2 agosto 2028.

Qui un’esigenza etica diventa un problema di prove: dimostrare che un sistema è stato sottoposto a verifiche sui bias richiede dati, e i dati necessari per rilevare la discriminazione sono spesso sensibili. Il rapporto tecnico della Fondazione sul rilevamento dei bias ai sensi dell’AI Act dell’UE esamina quando i dati sintetici, anonimizzati o protetti da privacy differenziale sono sufficienti a questo scopo.

Perché la distinzione conta nella pratica

Un’organizzazione che tratta l’etica come una dichiarazione di valori e la sicurezza come una casella da spuntare nel controllo qualità può ritrovarsi senza nessuna delle due: un comitato etico che non vede mai i risultati dei test, e un team di test che non si chiede mai se il prodotto debba esistere. Anche le competenze sono diverse: il lavoro sulla sicurezza richiede persone capaci di progettare valutazioni e di attaccare i sistemi; il lavoro sull’etica richiede persone che conoscano la legge e le comunità coinvolte e che abbiano l’autorità di dire no.

Un’indicazione pratica

Quando un sistema di IA viene proposto per una scuola, un ente pubblico o un’organizzazione, conviene porre entrambi i tipi di domande e aspettarsi prove, non principi.

• Scopo: che cosa ottimizza il sistema, e se in questo contesto sia l’obiettivo giusto.
• Test: come è stato valutato, su quali dati e contro quali attacchi.
• Equità: quali gruppi potrebbero essere giudicati male, e come lo si è misurato.
• Supervisione: chi può annullare le decisioni del sistema o fermarlo, e in quanto tempo.
• Responsabilità: chi risponde di una decisione sbagliata, e come la si può contestare.

Risposte vaghe su scopo e responsabilità segnalano un problema etico; risposte vaghe su test e supervisione, un problema di sicurezza. L’area Ricerca sulla sicurezza dell’IA della Fondazione lavora sui problemi di allineamento, robustezza, valutazione e controllo e pubblica le proprie analisi in Research & Insights, dove compariranno anche i suoi rapporti tecnici, in programma fino al 2027.

In breve

La sicurezza dell’IA si chiede se un sistema fa in modo affidabile ciò che i suoi progettisti intendono, mentre l’etica dell’IA si chiede se quell’intento e i suoi effetti sulle persone siano giustificabili. In breve, la sicurezza riguarda i mezzi e l’etica i fini. Un approccio serio all’IA richiede entrambe, e il diritto europeo le tratta come un unico pacchetto per i sistemi ad alto rischio.

Domande frequenti

Qual è la differenza tra sicurezza dell’IA ed etica dell’IA?

La sicurezza dell’IA si chiede se un sistema fa in modo affidabile ciò che i suoi progettisti intendono. L’etica dell’IA si chiede se quell’intento, e i suoi effetti sulle persone, siano giustificabili. La sicurezza riguarda i mezzi e l’etica i fini, e un sistema può superare la prova della sicurezza e fallire comunque quella dell’etica.

Che cos’è lo specification gaming nell’IA?

Lo specification gaming, detto reward hacking nell’apprendimento per rinforzo, è uno schema di errore in cui un sistema rispetta la lettera del proprio obiettivo vanificandone lo scopo. Un esempio è l’agente di un gioco, premiato con punti, che continua a girare in cerchio per raccoglierli invece di finire la gara. L’obiettivo era un proxy scadente dello scopo.

Di quali temi si occupa la ricerca sulla sicurezza dell’IA?

I temi centrali della sicurezza dell’IA sono l’allineamento (far coincidere gli obiettivi effettivi di un sistema con le intenzioni umane), la robustezza (comportarsi in modo prevedibile con input insoliti e contro attacchi deliberati), la valutazione (misurare ciò che un modello sa e non sa fare), il controllo e la supervisione (poter monitorare, correggere o spegnere un sistema) e la prevenzione degli usi impropri.

Che cos’è la prompt injection?

Quando i modelli linguistici agiscono come agenti che navigano sul web, le istruzioni nascoste in una pagina possono essere lette come se venissero dall’utente. Questa è la prompt injection. Limitare i permessi dell’agente e metterlo alla prova con attacchi adattivi determina se ci si può fidare dell’agente per il suo compito.

L’AI Act dell’UE tratta insieme sicurezza ed etica dell’IA?

Sì, il diritto europeo le tratta come un unico pacchetto. Per i sistemi ad alto rischio l’AI Act dell’UE (regolamento (UE) 2024/1689) richiede gestione del rischio, esame dei dati di addestramento, convalida e prova per individuare possibili bias, supervisione umana, accuratezza, robustezza e cibersicurezza, il tutto all’interno di un’unica valutazione della conformità.

Come citare Fondazione LASTHUMAN. (2026, 27 agosto). Sicurezza ed etica dell’IA: qual è la differenza? https://lasthuman.today/it/insights/ai-safety-vs-ai-ethics.html