IA centrata sulla persona: principi e sfide

L’IA centrata sulla persona parte da un impegno semplice: la tecnologia deve potenziare il giudizio e la capacità di agire delle persone, non sostituirli in silenzio. Tradurre questo impegno in sistemi funzionanti significa affrontare compromessi reali tra automazione e controllo, tra comodità e autonomia.

Che cosa si intende per IA centrata sulla persona

L’IA centrata sulla persona è un approccio alla progettazione, all’implementazione e alla governance dei sistemi di IA che assume le persone che li usano, e quelle su cui ricadono i loro effetti, come misura principale del successo. Accuratezza, velocità e costi contano ancora, ma si giudicano in base al fatto che le persone, alla fine, risultino meglio informate, più capaci e mantengano il controllo. L’idea attinge all’interazione uomo-macchina, all’accessibilità e all’etica, e compare nei quadri di riferimento internazionali: i Principi dell’OCSE sull’intelligenza artificiale chiedono un’IA che rispetti i diritti umani e i valori democratici, e la Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale include la supervisione e la determinazione umane tra i suoi principi.

Un termine affine è intelligenza aumentata: l’IA usata come strumento che amplifica ciò che una persona può percepire, ricordare o calcolare, mentre la persona conserva la responsabilità del risultato. Un suggerimento diagnostico che un medico valuta è intelligenza aumentata; un verdetto che nessuno legge è sostituzione, comunque lo presenti il fornitore.

Principi ricorrenti

Una manciata di impegni ricorre nella maggior parte delle trattazioni serie dell’IA centrata sulla persona.

• Capacità di agire: le persone possono capire, mettere in discussione, annullare e rifiutare ciò che il sistema propone.
• Trasparenza su misura: le spiegazioni sono adeguate alla decisione e a chi legge, non al funzionamento interno del modello.
• Dignità e consenso: nessuna manipolazione, nessun dark pattern e un uso dei dati che le persone comprendono davvero.
• Inclusione: il sistema funziona indipendentemente da età, capacità, lingua e cultura, non solo per il caso più comune.
• Responsabilità: una persona o un organo identificato risponde dei risultati, compresi quelli che il sistema ha contribuito a determinare.

Nessuno di questi impegni è a costo zero: ciascuno aggiunge lavoro di progettazione e limita ciò che il sistema può fare da solo.

La supervisione umana è più difficile di quanto sembri

Leggi e regolamenti fanno spesso affidamento su un essere umano collocato da qualche parte nel processo. L’articolo 22 del GDPR limita le decisioni basate unicamente sul trattamento automatizzato che producono effetti giuridici o incidono in modo analogo significativamente sulla persona e, dove tali decisioni sono ammesse, richiede garanzie, tra cui il diritto di ottenere l’intervento umano e di contestare la decisione. L’AI Act dell’UE (regolamento (UE) 2024/1689) stabilisce all’articolo 14 che i sistemi di IA ad alto rischio devono essere progettati in modo che le persone fisiche possano supervisionarli efficacemente, ed esige espressamente che chi supervisiona sia messo in condizione di restare consapevole del bias dell’automazione, cioè della tendenza a fare automaticamente affidamento sull’output di un sistema. La maggior parte degli obblighi per i sistemi ad alto rischio doveva originariamente applicarsi dal 2 agosto 2026; l’omnibus digitale sull’IA (regolamento (UE) 2026/1744), in vigore dal 27 luglio 2026, li ha rinviati al 2 dicembre 2027, e al 2 agosto 2028 per l’IA ad alto rischio nei prodotti regolamentati.

La difficoltà sta nel fatto che la supervisione è un compito cognitivo svolto sotto pressione. Un operatore che vede un punteggio di rischio prima di leggere il fascicolo tende ad ancorarsi a quel numero. Un revisore che conferma centinaia di suggerimenti al giorno, quasi tutti corretti, perde l’abitudine di controllare il raro suggerimento sbagliato. Una persona chiamata a subentrare solo quando il sistema fallisce riceve il compito nel momento peggiore possibile, con il minimo di contesto. Le competenze non usate si affievoliscono, così chi dovrebbe intercettare gli errori diventa meno capace di vederli. Una revisione che consiste nel cliccare «approva» può rispettare la lettera di una norma e mancarne del tutto lo scopo.

Una supervisione effettiva va quindi progettata come un flusso di lavoro, non dichiarata in una policy: tempo per esaminare, informazioni che permettano un giudizio reale, l’autorità di discostarsi senza penalizzazioni e una formazione periodicamente rinnovata.

I compromessi che nessuna progettazione può eliminare

Automazione versus controllo. Ogni passaggio di conferma costa tempo, e le richieste che compaiono troppo spesso vengono semplicemente ignorate. Con troppo pochi punti di controllo la presenza umana diventa nominale; con troppi diventa rumore. La risposta è concentrare l’attenzione umana dove gli errori sono costosi o difficili da annullare.

Comodità versus autonomia. Impostazioni predefinite, classifiche e raccomandazioni orientano il comportamento anche quando nessuno è costretto a fare nulla. Un feed ottimizzato per l’engagement e uno ottimizzato per gli obiettivi dichiarati di una persona possono sembrare identici e differire del tutto nell’interesse che servono. La posizione centrata sulla persona è che la persona debba poter vedere l’obiettivo che il sistema persegue e cambiarlo.

Standardizzazione versus inclusione. I sistemi imparano dai dati che ricevono e, quando alcuni gruppi sono sottorappresentati, gli errori tendono a concentrarsi su di loro: un riconoscimento vocale che fatica con certi accenti, o interfacce inutilizzabili senza la vista o senza un controllo motorio fine. Individuare queste disparità richiede di solito dati proprio sulle caratteristiche in questione, il che solleva a sua volta problemi di privacy; il rapporto tecnico della Fondazione sul rilevamento dei bias ai sensi dell’AI Act dell’UE esamina quando i dati sintetici, anonimizzati o protetti con la privacy differenziale sono sufficienti.

Come si traduce nella pratica

Immaginiamo uno strumento di triage ospedaliero. Se il suo suggerimento compare prima che il medico si sia formato un’opinione iniziale, tende ad ancorare la valutazione; se compare dopo, contribuisce alla valutazione e può essere confrontato con essa. Nulla è cambiato nel modello, solo l’ordine in cui arrivano le informazioni. Un chatbot che dichiara di essere una macchina e, su richiesta, passa la conversazione a una persona rispetta la capacità di agire; le regole di trasparenza dell’AI Act dell’UE vanno nella stessa direzione, imponendo che le persone siano informate quando interagiscono con un sistema di IA, a meno che ciò non sia evidente.

Le tecniche non hanno nulla di spettacolare: attrito dove gli errori sono costosi, azioni reversibili, registri che rendono le decisioni ricostruibili, canali di feedback che qualcuno legge e test con utenti reali, comprese le persone con disabilità, prima della messa in servizio.

Un’indicazione pratica

Chiunque valuti un sistema di IA, come acquirente, insegnante, funzionario o cittadino, può porre quattro domande: chi può annullarne le decisioni, con quali informazioni, in quanto tempo e chi ne risponde quando sbaglia. Risposte chiare sono un buon segno; risposte vaghe suggeriscono che la presenza umana nel processo sia solo decorativa. L’area Design centrato sulla persona della Fondazione prevede studi sulla supervisione umana, sulla fiducia e sulla progettazione inclusiva, e li pubblicherà in Research & Insights.

In breve

L’IA centrata sulla persona è un approccio alla progettazione, all’impiego e alla governance dei sistemi di IA che assume come primo metro di successo le persone che li usano e quelle che ne sono toccate. Mira a potenziare il giudizio e la capacità di agire umani invece di sostituirli, il che significa affrontare compromessi tra automazione e controllo, e tra comodità e autonomia.

Domande frequenti

Che cos’è l’intelligenza aumentata?

L’intelligenza aumentata è un concetto affine all’IA centrata sulla persona: l’IA usata come strumento che amplifica ciò che una persona può percepire, ricordare o calcolare, mentre la persona mantiene la responsabilità dell’esito. Un suggerimento diagnostico che un medico rivede è un potenziamento; un verdetto che nessuno legge è una sostituzione.

Quali principi definiscono l’IA centrata sulla persona?

Cinque impegni ricorrono nell’IA centrata sulla persona: la capacità di agire (le persone possono capire, mettere in discussione, correggere e rinunciare), una trasparenza adatta alla decisione e a chi legge, la dignità e il consenso, l’inclusione di età, abilità, lingua e cultura, e la responsabilità (una persona o un organismo identificabile risponde degli esiti). Nessuno è gratuito: ognuno richiede lavoro di progettazione e limita ciò che il sistema può fare da solo.

Perché la supervisione umana dell’IA è così difficile?

La supervisione umana dell’IA è difficile perché è un compito cognitivo svolto sotto pressione. Un operatore che vede un punteggio di rischio prima di leggere il fascicolo tende ad ancorarsi a quel numero, un revisore che conferma ogni giorno centinaia di suggerimenti per lo più corretti perde l’abitudine a controllare, e le competenze non usate si affievoliscono.

Che cosa richiede l’AI Act dell’UE per la supervisione umana?

L’articolo 14 dell’AI Act dell’UE (regolamento (UE) 2024/1689) stabilisce che i sistemi di IA ad alto rischio devono essere progettati in modo che le persone fisiche possano supervisionarli efficacemente. Richiede inoltre espressamente che chi supervisiona sia messo in condizione di restare consapevole del bias dell’automazione, cioè della tendenza a fare automaticamente affidamento sull’output di un sistema. La maggior parte degli obblighi per i sistemi ad alto rischio è stata rinviata al 2 dicembre 2027.

Come capire se un sistema di IA ha una vera supervisione umana?

Basta porsi quattro domande: chi può annullare le decisioni del sistema, con quali informazioni, in quanto tempo e chi risponde quando sbaglia. Risposte chiare sono un buon segno, mentre risposte vaghe suggeriscono che l’essere umano nel processo sia solo una decorazione.

Come citare Fondazione LASTHUMAN. (2026, 30 settembre). IA centrata sulla persona: principi e sfide. https://lasthuman.today/it/insights/human-centered-ai.html