L’IA centrée sur l’humain : principes et défis

L’IA centrée sur l’humain part d’un engagement simple : la technologie doit prolonger le jugement et la capacité d’agir des personnes, et non les remplacer en silence. Traduire cet engagement en systèmes qui fonctionnent oblige à affronter de vrais arbitrages entre automatisation et contrôle, entre commodité et autonomie.

Ce que signifie l’IA centrée sur l’humain

L’IA centrée sur l’humain est une approche de la conception, du déploiement et de la gouvernance des systèmes d’IA qui fait des personnes qui les utilisent, et de celles qu’ils affectent, la première mesure de la réussite. La précision, la rapidité et le coût comptent toujours, mais ils se jugent à l’aune d’une question : les personnes en sortent-elles mieux informées, plus capables et toujours aux commandes ? L’idée puise dans l’interaction humain-machine, l’accessibilité et l’éthique, et elle figure dans des cadres internationaux : les Principes de l’OCDE sur l’IA appellent à une IA qui respecte les droits humains et les valeurs démocratiques, et la Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle compte le contrôle et la décision humains parmi ses principes.

Un terme voisin est celui d’intelligence augmentée : l’IA utilisée comme un instrument qui amplifie ce qu’une personne peut percevoir, mémoriser ou calculer, tandis que cette personne garde la responsabilité du résultat. Une suggestion de diagnostic qu’un clinicien examine relève de l’augmentation ; un verdict que personne ne lit relève de la substitution, quelle que soit la manière dont le fournisseur le présente.

Des principes qui reviennent sans cesse

Une poignée d’engagements reviennent dans la plupart des descriptions sérieuses de l’IA centrée sur l’humain.

• Capacité d’agir : les personnes peuvent comprendre ce que le système propose, le remettre en question, passer outre et le refuser.
• Transparence adaptée : les explications correspondent à la décision et à la personne qui les lit, pas aux rouages internes du modèle.
• Dignité et consentement : pas de manipulation, pas d’interfaces trompeuses (dark patterns), et un usage des données que les personnes comprennent réellement.
• Inclusion : le système fonctionne indépendamment de l’âge, des capacités, de la langue et de la culture, et pas seulement pour le cas majoritaire.
• Responsabilité : une personne ou une instance nommément désignée répond des résultats, y compris de ceux que le système a façonnés.

Aucun de ces principes n’est sans coût ; chacun ajoute du travail de conception et limite ce que le système peut faire seul.

La supervision humaine est plus difficile qu’il n’y paraît

Le droit et la réglementation s’appuient souvent sur la présence d’un humain quelque part dans le processus. L’article 22 du RGPD limite le recours aux décisions fondées exclusivement sur un traitement automatisé qui produisent des effets juridiques ou affectent la personne de manière significative de façon similaire et, lorsque de telles décisions sont admises, exige des garanties, dont le droit d’obtenir une intervention humaine et de contester la décision. Le règlement européen sur l’IA (AI Act), soit le règlement (UE) 2024/1689, prévoit à son article 14 que les systèmes d’IA à haut risque doivent être conçus de manière à ce que des personnes physiques puissent effectivement les superviser, et il exige expressément que les personnes chargées de cette supervision soient mises en mesure de rester conscientes du biais d’automatisation, c’est-à-dire de la tendance à se fier automatiquement aux sorties d’un système. La plupart des obligations relatives aux systèmes à haut risque devaient initialement s’appliquer à partir du 2 août 2026 ; l’omnibus numérique sur l’IA (règlement (UE) 2026/1744), en vigueur depuis le 27 juillet 2026, les a reportées au 2 décembre 2027, et au 2 août 2028 pour l’IA à haut risque intégrée dans des produits réglementés.

La difficulté tient à ce que la supervision est une tâche cognitive accomplie sous pression. Un agent instructeur qui voit un score de risque avant de lire le dossier a tendance à en faire son point d’ancrage. Un relecteur qui valide des centaines de suggestions par jour, presque toutes correctes, perd l’habitude de vérifier les rares suggestions erronées. Une personne à qui l’on demande de reprendre la main seulement quand le système échoue reçoit la tâche au pire moment possible, avec le minimum de contexte. Les compétences inutilisées s’émoussent, si bien que la personne censée repérer les erreurs devient moins capable de les voir. Un examen qui consiste à cliquer sur « approuver » peut satisfaire à la lettre d’une règle sans en remplir aucunement l’objet.

Une supervision digne de ce nom doit donc être conçue comme un processus de travail, et non décrétée dans une politique : du temps pour examiner, des informations qui permettent un véritable jugement, le pouvoir de s’en écarter sans sanction, et une formation régulièrement actualisée.

Les arbitrages qu’aucune conception ne fait disparaître

Automatisation contre contrôle. Chaque étape de confirmation coûte du temps, et les sollicitations trop fréquentes finissent simplement ignorées. Trop peu de points de contrôle, et la présence humaine devient purement nominale ; trop, et elle devient du bruit. La réponse consiste à concentrer l’attention humaine là où les erreurs coûtent cher ou sont difficiles à annuler.

Commodité contre autonomie. Les réglages par défaut, les classements et les recommandations façonnent les comportements même lorsque personne n’est contraint à quoi que ce soit. Un fil optimisé pour l’engagement et un fil optimisé pour les objectifs que la personne a elle-même déclarés peuvent se ressembler trait pour trait et différer du tout au tout quant à l’intérêt qu’ils servent. La position centrée sur l’humain est que la personne doit pouvoir voir quel objectif le système poursuit, et le changer.

Standardisation contre inclusion. Les systèmes apprennent à partir des données qu’on leur fournit, et lorsque certains groupes y sont sous-représentés, les erreurs ont tendance à se concentrer sur eux : une reconnaissance vocale qui peine avec certains accents, ou des interfaces inutilisables sans la vue ou sans motricité fine. Détecter de telles disparités exige généralement des données sur les caractéristiques mêmes qui sont en cause, ce qui soulève à son tour des problèmes de protection de la vie privée ; le rapport technique de la Fondation sur la détection des biais au titre du règlement européen sur l’IA examine dans quels cas des données synthétiques, anonymisées ou protégées par la confidentialité différentielle suffisent.

À quoi cela ressemble concrètement

Imaginons un outil de triage hospitalier. Si sa suggestion s’affiche avant que le clinicien se soit fait une première idée, elle tend à ancrer l’évaluation ; si elle s’affiche après, elle éclaire l’évaluation et peut lui être comparée. Rien n’a changé dans le modèle, seulement l’ordre dans lequel l’information arrive. Un agent conversationnel qui dit être une machine et passe la main à une personne sur demande respecte la capacité d’agir ; les règles de transparence du règlement européen sur l’IA vont dans le même sens, en exigeant que les personnes soient informées lorsqu’elles interagissent avec un système d’IA, sauf si cela est évident.

Les techniques n’ont rien de spectaculaire : de la friction là où les erreurs coûtent cher, des actions réversibles, des journaux qui permettent de reconstituer les décisions, des canaux de retour d’information que quelqu’un lit vraiment, et des tests avec de vrais utilisateurs, y compris des personnes en situation de handicap, avant le déploiement.

Ce qu’il faut retenir en pratique

Quiconque évalue un système d’IA, en tant qu’acheteur, enseignant, agent public ou citoyen, peut poser quatre questions : qui peut passer outre à ce qu’il propose, avec quelles informations, en combien de temps, et qui est responsable quand il se trompe. Des réponses claires sont bon signe ; des réponses vagues laissent penser que l’humain dans la boucle n’est qu’un élément de décor. Le domaine Conception centrée sur l’humain de la Fondation prévoit des études sur la supervision humaine, la confiance et la conception inclusive, et les publiera dans Research & Insights.

En bref

L’IA centrée sur l’humain est une approche de la conception, du déploiement et de la gouvernance des systèmes d’IA qui prend pour premier critère de réussite les personnes qui les utilisent et celles qu’ils affectent. Elle vise à prolonger le jugement et l’autonomie humains plutôt qu’à les remplacer, ce qui oblige à affronter des arbitrages entre automatisation et contrôle, et entre confort et autonomie.

Questions fréquentes

Qu’est-ce que l’intelligence augmentée ?

L’intelligence augmentée est un terme voisin de l’IA centrée sur l’humain : l’IA comme instrument qui amplifie ce qu’une personne peut percevoir, retenir ou calculer, tandis que celle-ci garde la responsabilité du résultat. Une suggestion de diagnostic qu’un clinicien examine relève de l’augmentation ; un verdict que personne ne lit relève de la substitution.

Quels principes définissent l’IA centrée sur l’humain ?

Cinq engagements reviennent : l’autonomie (les personnes peuvent comprendre, questionner, outrepasser et refuser), une transparence adaptée à la décision et au lecteur, la dignité et le consentement, l’inclusion quels que soient l’âge, les capacités, la langue et la culture, et la responsabilité (une personne ou un organisme nommément désigné répond des résultats). Aucun n’est gratuit : chacun demande du travail de conception et limite ce que le système peut faire seul.

Pourquoi la supervision humaine de l’IA est-elle si difficile ?

La supervision humaine de l’IA est difficile parce qu’elle est une tâche cognitive exercée sous pression. Un agent qui voit un score de risque avant de lire le dossier tend à s’y ancrer, un relecteur qui valide chaque jour des centaines de suggestions le plus souvent justes perd l’habitude de vérifier, et les compétences inutilisées s’érodent.

Qu’exige le règlement européen sur l’IA en matière de supervision humaine ?

L’article 14 du règlement européen sur l’IA (règlement (UE) 2024/1689) prévoit que les systèmes d’IA à haut risque doivent être conçus de façon que des personnes physiques puissent les superviser effectivement. Il exige aussi expressément que les personnes chargées de la supervision puissent rester conscientes du biais d’automatisation, la tendance à se fier automatiquement au résultat d’un système. La plupart des obligations relatives aux systèmes à haut risque ont été reportées au 2 décembre 2027.

Comment savoir si un système d’IA fait l’objet d’une réelle supervision humaine ?

Posez quatre questions : qui peut outrepasser le système, avec quelles informations, en combien de temps, et qui est responsable lorsqu’il se trompe. Des réponses claires sont bon signe, tandis que des réponses vagues laissent penser que l’humain dans la boucle n’est qu’un décor.

Comment citer Fondation LASTHUMAN. (2026, 30 septembre). L’IA centrée sur l’humain : principes et défis. https://lasthuman.today/fr/insights/human-centered-ai.html