IA centrada en las personas: principios y desafíos

La IA centrada en las personas parte de un compromiso sencillo: la tecnología debe ampliar el juicio y la capacidad de decisión de las personas, no sustituirlos en silencio. Convertir ese compromiso en sistemas que funcionen exige afrontar disyuntivas reales entre automatización y control, entre comodidad y autonomía.

Qué significa la IA centrada en las personas

La IA centrada en las personas es un enfoque para diseñar, desplegar y gobernar sistemas de IA que toma a las personas que los usan, y a las que se ven afectadas por ellos, como la principal medida del éxito. La precisión, la velocidad y el coste siguen importando, pero se juzgan según si, al final, las personas están mejor informadas, son más capaces y siguen teniendo el control. La idea se nutre de la interacción persona-ordenador, la accesibilidad y la ética, y aparece en marcos internacionales: los Principios de la OCDE sobre IA reclaman una IA que respete los derechos humanos y los valores democráticos, y la Recomendación de la UNESCO sobre la ética de la inteligencia artificial incluye la supervisión y la decisión humanas entre sus principios.

Un término relacionado es el de inteligencia aumentada: la IA usada como un instrumento que amplía lo que una persona puede percibir, recordar o calcular, mientras la persona conserva la responsabilidad del resultado. Una sugerencia diagnóstica que revisa un profesional de la salud amplía la capacidad humana; un veredicto que nadie lee la sustituye, lo describa como lo describa el proveedor.

Principios recurrentes

Un puñado de compromisos se repite en la mayoría de las descripciones serias de la IA centrada en las personas.

• Capacidad de decisión: las personas pueden entender, cuestionar, anular y rechazar lo que el sistema propone.
• Transparencia a medida: las explicaciones se ajustan a la decisión y a quien las lee, no al funcionamiento interno del modelo.
• Dignidad y consentimiento: sin manipulación, sin patrones oscuros y con un uso de los datos que las personas entienden de verdad.
• Inclusión: el sistema funciona con independencia de la edad, las capacidades, el idioma y la cultura, no solo para el caso mayoritario.
• Rendición de cuentas: una persona u órgano identificado responde de los resultados, incluidos los que el sistema ha condicionado.

Ninguno de ellos sale gratis; cada uno añade trabajo de diseño y limita lo que el sistema puede hacer por su cuenta.

La supervisión humana es más difícil de lo que parece

Las leyes y los reglamentos suelen apoyarse en que haya una persona en algún punto del proceso. El artículo 22 del RGPD restringe las decisiones basadas únicamente en el tratamiento automatizado que producen efectos jurídicos en las personas o les afectan significativamente de modo similar y, cuando tales decisiones están permitidas, exige garantías que incluyen el derecho a obtener intervención humana y a impugnar la decisión. La Ley de IA de la UE (Reglamento (UE) 2024/1689) establece en su artículo 14 que los sistemas de IA de alto riesgo deben diseñarse de modo que las personas físicas puedan supervisarlos de manera efectiva, y exige expresamente que quienes supervisan puedan seguir siendo conscientes del sesgo de automatización, la tendencia a confiar de forma automática en los resultados que produce un sistema. La mayoría de las obligaciones para los sistemas de alto riesgo debían empezar a aplicarse originalmente a partir del 2 de agosto de 2026; el ómnibus digital sobre IA (Reglamento (UE) 2026/1744), en vigor desde el 27 de julio de 2026, las aplazó al 2 de diciembre de 2027, y al 2 de agosto de 2028 para la IA de alto riesgo integrada en productos regulados.

La dificultad está en que la supervisión es una tarea cognitiva que se realiza bajo presión. Quien tramita un expediente y ve una puntuación de riesgo antes de leerlo tiende a anclarse en ella. Quien confirma cientos de sugerencias al día, casi todas correctas, pierde el hábito de comprobar las pocas que no lo son. Quien debe tomar el control solo cuando el sistema falla recibe la tarea en el peor momento posible y con el mínimo contexto. Las habilidades que no se usan se atrofian, de modo que la persona que debería detectar los errores se vuelve menos capaz de verlos. Una revisión que consiste en hacer clic en «aprobar» puede cumplir la letra de una norma y nada de su propósito.

Una supervisión significativa, por tanto, tiene que diseñarse como un flujo de trabajo, no declararse como una política: tiempo para revisar, información que permita un juicio real, autoridad para apartarse de lo que propone el sistema sin penalización y formación que se renueve.

Las disyuntivas que ningún diseño puede eliminar

Automatización frente a control. Cada paso de confirmación cuesta tiempo, y los avisos que llegan demasiado a menudo simplemente se descartan. Con muy pocos puntos de control, la presencia humana se vuelve nominal; con demasiados, se convierte en ruido. La respuesta es concentrar la atención humana allí donde los errores son costosos o difíciles de revertir.

Comodidad frente a autonomía. Las opciones predeterminadas, el orden en que se muestran los contenidos y las recomendaciones moldean el comportamiento aunque a nadie se le obligue a nada. Un feed optimizado para captar la atención y otro optimizado para los objetivos que la persona ha declarado pueden parecer idénticos y diferir por completo en los intereses a los que sirven. La posición centrada en las personas es que la persona debería poder ver qué objetivo persigue el sistema y cambiarlo.

Estandarización frente a inclusión. Los sistemas aprenden de los datos que reciben, y cuando algunos grupos están infrarrepresentados, los errores tienden a concentrarse en ellos: reconocimiento de voz que falla con ciertos acentos, o interfaces imposibles de usar sin visión o sin motricidad fina. Detectar esas disparidades suele requerir datos precisamente sobre las características en cuestión, lo que plantea sus propios problemas de privacidad; el informe técnico de la Fundación sobre la detección de sesgos conforme a la Ley de IA de la UE examina cuándo bastan los datos sintéticos, anonimizados o con privacidad diferencial.

Cómo se concreta en la práctica

Imaginemos una herramienta de triaje hospitalario. Si su sugerencia aparece antes de que el profesional se haya formado una primera opinión, tiende a anclar la valoración; si aparece después, la enriquece y puede contrastarse con ella. Nada ha cambiado en el modelo, solo el orden en que llega la información. Un chatbot que dice que es una máquina y que, si se le pide, deriva la conversación a una persona respeta la capacidad de decisión; las normas de transparencia de la Ley de IA de la UE apuntan en la misma dirección, al exigir que se informe a las personas cuando interactúan con un sistema de IA, salvo que resulte evidente.

Las técnicas no tienen nada de espectacular: fricción allí donde los errores son costosos, acciones reversibles, registros que permiten reconstruir las decisiones, canales de retroalimentación que alguien lee y pruebas con usuarios reales, incluidas personas con discapacidad, antes del despliegue.

Una conclusión práctica

Cualquiera que evalúe un sistema de IA, como comprador, docente, funcionario o ciudadano, puede hacer cuatro preguntas: quién puede anular sus decisiones, con qué información, en cuánto tiempo y quién responde cuando se equivoca. Las respuestas claras son buena señal; las vagas sugieren que el humano en el bucle es pura decoración. El área de Diseño centrado en las personas de la Fundación prevé estudios sobre supervisión humana, confianza y diseño inclusivo, y los publicará en Research & Insights.

En resumen

La IA centrada en las personas es un enfoque para diseñar, desplegar y gobernar sistemas de IA que toma a las personas que los usan, y a las que se ven afectadas por ellos, como la principal medida del éxito. Busca ampliar el juicio y la capacidad de decisión de las personas, no sustituirlos, lo que obliga a afrontar disyuntivas entre automatización y control, y entre comodidad y autonomía.

Preguntas frecuentes

¿Qué es la inteligencia aumentada?

La inteligencia aumentada es un término relacionado con la IA centrada en las personas: la IA usada como un instrumento que amplía lo que una persona puede percibir, recordar o calcular, mientras la persona conserva la responsabilidad del resultado. Una sugerencia diagnóstica que revisa un profesional de la salud es aumento; un veredicto que nadie lee es sustitución.

¿Qué principios definen la IA centrada en las personas?

Se repiten cinco compromisos: capacidad de decisión (las personas pueden entender, cuestionar, anular y rechazar), transparencia a medida de la decisión y de quien la lee, dignidad y consentimiento, inclusión por edad, capacidades, idioma y cultura, y rendición de cuentas (una persona u órgano identificado responde de los resultados). Ninguno sale gratis: cada uno añade trabajo de diseño y limita lo que el sistema puede hacer por sí solo.

¿Por qué es tan difícil la supervisión humana de la IA?

La supervisión humana de la IA es difícil porque es una tarea cognitiva realizada bajo presión. Quien tramita un expediente y ve una puntuación de riesgo antes de leerlo tiende a anclarse en ella, quien confirma cientos de sugerencias casi siempre correctas al día pierde el hábito de comprobar, y las habilidades que no se usan se debilitan.

¿Qué exige la Ley de IA de la UE en materia de supervisión humana?

El artículo 14 de la Ley de IA de la UE (Reglamento (UE) 2024/1689) establece que los sistemas de IA de alto riesgo deben diseñarse para que las personas físicas puedan supervisarlos eficazmente. Exige también que quienes supervisan puedan ser conscientes del sesgo de automatización, la tendencia a confiar automáticamente en los resultados de un sistema. La mayoría de las obligaciones de alto riesgo se aplazaron al 2 de diciembre de 2027.

¿Cómo saber si un sistema de IA tiene una supervisión humana real?

Hay que hacer cuatro preguntas: quién puede anular el sistema, con qué información, en cuánto tiempo y quién responde cuando se equivoca. Que las respuestas sean claras es buena señal; si son vagas, el humano en el bucle es probablemente pura decoración.

Cómo citar Fundación LASTHUMAN. (2026, 30 de septiembre). IA centrada en las personas: principios y desafíos. https://lasthuman.today/es/insights/human-centered-ai.html