¿Qué es la IA responsable?

La IA responsable es la práctica de construir y desplegar sistemas de inteligencia artificial que sean equitativos, transparentes, sujetos a rendición de cuentas y respetuosos con los derechos humanos. Traslada la ética de los principios abstractos a decisiones concretas de ingeniería y de gobernanza: las elecciones que se hacen antes, durante y después de que un sistema se ponga en uso.

Una definición de partida

La IA responsable no es una característica de un producto, sino una forma de trabajar que trata las consecuencias sociales de un sistema de IA como parte del problema de ingeniería, y no como un añadido de última hora. Sus valores, que también aparecen bajo las etiquetas de «IA fiable» e «IA ética», son ampliamente compartidos: tanto los Principios de la OCDE sobre la IA (2019, actualizados en 2024) como el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (2024) se refieren, con distintas palabras, a la equidad, la transparencia, la rendición de cuentas, la supervisión humana, la seguridad y los derechos humanos.

Lo que la distingue de una declaración de valores es el paso a lo operativo: qué datos recopilar, qué pruebas ejecutar, qué resultados cuentan como fallo, quién aprueba el lanzamiento. La IA responsable consiste en responder a esas preguntas, documentar las respuestas y aceptar que se exija su cumplimiento.

La equidad es un conjunto de decisiones, no una propiedad

La mayoría de los sistemas de IA en uso hoy aprenden patrones a partir de datos, y los datos registran el mundo tal como ha sido, incluidas sus desigualdades. Un modelo que filtra solicitudes de empleo, entrenado con decisiones de contratación anteriores, probablemente reproducirá cualquier preferencia que contuvieran esas decisiones. No hace falta que nadie tenga intención de discriminar; el mecanismo es estadístico, el resultado es social.

La equidad también es difícil de definir. Existen varias definiciones matemáticas, como tasas de error iguales entre grupos o tasas iguales de resultados favorables, y, salvo en casos especiales, no pueden satisfacerse todas a la vez cuando los grupos difieren en los datos subyacentes. Elegir entre ellas es un juicio de valor, no una decisión técnica, y tanto la elección como su motivo deberían quedar registrados.

Comprobar si hay sesgo añade un dilema de privacidad: medir si los grupos reciben un trato distinto suele exigir conocer el grupo de cada persona, que a menudo es información sensible. Una respuesta es probar con datos sintéticos, anonimizados o con privacidad diferencial; la pregunta abierta es cuándo esos datos bastan para revelar los problemas que importan. El informe técnico de la Fundación examina esta cuestión con datos simulados y reales.

La transparencia significa evidencias, no declaraciones

La transparencia tiene dos niveles. El primero concierne a las personas afectadas: si saben que interactúan con una IA, si una decisión que les afecta fue automatizada y si pueden obtener información significativa sobre la lógica aplicada. El artículo 22 del RGPD ya otorga a las personas derechos respecto a las decisiones basadas únicamente en el tratamiento automatizado que produzcan efectos jurídicos o les afecten significativamente de modo similar.

El segundo nivel, el de la supervisión, requiere documentación: los datos de entrenamiento, el método y la población de evaluación, los resultados y las limitaciones conocidas. Afirmar que un sistema «ha sido sometido a pruebas de sesgo» es una declaración; un protocolo de evaluación con resultados que otra persona pueda reproducir es una evidencia.

La explicabilidad, la capacidad de indicar por qué un sistema produjo un resultado, conlleva su propio dilema. Los modelos más sencillos son más fáciles de explicar, pero pueden rendir peor; los modelos complejos pueden ser más precisos, pero solo ofrecen explicaciones aproximadas y a posteriori. Cuánta explicación es suficiente depende de lo que esté en juego; no es lo mismo una recomendación de películas que una decisión sobre prestaciones sociales.

La rendición de cuentas exige una persona que pueda responder

La rendición de cuentas significa que una organización identificable, y personas identificables dentro de ella, responden de los resultados de un sistema, y que las personas afectadas pueden impugnar una decisión y obtener reparación. No puede delegarse en el software. La norma ISO/IEC 42001 (2023), un estándar de sistemas de gestión para la IA, y el Marco de Gestión de Riesgos de la IA del NIST, versión 1.0 (enero de 2023), lo concretan mediante funciones definidas, una evaluación de riesgos documentada y registros de las decisiones, de modo que una explicación no pueda terminar en «lo decidió el algoritmo».

La supervisión humana suele presentarse como la respuesta a la rendición de cuentas, y es fácil malinterpretarla. Una persona que aprueba cada recomendación en cuestión de segundos, sin tiempo, información ni autoridad para discrepar, ofrece la apariencia de supervisión, no su sustancia. Un caso más reciente es el de un modelo de IA que juzga los resultados de otro y condiciona las decisiones de lanzamiento. Un juez así puede ser útil, pero no asume ninguna responsabilidad, y sus puntos ciegos merecen el mismo escrutinio que el sistema que evalúa.

Del principio al ciclo de vida

El hilo conductor es el cuándo: la IA responsable es un conjunto de preguntas que se formulan en cada etapa de la vida de un sistema, y actuar sobre las primeras suele ser lo más barato.

• Antes de construir: si la IA es siquiera la herramienta adecuada, y quién asume el riesgo si falla.
• Antes del lanzamiento: qué se probó, con quién, según qué definición de equidad y qué cuenta como fallo.
• Después del despliegue: cómo se hace el seguimiento del rendimiento, quién atiende las reclamaciones y cuándo se retira el sistema.

La Ley de IA de la UE (Reglamento (UE) 2024/1689) entró en vigor el 1 de agosto de 2024 y se aplica por etapas: la mayoría de las prácticas prohibidas desde el 2 de febrero de 2025 y los modelos de IA de uso general desde el 2 de agosto de 2025. La mayoría de las obligaciones para los sistemas de alto riesgo debían aplicarse originalmente a partir del 2 de agosto de 2026, y las relativas a la IA de alto riesgo integrada en productos ya cubiertos por la legislación de la UE sobre productos, a partir del 2 de agosto de 2027; el ómnibus digital sobre IA (Reglamento (UE) 2026/1744), en vigor desde el 27 de julio de 2026, las aplazó al 2 de diciembre de 2027 y al 2 de agosto de 2028, respectivamente. La ley fija un mínimo; la IA responsable es lo que una organización hace por encima de ese mínimo, y cómo demuestra que lo ha hecho.

Qué sacar en claro

Para un docente, una persona que trabaja en una ONG o un funcionario público que se encuentra con un sistema de IA en el trabajo, unas pocas preguntas resumen la idea: qué decisión apoya el sistema, a quién afecta, con qué datos se entrenó, cómo y con quién se probó, a quién se puede acudir cuando falla y si una persona puede anular su decisión. Una organización que no pueda responderlas todavía no ha llevado la IA responsable a la práctica, diga lo que diga su política.

La Fundación estudia estas cuestiones mediante la investigación y las publicaciones, entre ellas el informe técnico sobre detección de sesgos enlazado más arriba y los artículos de esta sección.

En resumen

La IA responsable es la práctica de construir y desplegar sistemas de inteligencia artificial que sean equitativos, transparentes, sujetos a rendición de cuentas y respetuosos con los derechos humanos. Traslada la ética de los principios abstractos a decisiones concretas de ingeniería y de gobernanza: las elecciones que se hacen antes, durante y después de que un sistema se ponga en uso, como qué datos recopilar y qué pruebas ejecutar.

Preguntas frecuentes

¿Cuáles son los principios básicos de la IA responsable?

Los Principios de la OCDE sobre la IA (2019, actualizados en 2024) y el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (2024) se refieren, con distintas palabras, a la equidad, la transparencia, la rendición de cuentas, la supervisión humana, la seguridad y los derechos humanos. Los mismos valores aparecen también bajo las etiquetas de «IA fiable» e «IA ética».

¿Por qué es difícil definir la equidad en la IA?

Existen varias definiciones matemáticas de la equidad, como tasas de error iguales entre grupos o tasas iguales de resultados favorables. Salvo en casos especiales, no pueden satisfacerse todas a la vez cuando los grupos difieren en los datos subyacentes. Elegir entre ellas es un juicio de valor, no una decisión técnica, y tanto la elección como su motivo deberían quedar registrados.

¿Cómo puede un sistema de IA volverse sesgado sin que nadie pretenda discriminar?

La mayoría de los sistemas de IA aprenden patrones a partir de datos, y los datos registran el mundo tal como ha sido, incluidas sus desigualdades. Un modelo que filtra solicitudes de empleo, entrenado con decisiones de contratación anteriores, probablemente reproducirá cualquier preferencia que contuvieran esas decisiones. El mecanismo es estadístico; el resultado es social.

¿Qué es la verdadera transparencia en la IA?

La transparencia en la IA significa evidencias, no declaraciones. Afirmar que un sistema «se ha probado para detectar sesgos» es una declaración, mientras que un protocolo de evaluación con resultados que otra persona podría reproducir es una evidencia. Para la supervisión, un sistema requiere además documentación sobre los datos de entrenamiento, el método de evaluación y la población, los resultados y las limitaciones conocidas.

¿Quién responde cuando un sistema de IA se equivoca?

Una organización identificable, y personas identificables dentro de ella, responden de los resultados de un sistema de IA, y las personas afectadas pueden impugnar una decisión y obtener reparación. La rendición de cuentas no puede delegarse en el software. ISO/IEC 42001 (2023) y el Marco de Gestión de Riesgos de la IA del NIST 1.0 lo concretan mediante funciones definidas, una evaluación de riesgos documentada y registros de las decisiones.

Cómo citar Fundación LASTHUMAN. (2026, 28 de julio). ¿Qué es la IA responsable? https://lasthuman.today/es/insights/what-is-responsible-ai.html