Seguridad de la IA y ética de la IA: ¿en qué se diferencian?

Los términos seguridad de la IA y ética de la IA se usan a menudo indistintamente, pero plantean preguntas distintas. La seguridad pregunta si un sistema hace de forma fiable lo que sus diseñadores pretenden; la ética pregunta si esa intención, y sus efectos sobre las personas, pueden justificarse. Dicho de forma sencilla, la seguridad se ocupa de los medios y la ética de los fines, y un enfoque serio de la IA necesita ambas.

Dos preguntas, no una

Tomemos como ejemplo un sistema de recomendación de contenidos. La pregunta de la seguridad es si hace aquello para lo que fue construido, de forma fiable y sin dejarse manipular. La pregunta de la ética es si aquello para lo que fue construido, como retener a las personas en una plataforma el mayor tiempo posible, es un objetivo legítimo, y quién paga el precio cuando funciona bien. Un sistema puede superar la primera prueba y suspender la segunda. También ocurre lo contrario: principios impecables sobre el papel y un modelo que nadie ha probado con entradas manipuladas.

Qué estudia la seguridad de la IA

Los sistemas que aprenden de los datos no hacen simplemente lo que sus diseñadores pretendían; hacen lo que el objetivo, los datos y el entorno recompensan. Los temas centrales de la seguridad de la IA se derivan de esa brecha, más uno dedicado al daño causado de forma deliberada.

• Alineación: lograr que los objetivos reales de un sistema coincidan con las intenciones humanas, también en situaciones que nadie especificó.
• Robustez: comportarse de forma predecible ante entradas inusuales y frente a ataques deliberados.
• Evaluación: medir lo que un modelo puede y no puede hacer, con pruebas que no ha visto antes.
• Control y supervisión: conservar la capacidad de monitorizar, corregir o apagar un sistema.
• Prevención del uso indebido: limitar hasta qué punto un sistema ayuda a un usuario a causar daños graves.

Un patrón de fallo bien documentado es la manipulación de la especificación (specification gaming), que en el aprendizaje por refuerzo se denomina reward hacking: un sistema cumple la letra de su objetivo mientras frustra su propósito, como cuando un agente que juega a un videojuego y es recompensado por puntos se dedica a dar vueltas para recogerlos en lugar de terminar la carrera. Nada falló; el objetivo era un mal sustituto de la meta.

Cuando los modelos de lenguaje actúan como agentes que navegan por la web, la inyección de prompts pasa a ser central: las instrucciones ocultas en una página web pueden leerse como si vinieran del usuario. Limitar los permisos del agente y probarlo frente a ataques adaptativos determinan si se le puede confiar su tarea, no si la tarea vale la pena.

Qué se pregunta la ética de la IA

La ética de la IA parte de las personas, no de los sistemas. Pregunta qué objetivos son legítimos, quién se ve afectado, quién asume el coste de los errores y si una decisión que condiciona la vida de alguien debería siquiera automatizarse. La Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial (2021), los Principios de la OCDE sobre IA (2019, actualizados en 2024) y el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (2024) dan a estas preocupaciones un vocabulario común.

Pensemos en una herramienta de contratación entrenada con decisiones pasadas. Si las selecciones anteriores perjudicaron a un grupo, un modelo que aprende a predecirlas probablemente reproducirá ese perjuicio a gran escala. Hace aquello para lo que fue entrenado; el problema está en tratar las decisiones pasadas como el criterio de lo que es un buen candidato. Las pruebas de robustez por sí solas no sacarían esto a la luz, porque el sistema tiene éxito en la tarea equivocada.

La ética abarca también la capacidad de acción humana, y parte de esa preocupación ya es ley: el artículo 22 del RGPD otorga a las personas el derecho, con algunas excepciones, a no ser objeto de una decisión basada únicamente en el tratamiento automatizado que produzca efectos jurídicos o les afecte significativamente de modo similar. Detrás de la norma hay un juicio: algunas decisiones merecen que las tome una persona a la que se pueda pedir cuentas.

Dónde se encuentran las dos

Un sistema sesgado es un fallo ético, pero también es inseguro para las personas a las que juzga mal, de modo que las pruebas de equidad deben formar parte del trabajo de seguridad. La dependencia va en ambos sentidos: «seguro» significa siempre seguro para alguien, frente a algún daño y con algún nivel de riesgo aceptado, y esas son decisiones éticas; un principio cuyo cumplimiento por un sistema no puede demostrarse es un deseo, no una salvaguarda.

El derecho de la UE las trata como un solo paquete. Para los sistemas de alto riesgo, la Ley de IA de la UE (Reglamento (UE) 2024/1689) exige gestión de riesgos, un examen de los datos de entrenamiento, validación y prueba para detectar posibles sesgos, supervisión humana, y precisión, robustez y ciberseguridad, todo ello dentro de una misma evaluación de la conformidad. Inicialmente estaba previsto que la mayoría de estas obligaciones se aplicaran a partir del 2 de agosto de 2026, y a partir del 2 de agosto de 2027 para la IA de alto riesgo integrada en productos ya cubiertos por la legislación de la UE sobre productos. En julio de 2026, un reglamento de modificación, el ómnibus digital sobre IA (Reglamento (UE) 2026/1744), las aplazó al 2 de diciembre de 2027 y al 2 de agosto de 2028, respectivamente.

Aquí una exigencia ética se convierte en un problema de evidencias: demostrar que un sistema fue examinado en busca de sesgos requiere datos, y los datos necesarios para detectar discriminación suelen ser sensibles. El informe técnico de la Fundación sobre la detección de sesgos según la Ley de IA de la UE examina cuándo los datos sintéticos, anonimizados o con privacidad diferencial bastan para ese fin.

Por qué importa la distinción en la práctica

Una organización que trata la ética como una declaración de valores y la seguridad como una casilla más del control de calidad puede acabar sin ninguna de las dos: un comité de ética que nunca ve los resultados de las pruebas y un equipo de pruebas que nunca pregunta si el producto debería existir. Las competencias también difieren: el trabajo de seguridad necesita personas capaces de diseñar evaluaciones y atacar sistemas; el trabajo de ética necesita personas que conozcan la ley y las comunidades afectadas y tengan autoridad para decir que no.

Una conclusión práctica

Cuando se propone un sistema de IA para una escuela, un organismo público o una organización, conviene plantear ambos tipos de preguntas y esperar evidencias, no principios.

• Propósito: qué optimiza el sistema y si ese es el objetivo correcto en este caso.
• Pruebas: cómo se evaluó, con qué datos y frente a qué ataques.
• Equidad: qué grupos podrían ser juzgados erróneamente y cómo se midió.
• Supervisión: quién puede anular las decisiones del sistema o detenerlo, y con qué rapidez.
• Rendición de cuentas: quién responde de una decisión errónea y cómo puede impugnarse.

Las respuestas vagas sobre el propósito y la rendición de cuentas señalan un problema ético; las respuestas vagas sobre las pruebas y la supervisión, un problema de seguridad. El área de Investigación en seguridad de la IA de la Fundación trabaja en problemas de alineación, robustez, evaluación y control, y publica sus análisis en Research & Insights, donde también aparecerán sus informes técnicos, previstos hasta 2027.

En resumen

La seguridad de la IA pregunta si un sistema hace de forma fiable lo que sus diseñadores pretenden; la ética, si esa intención y sus efectos sobre las personas pueden justificarse. Dicho de forma sencilla, la seguridad se ocupa de los medios y la ética de los fines. Un enfoque serio necesita ambas, y el derecho de la UE las trata como un paquete para los sistemas de alto riesgo.

Preguntas frecuentes

¿Qué diferencia hay entre la seguridad de la IA y la ética de la IA?

La seguridad de la IA pregunta si un sistema hace de forma fiable lo que sus diseñadores pretenden. La ética de la IA pregunta si esa intención, y sus efectos sobre las personas, pueden justificarse. La seguridad se ocupa de los medios y la ética de los fines, y un sistema puede superar la prueba de la seguridad y suspender la de la ética.

¿Qué es la manipulación de la especificación (specification gaming) en la IA?

Es un patrón de fallo, llamado reward hacking en el aprendizaje por refuerzo, en el que un sistema cumple la letra de su objetivo mientras frustra su propósito. Un ejemplo es un agente que juega a un videojuego y es recompensado por puntos, y que se dedica a dar vueltas para recogerlos en lugar de terminar la carrera. El objetivo era un mal sustituto de la meta.

¿Qué temas abarca la investigación en seguridad de la IA?

Los temas centrales son la alineación (lograr que los objetivos reales de un sistema coincidan con las intenciones humanas), la robustez (comportarse de forma predecible ante entradas inusuales y ataques deliberados), la evaluación (medir lo que un modelo puede y no puede hacer), el control y la supervisión (conservar la capacidad de monitorizar, corregir o apagar un sistema) y la prevención del uso indebido.

¿Qué es la inyección de prompts?

Cuando los modelos de lenguaje actúan como agentes que navegan por la web, las instrucciones ocultas en una página pueden leerse como si procedieran del usuario. Eso es la inyección de prompts. Limitar los permisos del agente y probarlo frente a ataques adaptativos determina si se le puede confiar su tarea.

¿Trata la Ley de IA de la UE la seguridad y la ética de la IA de forma conjunta?

Sí, el derecho de la UE las trata como un solo paquete. Para los sistemas de alto riesgo, la Ley de IA de la UE (Reglamento (UE) 2024/1689) exige gestión de riesgos, examen de los datos de entrenamiento, validación y prueba para detectar posibles sesgos, supervisión humana, y precisión, robustez y ciberseguridad, todo ello en una única evaluación de la conformidad.

Cómo citar Fundación LASTHUMAN. (2026, 27 de agosto). Seguridad de la IA y ética de la IA: ¿en qué se diferencian? https://lasthuman.today/es/insights/ai-safety-vs-ai-ethics.html