Nos priorités
Alignement des objectifs et sécurité des agents
Comment faire en sorte que les objectifs et les comportements des systèmes d’IA restent alignés sur les intentions humaines, y compris lorsqu’ils agissent comme des agents utilisant des outils et des données externes.
Évaluation et tests
Mesure rigoureuse de ce que les modèles savent faire : comparaisons équitables, jeux de test non contaminés et tests de robustesse face aux attaques adaptatives.
Robustesse et contrôle
Défenses contre l’injection de prompt, l’empoisonnement des données et le détournement des objectifs des agents, et limitation des droits d’accès des outils qu’ils utilisent, selon le principe du moindre privilège.
Supervision et gestion des risques
Preuves techniques plutôt que déclarations : comment démontrer la robustesse et la sécurité d’un système conformément à l’article 15 du règlement européen sur l’IA (AI Act) et au règlement sur la cyberrésilience (Cyber Resilience Act).
Plan d’action
2026
- Bias Detection Under Article 4a of the EU AI Act: When Synthetic, Anonymised or Differentially Private Data Is Enough. Technical evidence options, a simulation study and a real-data replication
- Using Generative AI to Create Synthetic Medical Data for Patient Privacy Protection: A Review and an Empirical Evaluation of the Fidelity-Utility-Privacy Trade-offData package: Synthetic medical data and patient privacy benchmark (WHAS500, WDBC, FLCHAIN)
Prévu pour 2027
Sujets des rapports techniques et des études que nous prévoyons de publier d’ici fin 2027. Ils paraîtront en anglais.
- Agent hijacking
- Fair comparisons
- Benchmark contamination
- Multi-agent risks
- Prompt injection
- Tool sandboxing
- Robustness evidence
- et bien d’autres
Articles de ce domaine
Retrouvez des articles sur ce thème dans la rubrique Research & Insights.