Peut-on sécuriser l'IA avec des débats entre IA ?

Описание: Découvrez notre site web : https://www.securite-ia.fr


RÉSUMÉ
Cette présentation, intitulée "Sécurité de l'IA par le débat", explore l'idée d'utiliser des débats entre IA comme méthode d'évaluation et de sécurisation des modèles avancés. Elle met en avant l'intérêt de confronter des IA pour tester la validité de leurs arguments, avec un juge (humain ou non) pour trancher. L'objectif est d'identifier plus efficacement les erreurs de raisonnement et d'améliorer l'évaluation des systèmes d’IA. Martin discute également des avantages théoriques de cette approche, des défis liés à l'entraînement des IA à débattre et des risques, notamment celui de créer des IA trop convaincantes, posant ainsi des enjeux éthiques et sociétaux.


INTERVENANT
Martin Kunev, ingénieur en IA et membre du CeSIA



CONTEXTE

Cette présentation s'inscrit dans le cadre des Mercred'IA, un rendez-vous hebdomadaire du Centre pour la Sécurité de l'IA où les membres travaillent sur des projets, assistent à des présentations thématiques (agendas de recherche techniques, gouvernance de l’IA...) et échangent sur les dernières actualités en sécurité de l'IA. La fin de journée est généralement consacrée aux discussions, qu'il s'agisse des problèmes rencontrés en programmation, des nouvelles opportunités de stages ou encore des avancées récentes dans le domaine.

LIENS

Newsletter : https://cesiafr.substack.com
Discord :   / discord  
LinkedIn :   / securite-ia  
X : https://x.com/securite_ia
GitHub : https://github.com/CentreSecuriteIA/