Communiqué : réunion IA et sécurité.

À l’issue d’une réunion réunissant des États, des entreprises d’intelligence artificielle, des chercheurs et des organisations internationales, les participants ont dégagé trois priorités : des évaluateurs indépendants, des standards communs d’évaluation et de signalement, et une clarification des responsabilités. Les signataires s’engagent notamment à établir un cadre commun de gestion des risques des modèles avancés.

Réunion « IA et sécurité » : États, développeurs d'intelligence artificielle et chercheurs s'engagent pour des actions concrètes en faveur de la sécurité des modèles d'IA les plus avancés

Le Président de la République a réuni ce jour les chefs d’Etat et de gouvernement de huit États (Bahreïn, Canada, Finlande, Japon, Norvège, Pays-Bas, Royaume-Uni, Sierra Leone), le Secrétaire au Trésor des Etats-Unis d’Amérique, les représentants de deux organisations internationales (ONU, OCDE), les dirigeants de sept entreprises d'intelligence artificielle dont Sam Altman, Dario Amodei et Arthur Mensch (Anthropic, Black Forest Labs, Hugging Face, Microsoft, Mistral AI, Open AI, Sakana AI) ainsi que des chercheurs comme Yoshua Bengio et représentants de la société civile, afin de discuter des avancées concrètes en matière de sécurité de l'intelligence artificielle.

Cette réunion s'inscrit dans le prolongement de la réunion entre les chefs d’Etat et de gouvernement et les dirigeants des laboratoires d’intelligence artificielle lors du G7 d'Évian du 17 juin dernier et des initiatives engagées sur le sujet de la sécurité de l’intelligence artificielle.

Les échanges ont fait apparaître l’urgence de se doter d’un cadre de gouvernance international pour les risques de sécurité et ont fait émerger trois points de consensus :

La nécessité de se doter d’évaluateurs indépendants ;

La nécessité de s’aligner sur des standards d’évaluation et de reporting des incidents majeurs ;

La nécessité de clarifier la responsabilité des acteurs.

Pour la première fois, les entreprises de l’intelligence artificielle ont signé un texte confirmant la vision du Président de la République quant au besoin d’une mobilisation internationale et multi-acteurs pour faire face aux risques de sécurité soulevés par l’intelligence artificielle.

En matière d'évaluation, décideurs publics, développeurs et chercheurs s'engagent à établir un cadre commun d'évaluation et de gestion des risques des modèles de pointe, en s'appuyant sur les cadres existants et sur le Réseau international pour la mesure, l'évaluation et la science de l'IA avancée (NAAIMES). Une attention particulière sera portée aux usages malveillants, notamment dans les domaines cyber et NRBC, ainsi qu'aux risques de perte de contrôle. Les résultats non sensibles des évaluations seront publiés dans un format standardisé et réunis dans un répertoire partagé accessible au public.

En matière de partage d'information, les signataires s'engagent à renforcer les dispositifs existants de signalement et d'alerte précoce, afin de partager rapidement les informations relatives aux incidents graves, cyber ou de perte de contrôle, et à étudier l'opportunité d'un mécanisme de coopération dédié. Les décideurs publics s'engagent en outre à offrir des canaux sécurisés et confidentiels permettant aux lanceurs d'alerte de signaler des risques systémiques sans crainte de représailles.

En matière de responsabilité, les signataires affirment un principe de responsabilité de chaque acteur de l'écosystème, selon son rôle. Les développeurs de modèles de pointe s'engagent à rendre publiques les capacités, limites et risques connus de leurs modèles, à soutenir leur évaluation par des évaluateurs indépendants qualifiés, à mettre en place des mécanismes permettant d'interrompre le fonctionnement d'un modèle et à renforcer leur gouvernance interne. Les décideurs publics s'engagent à clarifier les responsabilités en cas de dommages à grande échelle, y compris transfrontaliers, afin de protéger les personnes concernées et d'offrir aux entreprises la sécurité juridique nécessaire à leur développement.

La déclaration reste ouverte à de nouveaux soutiens.