Remise du rapport de la Commission d’experts « IA générative et vulnérabilités »

La Commission d’experts « IA générative et vulnérabilités » a remis un rapport qui analyse les risques liés à l’usage de l’IA générative et formule 18 recommandations. Il appelle notamment à renforcer les politiques publiques pour protéger les utilisateurs tout en tirant parti des possibilités de cette technologie.

Le rapport de la Commission « IA générative et vulnérabilités », intitulé Protéger sans empêcher : les vulnérabilités à l’ère de l’IA générative, prolonge les réflexions engagées par le Président de la République il y a plus d’un an sur les conséquences du numérique sur nos démocraties, en les étendant à l’IA générative.

L’enjeu est clair : il s’agit d’identifier les vulnérabilités les plus critiques auxquelles s’exposent chaque jour les utilisateurs des chatbots, des compagnons IA ou de jouets dotés d’IA, afin de prévenir ces risques et d’en atténuer la portée. Dans ce cadre, le Conseil de l’IA et du numérique a :

Les réflexions de la Commission partent d’un double constat :

Le rapport de la Commission s’articule autour de trois idées fortes :

La question ici posée est celle de l’avenir de la démocratie, de la cohésion sociale et du vivre-ensemble à l’ère de l’’IA, alors que 73 % des Français utilisent désormais l’IA comme moyen d’accès à l’information, malgré les biais, les hallucinations et l’absence de tout contradictoire dans les interactions. Pourtant, les risques sont loin d’être nuls : l’IA générative est jugée 50 % plus persuasive qu’un article de presse. En parallèle, 34 % des réponses apportées par l’IA aux électeurs écossais lors des dernières élections comportaient des informations erronées.

Le risque est qu’il exploite les vulnérabilités précitées dans le but de les monétiser ; ce serait l’avènement de l’économie de la cognition. Hier, avec les réseaux sociaux, les plateformes cherchaient à capter l’attention de leurs utilisateurs : c’était l’économie de l’attention. Demain, elles pourraient chercher à tirer profit de leurs facultés cognitives, de plus en plus déléguées à la machine, de leurs réactions émotionnelles et de leurs profils psychologiques. À court terme, cela se matérialiserait par le risque d’une recrudescence des contenus publicitaires, y compris dissimulés, lesquels doivent être proscrits.

À la suite de ces développements, la Commission formule une série de 18 recommandations guidées par une conviction forte : si les risques soulignés au sein du rapport doivent appeler à la plus grande vigilance, l’IA générative est également porteuse d’opportunités dont il faut se saisir dans les conditions adéquates. Par conséquent, les recommandations visent à renforcer les politiques publiques afin de répondre aux problèmes pressants, d’une part, et d’anticiper les mutations à venir d’autre part. Parmi les préconisations, plusieurs priorités se dégagent :