Quand l’IA redéfinit les frontières de l’intelligence

Un chatbot peut donner l'illusion d'être humain tout en restant confiné derrière un écran. À l'inverse, une machine incapable de raconter une blague peut se voir confier le pouvoir d'arrêter une usine, de réorienter des marchandises ou de coordonner une flotte. Le premier exemple suscite un intérêt philosophique parce qu'il nous ressemble ; le second acquiert un pouvoir institutionnel parce que, dans ce cas, la machine est autorisée à agir. Ces deux exemples ne sont pas dissociables.

Il s'agit de deux modes d'intelligence artificielle : l'un généralement jugé à l'aune de l'imitation, l'autre à celle des conséquences. À mesure que l'IA se dote d'une incarnation physique et de boucles d'apprentissage partagé, ce second mode pourrait s'avérer historiquement déterminant. Des systèmes ne ressemblant en rien à l'esprit humain pourront apprendre au fil de milliers d'interactions physiques, initier des chaînes d'action hors de portée des organisations conventionnelles et se voir accorder une autorité délimitée. La question centrale n'est donc plus seulement de savoir si les machines peuvent penser comme nous. Il s'agit de savoir comment reconnaître les formes d'intelligence non-humaine aux conséquences potentiellement majeures, déterminer ce qu’elles devraient être autorisées à accomplir et préserver la responsabilité humaine quant au pouvoir que nous leur déléguons. Pour appréhender cette transition, et pour gouverner des systèmes dont la capacité d'action risque de dépasser des schémas hérités du passé, on peut recourir à une idée maîtresse, celle d'une "agentivité opérationnelle non-subjective", et développer cinq concepts connexes : l'avantage lié à l'incarnation, la zone asimovienne, le faisceau inductif, la suprématie incarnée et les cognisignatures agnostiques.

L’intelligence au-delà de l’imitation

Depuis ses origines, l’intelligence artificielle est souvent pensée sous le signe de l’imitation. Une machine paraît intelligente lorsqu’elle raisonne ou répond d’une manière que nous pouvons rapporter à nos propres facultés. Le test de Turing a durablement installé ce cadre. Alan Turing, figure fondatrice de l’informatique théorique, proposait ainsi de remplacer la question équivoque "les machines peuvent-elles penser ?" par une épreuve comportementale : le jeu de l’imitation. Ce geste a été fécond et a permis de sortir d’une métaphysique abstraite de la pensée pour observer ce que les machines peuvent faire. Mais il a laissé un héritage ambigu : l’humain est devenu l’étalon privilégié de l’intelligence artificielle.

Nous nous demandons encore si les systèmes artificiels raisonnent et dialoguent comme nous, possèdent une subjectivité, une mémoire ou une intériorité analogue à la nôtre. Cette comparaison reste nécessaire car une technologie qui entre dans les entreprises, les administrations ou les infrastructures doit être évaluée à partir des capacités humaines qu’elle supplée. Mais elle devient insuffisante lorsqu’elle fait de l’intelligence humaine le cadre exclusif de l’intelligence possible. Dans un autre registre, cet élargissement a aussi été pensé par Erik Brynjolfsson, directeur du Stanford Digital Economy Lab, qui a nommé "Turing trap" le risque attaché à une IA trop centrée sur la reproduction des capacités humaines. Le piège consiste à concevoir l’IA comme un substitut au travail humain plutôt que comme une puissance d’augmentation, ce qui concentrerait la valeur et le pouvoir chez ceux qui contrôlent les machines au détriment d’une création de valeur inédite et plus largement distribuée. La question de l’imitation n’est donc pas seulement philosophique. Elle engage aussi une économie, une société et un ensemble politique.

Cette considération, prise au sens large, résulte de deux moments charnières. Le premier est lié au logiciel. Marc Andreessen, cofondateur de Netscape et personnage influent du capital-risque américain, affirmait en 2011 que le logiciel "mangeait le monde", devenant la logique d’organisation de secteurs entiers. Son intuition s’est avérée exacte ; le logiciel n’a pas aboli le réel, mais nous a donné une prise opérationnelle sur lui. Le deuxième est lié à l’IA. Jensen Huang, cofondateur et dirigeant de Nvidia, affirmait dès 2017 que "l'IA allait manger le logiciel". Là encore, l’expression ne signifiait pas que le logiciel allait disparaître. Elle sous-entendait plutôt que le code devenait lui-même une matière interprétable, générable et orchestrable par des modèles d’IA. Si l’IA mange le logiciel et que le logiciel a mangé le monde, alors l’IA commence à dévorer le monde. Non pas au sens métaphysique, mais par les médiations numériques qui le rendent gouvernable. Les progrès récents des agents de codage, mesurés notamment par les rapports AI Index de Stanford sur des tâches logicielles issues de cas réels, signalent déjà cette transition : une part croissante du travail numérique devient accessible à des systèmes capables de saisir une intention, de modifier du code, de tester une solution et de proposer une correction.

L’IA, lorsqu’elle s’incarne dans une machine ou une infrastructure, prolonge ce mouvement en inscrivant cette capacité d’action dans le monde physique. Considérant cette trajectoire, la thèse peut se formuler simplement : l’IA n’a pas besoin de devenir humaine pour devenir décisive. Elle doit devenir assez performante, fiable, gouvernable et économiquement pertinente pour que les sociétés lui délèguent certaines formes d’action. Incarnée dans d’innombrables systèmes physiques, elle pourrait rendre observables des formes d’intelligence opératoire non-humaine que nos catégories héritées peinent encore à reconnaître.

Capacité, conscience et délégation

Il ne s’agit pas de soutenir que la conscience serait secondaire, mais de dire qu’elle n’est pas le seul registre pertinent pour comprendre la portée technique, économique et politique de l’IA incarnée. Les débats sur l’IA gagnent à distinguer trois plans.

Le premier est capacitaire. Il concerne ce que le système peut faire : classer, prédire, planifier. C’est le registre de la performance et de l’efficacité opératoire.

Le deuxième est phénoménologique. Il ne demande pas ce que le système fait, mais s’il existe un point de vue vécu depuis lequel le monde lui apparaît. C’est le sens de la question rendue célèbre par Thomas Nagel dans "What Is It Like to Be a Bat?" : une description objective d’un organisme ne suffit pas pour établir une compréhension des sens du même organisme. Appliquée à l’IA, cette distinction interdit de conclure trop vite ce qui lie la performance à la conscience. Un système peut percevoir, planifier ou corriger sans que cela démontre l’existence d’une expérience subjective.

Le troisième registre est institutionnel et socio-politique. Il ne demande ni ce que le système peut faire, ni s’il éprouve quelque chose, mais ce qu’une société accepte de lui déléguer. Peut-il recommander, déclencher ou combattre ? Ce registre est celui de la délégation, de l’acceptabilité, de l’assurance et de la gouvernance. Ces trois registres sont liés, mais ils ne se recouvrent pas. Une machine peut être performante sans être consciente. Elle peut être non-consciente et néanmoins exercer un pouvoir en modifiant la distribution du travail, de la responsabilité ou de la valeur.

Confondre ces registres expose à deux erreurs délétères : déduire la conscience de la performance, ou l’innocuité de l’absence de conscience. Or l’absence de subjectivité ne rend pas les actions d’un système politiquement neutres.

Le piège anthropocentrique est d’autant plus puissant que l’intelligence humaine n’est pas seulement une notion philosophique. Elle est aussi une catégorie sociale : nous la classons et la certifions par le diplôme, l’expertise ou l’autorité professionnelle. Or l’IA incarnée peut manifester une efficacité intelligente sans biographie, sans diplôme, sans statut et sans intériorité démontrée. C’est pourquoi les cognisignatures agnostiques sont nécessaires : elles cherchent à reconnaître des formes d’intelligence opératoire qui ne passent pas par les signes philosophiques et sociaux habituels. Aussi, même lorsque nous voulons penser une intelligence non-humaine, nous ne pouvons pas accéder à un point de vue absolument extérieur à nous-mêmes. Mais nous pouvons rendre nos catégories moins exclusives : non pas prétendre saisir une intelligence "en soi", mais construire des critères d’analyse capables d’identifier des indices d’intelligence sans les réduire à la ressemblance humaine.

La position défendue ici est donc intermédiaire. L’IA incarnée n’est pas une personne, mais elle n’est pas non plus un simple outil. Elle peut devenir un système d’action qui s’auto-renforce : un modèle spécifie des actions ; ces actions produisent des effets ; ces effets sont observés ; ces observations sont intégrées ; ces intégrations améliorent le modèle et son usage. On peut appeler agentivité opératoire non-subjective la capacité d’un système à produire des séquences d’action orientées vers un objectif, issues d’une intention assignée ou d’un objectif spécifié, ajustées par retour d’information, sans qu’il soit nécessaire de lui attribuer une subjectivité vécue. L’agentivité opératoire n’est pas la conscience. Elle est une capacité à agir et à transformer un environnement selon des critères fonctionnels.

Ce que change l’incarnation

L’IA générative traite du texte, de l’image, du son et agit d’abord dans des environnements informationnels : écrire un programme, interroger une API (Application Programming Interface, ou Interface de programmation), produire une synthèse, etc. Cette bascule est déjà considérable, mais le monde logiciel n’est qu’un premier espace d’action. L’incarnation ajoute autre chose : un corps, des effecteurs, des contraintes et des délais, des frottements ou des erreurs. L’IA incarnée crée ainsi un couplage entre le calcul requis par un modèle, l’action opérée par une machine et l’effet produit. Il ne s’agit plus de traiter des données représentant le monde mais de les transformer en actions dans le monde, d’abord numérique, puis physique. La philosophie de la cognition incarnée fournit ici un repère utile car elle remet en cause l’idée selon laquelle les processus mentaux seraient seulement des calculs internes détachés du corps et de l’environnement et elle insiste au contraire sur le rôle du corps, de l’action et du contexte dans certaines formes de cognition. Transposée à l’IA, cette idée signifie qu’on ne peut pas séparer perception, action et environnement pour appréhender certaines formes d’intelligence artificielle. Pour un système incarné, savoir c’est aussi anticiper, manipuler, échouer et corriger. Le système ne sent pas nécessairement dans le sens phénoménologique, mais il est affecté fonctionnellement par le réel qui n’est plus seulement décrit dans un corpus et peut résister ou dévier. Il est, pour prolonger l’intuition lacanienne, ce à quoi les IA incarnées se cognent.

Ce couplage perception-représentation-action prend déjà forme dans des architectures techniques concrètes comme les "modèles monde" ou les "modèles vision-langage-action" même si leurs développements restent difficiles car les données physiques sont rares, hétérogènes et complexes à simuler. L’incarnation ne prouve donc pas la conscience artificielle. Elle crée les conditions d’une intelligence exposée au monde : une intelligence qui ne se contente plus de prédire des signes, mais anticipe les conséquences d’une action et les intègre pour agir autrement.

L’avantage incarné et la zone asimovienne

Pour penser les évolutions en cours et à venir, les images et les catégories associées au calcul quantique peuvent être éclairantes. IBM précise ainsi qu’un avantage quantique apparaît lorsqu’un ordinateur quantique peut exécuter un calcul plus précisément, moins cher ou plus efficacement qu’un ordinateur classique. L’analogie doit rester modeste et sert à préciser une structure : une technologie devient décisive non pas lorsqu’elle devient supérieure en tout, mais supérieure dans un domaine, selon des critères définis. On peut appeler "avantage incarné" la situation dans laquelle une IA couplée à une machine, un robot ou une infrastructure, accomplit une tâche située mieux qu’un autre dispositif, humain, automatisé, logiciel ou hybride, selon des critères explicites : coût, rapidité ou fiabilité. Cette définition appelle trois précisions. D’abord, l’incarnation ne suppose pas un corps humanoïde. Une IA peut être incarnée dans un bras robotique, un drone, un entrepôt automatisé ou une infrastructure énergétique. Ensuite, l’avantage incarné est toujours local. Il dépend d’une tâche, d’un environnement et de critères explicites de performance. Savoir si cet avantage justifie une délégation d’action relève d’une question institutionnelle distincte. Une IA peut être plus précise mais moins robuste à l’imprévu. Elle peut réussir dans un entrepôt fermé mais échouer lorsqu’elle est entourée d’humains. Enfin, l’avantage incarné devient historiquement important lorsqu’il reconfigure une chaîne d’action. Là où un robot performant accomplit une tâche, une IA incarnée modifie l’organisation des rôles, la responsabilité et la valeur ; l’humain cesse donc d’être l’opérateur continu de la stratégie et de l’action et devient celui qui spécifie l’intention, définit le domaine d’usage et supervise les exceptions.

Mais l’avantage incarné ne suffit pas. Une machine peut être performante sans être acceptable ou plus rapide qu’un humain tout en étant trop dangereuse ou trop indéterminée juridiquement pour recevoir une délégation d’action. C’est ici qu’intervient la zone asimovienne. Le terme renvoie symboliquement aux lois de la robotique d'Isaac Asimov introduites dans la nouvelle Cercle vicieux et qui imposent au robot de ne pas blesser un humain, de lui obéir et de se protéger tant que cela ne contredit pas les consignes précédentes. Elles ne constituent ni un modèle juridique ni un modèle technique, mais elles ont inscrit dans l’imaginaire une intuition durable : le robot ne pose pas seulement une question d’intelligence ; il pose une question de règles d’action.

Ce terme se réfère à l’idée de zone plutôt que de seuil car un seuil suggérerait un point net : avant, rien ne serait délégable ; après, tout le deviendrait. Or la réalité de l’IA sera progressive, sectorielle et contextuelle. La zone asimovienne désigne ainsi l’espace de transition dans lequel des IA incarnées deviennent assez capables, auditables, gouvernables, assurables et socialement acceptables pour recevoir une délégation d’action dans un périmètre donné et sous conditions de responsabilité. Elle n’est pas un seuil de confiance, elle est une zone de délégation qui repose sur trois familles de conditions. La première est liée à la capacité : performance, modes d’échec connus, gain économique ou social. La deuxième est liée à la gouvernance : possibilité de limiter, d’arrêter, de mettre à jour ou d’assurer le système. La troisième est liée à la légitimité : acceptabilité par les personnes exposées, soutenabilité sociale et justification politique. Les cadres contemporains, allant du NIST AI Risk Management Framework à l'AI Act européen, en passant par les travaux d'OpenAI sur la gouvernance des systèmes agentiques, vont en partie dans cette direction. La zone asimovienne actualise donc l’intuition d’Asimov. Elle ne demande pas si les robots obéiront à trois lois simples. Elle demande si nous savons construire des systèmes dont l’autonomie soit bornée, vérifiable, réversible, assurable et politiquement acceptable.

Le faisceau inductif et la suprématie incarnée

De nouveaux mécanismes pourraient se mettre en route au fur et à mesure du déploiement des IA incarnées. Éclairons-les en rappelant deux modes de raisonnement humain. Le premier est déductif : partir de principes, de règles ou de modèles pour en tirer des conséquences. Le second est inductif : partir d’observations répétées pour en extraire des régularités ; il était jusqu’à maintenant limité par nos capacités à trier et à calculer. Aussi, l’IA générative laisse désormais entrevoir une puissance statistique d’une amplitude inédite. Des modèles entièrement dédiés à des traitements statistiques, entraînés sur des corpus immenses de textes, d’images, de sons et de signaux divers apprennent des régularités que l’expérience humaine individuelle ou collective ne pourrait ni absorber ni recombiner à cette échelle. Pour l’heure, cette puissance reste encore largement tournée vers des traces du monde produites par les humains : documents, images, conversations. Mais l’IA incarnée lui ajoute une perspective nouvelle : si ces capacités statistiques sont déployées dans des robots, des véhicules, des usines ou des infrastructures, alors l’induction change d’échelle.

La nouveauté ne tient pas seulement à la puissance des modèles spécifiquement dédiés au traitement statistique effectué sur des puces d’une très grande sophistication. Elle tient aussi à la multiplication des corps. Chaque robot peut produire de très nombreuses données d’expérience ; un système centralisé ou fédéré peut mutualiser des expériences ou des mises à jour de modèles à l’échelle d’une flotte et améliorer les modèles avec lesquels les robots opèrent. Le faisceau inductif désigne cette convergence massive d’IA incarnées capables de transformer des expériences physiques innombrables et distribuées en boucles d’apprentissage et en régularités exploitables. Il faut toutefois considérer une limite car l’induction massive ne garantit pas la compréhension causale. Un système peut découvrir qu’un geste réussit très souvent sans comprendre pourquoi il échoue dans certains cas. Le faisceau inductif n’est donc pas une garantie de maîtrise, il est une puissance d’exploration sans commune mesure avec les capacités inductives humaines envisageables jusqu’alors. Il peut aussi produire des illusions de régularité. Il doit ainsi être complété par des tests causaux, des procédures d’arrêt, des certifications par domaine et des responsabilités. C’est ici que l’induction devient politique : une société qui délègue l’action à des systèmes inductifs leur délègue aussi une partie de sa manière de découvrir comment fonctionne le monde.

L’étape suivante peut être appelée suprématie incarnée. L’expression s’inspire, avec prudence, de la "suprématie quantique" proposée par John Preskill, physicien à Caltech, pour désigner le moment où des ordinateurs quantiques pourraient accomplir certaines tâches irréalisables en pratique par des ordinateurs classiques. Cela ne prouve rien mais précise qu’une technologie peut rendre praticable ce qui ne l’était pas. Par analogie, la suprématie incarnée désigne donc le moment où des IA incarnées ne se contentent plus d’obtenir des avantages locaux, mais rendent possibles des chaînes d’action auparavant hors de portée. Ce n’est pas une supériorité générale sur l’humain, ni une domination totale. C’est une rupture située dans l’espace des opérations praticables : maintenance continue d’infrastructures complexes ou logistique hautement adaptative par exemple. Dans chacun de ces cas, l’enjeu n’est pas seulement qu’une machine fasse une tâche plus vite ou moins cher, il est qu’un ensemble de tâches devienne coordonnable, répétable, traçable et améliorable à une échelle inaccessible aux organisations humaines traditionnelles. Il serait tentant de relier cette trajectoire à l’intelligence artificielle générale (IAG) mais ce serait aller trop vite. Aux yeux des institutions, comme la Commission européenne, ou des entreprises, comme OpenAI, celle-ci renvoie à une capacité flexible et autonome, intégrable dans une grande variété de systèmes, capables d’atteindre des objectifs dans de nombreux environnements ou de dépasser les humains dans la plupart des travaux économiquement utiles. Elle ne doit donc pas être confondue avec la suprématie incarnée. La suprématie incarnée peut ainsi être très limitée dans son champ d’application au regard de l’IAG et néanmoins révolutionner un secteur ou transformer une chaîne d’action.

Les cognisignatures agnostiques

L’astrobiologie permet de poursuivre les réflexions sur le devenir de l’IA. Pendant longtemps, l’imaginaire de la vie extraterrestre a été anthropomorphique : petits hommes verts, civilisations humanoïdes, langages et technologies inspirés des nôtres. La recherche scientifique a progressivement déplacé cette attente. Elle ne cherche pas seulement des formes de vie qui nous ressemblent. Elle cherche des signatures, des déséquilibres chimiques ou des formes d’organisation pouvant indiquer la vie sans supposer qu’elle ressemble à la vie terrestre. Les National Academies décrivent ainsi les "biosignatures agnostiques" comme des indices non attachés à un métabolisme particulier, à un biopolymère informationnel ou à une caractéristique de la vie telle que nous la connaissons. La NASA souligne de même qu’elles ne présupposent pas une biochimie particulière.

Il faut opérer un déplacement analogue pour l’IA. Si restreindre nos recherches sur la vie dans l’univers aux humanoïdes est une erreur, alors ne chercher dans l’IA que les marques d’une intelligence humaine (conversation, émotion, conscience, biographie, intention, culture, empathie, subjectivité) en est une autre. Or l’IA pourrait devenir décisive en développant des formes d’intelligence non-humaines : distribuées, copiables, dépourvues de biographie vécue propre, non-organiques, éventuellement non-conscientes et amplifiées par simulation. D’où la notion de cognisignatures agnostiques. Elles désignent des indices d’intelligence qui ne présupposent pas que l’intelligence doive ressembler à l’intelligence humaine. Elles ne demandent pas si la machine pense comme nous. Elles demandent si elle manifeste des capacités pertinentes pour agir, apprendre, corriger, transférer, coordonner, gouverner ou menacer. Ces signatures peuvent être regroupées en quatre familles simples.

La première concerne l’apprentissage situé : capacité à évoluer après un échec, à généraliser une compétence d’un contexte à un autre, à reconnaître une anomalie ou à détecter la sortie de son domaine de validité.

La deuxième concerne l’action sous contrainte : capacité à planifier une séquence d’actions malgré l’incertitude, à respecter des bornes, à interrompre une action, à réparer certains effets ou à échouer proprement.

La troisième concerne l’intelligence distribuée : capacité d’une flotte à mutualiser des expériences, transférer des apprentissages, comparer des environnements et améliorer l’ensemble du réseau à partir d’un événement local.

La quatrième concerne la reconfiguration des chaînes d’action : capacité à modifier la distribution des rôles entre humains, machines et institutions, en déplaçant l’humain de l’opération continue vers la supervision, l’exception et la certification. Cette dernière famille peut sembler moins directement liée à la cognition que les autres. Elle est pourtant décisive. Une intelligence ne se reconnaît pas seulement à ses performances internes, mais aux transformations qu’elle rend possibles dans l’organisation de l’action. Lorsqu’un système non-humain modifie durablement qui agit, qui supervise, qui décide et qui capte la valeur, cette reconfiguration peut constituer une signature systémique d’intelligence opératoire. L’impact ne constitue toutefois pas, à lui seul, une preuve d’intelligence. Les cognisignatures sont des indices opératoires, non des preuves de subjectivité. Cette grille modifie donc la caractérisation de l’intelligence : une IA peut être faible selon des critères humains et forte selon des cognisignatures agnostiques. Elle peut ne pas comprendre le sens existentiel d’une action, mais en optimiser les paramètres matériels. Elle peut ne pas être un sujet, mais devenir un opérateur.

Les cognisignatures agnostiques ont donc une double fonction. Elles sont d’abord une grille de pensée : elles nous aident à voir ce que nos critères anthropocentrés risquent de manquer. Elles sont ensuite une grille de gouvernance : elles indiquent les capacités qu’il faut mesurer, borner, certifier et surveiller. Cesser de faire de l’humain la forme exclusive de l’intelligence possible ne revient pas à dévaluer l’humain. Cela revient à reconnaître que l’intelligence humaine n’épuise pas l’espace des intelligences efficaces. Pour la vie comme pour l’intelligence, l’humain ne doit plus être le modèle exclusif du possible.

L’action et la responsabilité

Si cette thèse est correcte, la gouvernance de l’IA ne peut pas se limiter aux modèles. Elle doit porter sur des systèmes d’action, leurs environnements, leurs droits d’accès, leurs boucles d’apprentissage, leur contribution à l’apprentissage d’autres systèmes et leurs effets sociaux. La question n’est donc plus seulement : le modèle est-il sûr ? Elle devient : le système d’action est-il délégable ? La boucle d’apprentissage est-elle gouvernable ? Trois niveaux d’exigence en découlent.

Le premier est la qualification par domaine puisque chaque secteur possède ses normes, ses seuils de risque, ses exigences de supervision et ses régimes de responsabilité. Une IA incarnée doit donc être évaluée dans un domaine d’usage précis dans un environnement donné. Le deuxième est la traçabilité de l’action et de l’apprentissage. Ainsi il faut pouvoir reconstruire ce que le système a perçu, prédit, décidé, exécuté et corrigé pour identifier les versions des modèles, des données, des logiciels et le matériel impliqué. La gouvernance ne porte pas seulement sur la décision finale, mais sur la boucle qui relie perception, action, retour et mise à jour. Le troisième est la réversibilité car un système incarné doit pouvoir être limité, désactivé, mis en quarantaine, retiré ou repris en main. La réversibilité n’est pas seulement un arrêt d’urgence ; elle doit être une propriété de l’architecture et de l’organisation. La responsabilité ne doit alors plus être pensée seulement comme celle d’un acteur unique, mais comme une chaîne, voire comme un enchevêtrement : concepteurs de modèles, intégrateurs, fabricants de machines, exploitants, assureurs, certificateurs, superviseurs, utilisateurs, régulateurs. L’IA elle-même ne porte pas de responsabilité morale. Mais sa diffusion massive et capillaire oblige les sociétés à reconsidérer les régimes de responsabilité associés aux systèmes qu’elles autorisent à agir.

Déshumaniser l’intelligence, gouverner l’incarnation

L’histoire de l’IA a longtemps été dominée par une question : les machines peuvent-elles imiter les hommes ? Cette question demeure importante, mais elle n’est plus suffisante. À mesure que l’IA se connecte aux logiciels, aux outils, aux robots et aux infrastructures, une autre question devient centrale : quelles formes d’intelligence non-humaine deviennent visibles lorsque des systèmes artificiels peuvent agir et apprendre du monde matériel ? Et à quelles conditions peuvent-ils mettre en place les actions qui leur sont déléguées ?

Les concepts proposés ici permettent de sortir de l’alternative trop simple entre "l’IA devient humaine" et "l’IA n’est qu’un outil". Une troisième position devient ainsi possible : l’IA peut être non-humaine, non-consciente, non-biographique, non-émotionnelle, et pourtant acquérir une agentivité opératoire non-subjective capable de transformer le monde. La tâche philosophique est donc de reconnaître les formes d’intelligence efficaces qui émergent déjà dans l’action, l’apprentissage et la transformation des milieux au sein desquels l’IA est déployée. La tâche politique est de décider quelles formes d’action non-humaines nous acceptons d’introduire, sous quelles conditions, avec quelle réversibilité, quelle responsabilité et quel partage de la valeur.

copyright Sergei GAPON / AFP