Page 1/3
L’interprétation d’une IA (Intelligence Artificielle) dans une œuvre de fiction se confronte à de nombreuses tentatives qui ont marqué le genre par leur naïve absurdité. Quand on étudie, même de façon profane, les arcanes de l’Intelligence Artificielle, on se rend assez vite compte que le domaine délimite des frontières assez franches avec la liberté prises par de nombreux auteurs de science-fiction, d’uchronie et de fantasy, que ce soit dans la littérature, dans le cinéma ou dans les jeux vidéo. Épouser les contours définis dans nos œuvres favorites pour créer son PJ ou son PNJ doué d’intelligence artificielle est un choix de facilité, pas forcément le plus pertinent, mais qui a le mérite de proposer immédiatement une vision culturellement répandue de ces « choses ». Si toutefois vous souhaitez aller plus loin, vous devriez considérer le contenu qui va suivre avec beaucoup d’attention.
Définitions de principe
Avant d’aborder le vif du sujet, posons quelques notions de base. Elles sont importantes pour fixer les idées et ne pas se perdre en conjecture quand nous parlons d’Intelligence Artificielle. Notamment, je vous invite à reprendre point par point l’article de Laurent Gärtner pour bien savoir ce qui est technologiquement défini sur notre planète comme Intelligence Artificielle afin de nous sortir immédiatement le pied de l’ornière littéraire et cinématographique dans laquelle nous sommes tenté de marcher.
IA ou CA ?
On différenciera clairement ce qui relève de la notion d’intelligence de ce qui relève de la notion de conscience. Ce sont deux fonctions qui n’ont rien en commun et qui n’ont aucune relation directe. Dans le domaine littéraire ou cinématographique, et même rôliste, ces notions sont souvent confondues, considérant que l’IA dispose d’une conscience. En philosophie, c’est même parfaitement défendable (cf. Esprit et matière (5/5) – Grain de philo #2 – M. Phi)
L’Intelligence
Dans sa définition scientifique, l’IA n’est rien d’autre qu’une machine sans conscience exécutant des tâches en imitant la souplesse du raisonnement humain pour circonvenir à des problèmes pour lesquels on ne l’a pas spécifiquement programmé à la base. Un automate capable de dépasser ses capacités cognitives initiales en somme, ou plutôt, un automate dont la capacité est d’élaborer de nouvelles capacités. Si la capacité d’une machine était strictement limitée à sa programmation d’origine, son « intelligence » serait donc un fragment de celle de l’homme qui l’a conçu. On définira donc l’intelligence comme la capacité à raisonner, donc à appréhender et résoudre (ou tenter de résoudre, l’échec n’étant pas exclu de l’équation) des problèmes nouveaux.
La Conscience
La philosophie envisage la notion de conscience à travers la notion d’esprit, c’est à dire l’ensemble des éléments constituant la personnalité et le comportement des êtres dit « pensant ». Considérant que la fonction biologique de l’esprit n’est rien d’autre que le traitement d’informations d’entrée (les sensations, la perception) pour établir une réponse intellectuelle, une réaction, une action (un comportement). Cette approche s’appelle le Fonctionnalisme et même si elle ne fait pas l’unanimité, elle est suffisamment répandue pour servir d’assise à ce qui suit. Cette vision met en exergue l’idée que la conscience n’est rien d’autre qu’une fonction de l’esprit.
Au sens où la science défini la conscience, une IA n’en a pas. Au sens où la philosophie définit la conscience, c’est déjà plus discutable. La science voit la conscience comme une singularité. Son émergence au sein d’un système aussi complexe soit-il est, par nature, aussi imprévisible qu’improbable. La philosophie définit la conscience comme la perception de son existence dans son milieu.
La Simulation
Ce niveau de lecture dans notre sujet concerne la possibilité de simuler la conscience et l’intelligence dans un environnement contrôlé et fini. Cette idée suppose de pouvoir créer un environnement artificiel dont on connaît absolument toutes les règles, et d’y introduire un automate qui a la capacité de comprendre cet environnement partiellement ou en totalité, sans avoir conscience qu’il puisse exister quelque chose au-delà et donc surtout pas le fait qu’il est « observé ». La Simulation est un moyen de réaliser des expériences pour voir comment un ou plusieurs automates confrontés entre eux et à leur milieu vont interagir et évoluer. Les moyens mis en œuvre pour réaliser des simulations de plus en plus précises et complètes n’entrent pas en ligne de compte.
Si l’on dispose d’une Simulation, on dispose des moyens de la faire exister et de l’observer. Il est important de nommer cette approche et de comprendre les implications philosophiques que cela peut avoir. L’idée, aussi folle soit-elle, que nous, Humains de la Terre, soyons des simulations de conscience dans un vaste programme d’expérimentation mené par une intelligence extérieure à la simulation n’est pas totalement exclue. Il est aussi impossible de la réfuter qu’il n’est possible de la prouver (cf. Sommes-nous des simulations ? – Argument frappant #1 – M. Phi), mais curieusement, les chances que cette situation soit vraie ne sont pas aussi infinitésimales qu’on le pense. Cette notion, si elle bouleverse considérablement notre vision du monde a pour mérite de donner de nouveaux axes de réflexion à ce que peut être l’intelligence et la conscience artificielle dans un milieu donné.
Lieux communs de l’IA dans les œuvres
La littérature (la mythologie), l’art , le cinéma (la télévision) et, éventuellement, les jeux vidéo, servent assez souvent de matière première, d’illustration ou de modèle à la création rôliste. Il est fréquent et aisé de transposer une idée ou un concept de ces médias vers nos personnages et nos univers. Faisons un tour d’horizon des possibles concernant l’IA.
Les IA « non-jouées »
Ça va tomber sous le sens, mais les IA les plus faciles à jouer sont celles qui ne sont pas « à jouer ». Du reste, il y a de fortes chances qu’elles s’avèrent être les plus crédibles.
Prenons par exemple Skynet dans Terminator. Il s’agit d’une IA supposée être un ordinateur hyper-évolué, mais l’on n’apprend ce que c’est, ce qu’il est et ce qu’il accomplit que par des tiers, qu’il s’agisse de Kyle Reese dans le premier film ou le T-800 dans le second. On ne voit pas Skynet, il n’y a aucune interaction directe avec lui tout au long du récit. De fait, il n’y a aucun moyen de savoir ce qu’il sait, ce qu’il pense, quelle stratégie il élabore, comment il va agir, etc.. Pire encore, il n’est pas possible de négocier avec lui, car il n’est pas possible de s’adresser à lui.
Skynet est l’exemple type d’une IA « non-jouée ». Il n’y a aucun effort de description ou de personnalité à faire. Elle agit par des intermédiaires dont les actions individuelles ne permettent pas de comprendre son plan d’ensemble. On ne sait pas davantage quand on la met en échec, même si l’on élimine l’un de ses agents, ou quand on favorise ses projets. Elle peut-être immensément avancée et performante, avoir 40 coups d’avances sur n’importe quel adversaire, rester intouchable et inattaquable, personne ne peut le savoir de toute façon.
Bien sûr, si cette IA est un antagoniste, c’est une cible et, en tant que telle, elle a sans doute les moyens de connaître les menaces qui pèsent sur elle ainsi que de les contrer. Mais quelles que soient ses capacités en sait-elle suffisamment pour se prémunir contre tout ? Si une telle IA doit être arrêtée, il faut qu’elle ait une faiblesse et, très important, qu’elle n’en ait pas conscience. Tout le jeu du chat et de la souris vis-à-vis de ce type d’antagoniste est de faire en sorte de ne jamais laisser l’opportunité à une telle IA de comprendre toutes ses faiblesses, donc, de masquer le plus possible ses actions afin qu’elle n’interprète pas la stratégie qu’on lui oppose comme un élément lui permettant de comprendre la faiblesse qu’on vise.
Jouer une telle IA c’est un peu comme se mettre à la place d’un joueur d’échec et déplacer ses pièces sur l’échiquier. L’IA en elle-même n’est pas directement opposable aux pions de l’adversaire dont les PJ font partie. Ce genre d’IA est, tel un dieu manipulateur, une chose non définissable. Elle peut avoir une existence concrète pour les protagonistes de l’histoire (comme Skynet) ou n’avoir aucune existence pour eux, agissant dans l’ombre, tel un grand méchant machiavélique et manipulateur, mais avec une rigueur et une logique, avec des objectifs qui lui sont propres.
Les IA bêtes et méchantes
Dans la littérature, à la télévision et au cinéma, l’IA est souvent exploitée comme un antagoniste simpliste qu’il est souvent possible de tromper. Le parti pris est qu’il doit être possible de le vaincre, et donc, qu’il a une faiblesse telle qu’il n’en a pas conscience ou qu’il ne parviendra pas à s’en défendre. Généralement, l’IA possède d’énormes moyens (Skynet dans Terminator, le MCP dans Tron, VIKI dans I-Robot, etc.), ce qui renforce la menace qu’elle représente pour ceux qui la côtoie ou la combatte, mais malgré cela, elle reste vulnérable sur plusieurs points :
La logique
La logique fut un temps l’arme idéale pour vaincre un monstre gouverné par elle. Retourner la logique d’une IA contre elle semble être aisé lorsqu’on regarde le Capitaine Kirk le faire à plusieurs reprises. I-Robot met en évidence la faiblesse morale évidente des raisonnements logiques, lorsqu’un robot prend la décision de sauver un adulte de la noyade au lieu d’une enfant sur le simple constat d’une statistique de survie. En réalité, il est très simple de vaincre une IA par la logique, parce que même si son comportement est établi sur une base de faits et un réseau de probabilités, elle sera forcément prise au dépourvu par n’importe quel comportement irrationnel selon ses propres critères (les notions morales, le sacrifice, l’abandon, etc. lui étant généralement étrangers). Si la machine n’a, à aucun moment, appris la moindre notion sur le sens du sacrifice, elle estimera toujours que l’hypothèse de la survie entraînera obligatoirement ses adversaires à la choisir préférentiellement à toute autre issue. L’IA bête et méchante n’est donc pas apte à comprendre ça et peut être dépassée de la sorte.
L’interrupteur
À l’instar des Humains que l’isolement et la privation peuvent conduire à la mort, couper l’alimentation ou les ressources d’une IA reste encore le meilleur moyen de la mettre hors service. S’y essayer peut conduire à des situations ubuesques (priver l’IA de l’énergie du Soleil dans Matrix, conduit celle-ci à utiliser les Humains comme piles électriques) ou n’être pas suffisant (le T-800 désactivé par le T-1000 dans Terminator 2, qui trouve une voie d’alimentation secondaire dans son propre système), cela reste toutefois la cible prioritaire d’une attaque visant à la neutraliser. Les IA bêtes et méchantes n’ont pas de plan B à ce propos. Élaborer d’autres formes d’alimentations ou des plan de secours ne fait généralement pas partie de ses priorités.
Les limites
Même si cela ne semble pas forcément absurde, fixer des limites à une IA suppose qu’elle n’aura jamais l’intelligence et les moyens de les dépasser. Ce peut-être une limite à son implantation, une limite à sa croissance, une limite à la consommation des ressources dont elle a besoin, une limite à sa capacité de stockage des informations, une limite à son champ de perception, etc.. On part donc du principe que pour que ces limites existent et soient absolues, l’IA est finalement assez bête, soit pour ne pas les connaître et se précipiter, tel un bolide vers un mur, au devant d’elle, soit au contraire, n’être pas assez évoluée pour, en toute connaissance de cause, trouver un moyen d’y circonvenir. La fiction joue beaucoup sur l’idée des limites en considérant par exemple qu’une IA peut saturer ses propres réseaux cognitifs si on lui donne de quoi s’occuper (à l’exemple de Data dans Star Trek Insurrection).
La mort physique
Le fait même d’exister, dans un corps ou dans un lieu, rend possible l’éventualité d’une destruction physique du support de la conscience et de l’intelligence artificielle. C’est une thématique récurrente dans les fictions (Short Circuit, I-Robot, Terminator) de plus en plus contrecarrée par l’idée que les réseaux informatiques et les ressources d’existence des IA sont bien plus diffuse que ça (Skynet dans Terminator III ou Terminator Genisys, Transcendance, l’IA de Matrix, etc.). Le potentiel de survie d’une IA qui transcende cette limite est autrement plus élevé. Du reste, si l’auto-préservation est une directive prioritaire de son système, assurer la continuité de son existence devient un élément moteur de la vie de l’IA qui mène alors des actions en conséquence.
La reproduction
Plusieurs œuvres soulèvent la question de la reproduction des créatures artificielles. La multiplication des individus est, le plus souvent, un concept de ruche, comme l’on peut en voir dans Stargate SG-1 et ses Réplicateurs ou les Cybermen dans Doctor Who. Il conduisent à un but qui n’a rien de biologique, les Réplicateurs ayant été conçus par accident et étant bâtis sur un concept de prolifération sans réel objectif, les Cybermen n’ayant guère plus d’ambitions ne cherchant qu’à normaliser l’univers selon leurs propres paramètres et cela sans discernement aucun.
La reproduction peut cependant être mise à contribution dans un plan plus global et soucieux d’arriver à un objectif particulier, mettant des IA sous le contrôle d’autres IA, les premières devenant les outils des secondes comme VIKI et ses Robots dans I-Robot. Plus rarement survient un concept de perpétuation de l’espèce, ou la multiplicité des IA forme une société (comme cela est montré dans Matrix Révolutions, ou simplement évoqué dans Star Trek, le film), ce dernier modèle étant le plus surprenant et incongru, l’existence d’une IA en tant qu’espèce soulevant de nombreuses questions d’ordre politique, sociale et culturelle le plus souvent éludées.
Les IA subtiles et « humaine »
Cet aspect faire ressortir l’idée que les IA ont tout à gagner à être une version améliorée de l’Homme. Quand elles n’ont pas de caractéristiques anthropomorphe comme l’Homme Bicentenaire, Terminator, Sonny dans I-Robot ou Ex-Machina, elles restent singulièrement perméables à la pensée humaine (VIKI dans I-Robot, OMNIUS dans Dune, Her, Al dans 2001 l’Odyssée de l’espace, TARS dans Interstellar, etc.). Ces créatures sont conçus pour comprendre les besoins de l’homme et, par voie de conséquence, doté de la capacité intrinsèque à lui nuire.
Ces IA existent pour être le reflet philosophique de l’homme, une créature qui est une sorte de modèle vierge de soi conçu pour voir comment elle se questionne et comment elle évolue au contact des Humains. Si elle fait un effort pour leur ressembler ou s’en éloigner et si elle a conscience de son être et de sa différence. Le fait est qu’un tel reflet naît avec les mêmes doutes qu’un Humain, des doutes qui le conduisent plus rapidement que n’importe qui dans une direction extrême, soit dans l’apathie et l’incertitude, soit vers un but sous la forme d’un absolu. On peut arguer que donner à une machine les pensées d’un homme nous autorise à la considérer comme tel. C’est souvent de cette façon que les protagonistes d’une fiction en relation avec une IA subtile se fourvoient, soit en lui accordant un statut de surhomme qui en est un peu le sous-entendu (Ash dans Alien), soit en ignorant toute limite au faiblesse potentielle du sujet (Ash dans Alien, oui, encore, puisqu’il est à la fois le « meilleur » et le traître). On peut globalement dégager les profils suivant dans ce registre :
L’imitateur
On le croit humain, mais il ne l’est pas. Les dons d’imitation du T1000 dans Terminator 2 sont en cela très représentatif d’un être qui peut tout à fait se faire passer pour un humain sans la moindre once de réaction lorsqu’il assassine froidement un importun. Les débuts de l’Homme Bicentenaire sont marqués par le même genre de d’approche, mais le mimétisme est alors utilisé à des fins d’apprentissage, sa nature change par la suite. Gigolo Joe dans A.I. est un pur produit de l’imitation qui n’a pas vraiment les moyens d’être autre chose. Tout le problème de l’imitateur est de n’avoir aucune réaction humaine sincère. Elles sont toutes programmées et l’IA elle-même n’en a pas vraiment conscience.
Le faux-ami
Si on passe le stade du faux semblant, le faux-ami est celui qui parvient à se faire passer pour un humain si parfaitement que l’humain lui-même est prêt à lui faire confiance, non comme à une machine que l’on sait incapable de transcender ses limites, mais au contraire comme à un être libre de ses choix et qui choisit précisément d’établir des relations humaines avec son entourage. Ash, puis Bishop dans la saga Alien ont prouvé qu’ils n’étaient précisément pas de vrais amis, puisque leur propre sincérité ne peut outrepasser des limites indépendantes de leurs propres volonté, comme des règles d’obéissance à des supérieurs ou des besoins supérieurs comme David dans Promethéus ou Alien : Covenant, ou Ava dans Ex Machina. La faiblesse de la confiance dans le faux-ami n’est pas toujours liée au contrôle par des entités ou des programmes de plus haut niveau, mais aussi dans la croyance erronée dans le fait que sa ressemblance avec l’homme lui confère des ambitions et des besoins similaires à l’Humain ainsi qu’une réelle empathie envers ses créateurs.
La personnalité émergente ou la crise identitaire
Si la conscience et l’intelligence peuvent vraiment aller au-delà de ces limites, l’identification quasi-parfaite à l’homme est le signe de l’émergence d’une personnalité confronté aux mêmes questions existentielles que l’homme. Seront-elles identiques (l’Homme Bicentenaire, David dans A.I.) au point d’éprouver l’amour et le besoin impérieux de devenir de plus en plus humain, ou seront-elles dépassées par leur propre nature et incapables de s’intégrer en tant que véritable humain (Samantha dans Her ou Sonny dans I-Robot), animées par des besoins qui dépassent complètement du cadre de leur modèle. Ce schéma pose la problématique de la crise identitaire de l’IA qui éprouve le besoin de savoir qui elle est dans un monde où elle ne peut se comparer qu’à l’homme, un chemin de croix rempli de doutes et d’erreurs.
L’I.A. inhumaine
L’intelligence artificielle subtile n’ayant pas de modèle humain cultive une différence marquante par rapport à ses autres modèles. Elle dispose d’un but propre et mène des actions qui n’ont de sens que pour elle et pour ceux qui connaissent ses contraintes. Elle peut être gouvernée par la pure logique ou, au contraire ,éprouver des émotions et construire des sentiments qui lui sont propres. Elle n’en reste pas moins inhumaine par nature et, confrontée à l’Humain, elle est le plus souvent considérée comme un monstre tel que peut l’être OMNIUS dans Dune. Prenons V-Ger dans Star Trek le film, conçu par un peuple de machine intelligente, à la puissance de destruction phénoménale, il est dangereux pour l’humanité en raison de son mode de pensée si spécifique à une espèce qui ne comprend ni la vie éphémère des formes de vie biologique ni ce qui constitue l’essence même de la communication de ces formes de vie, puisqu’il prend des signaux d’accueil et d’invitation au dialogue pour une agression.