L'Intelligence Artificielle, un réel danger ?

Le plus grand danger de l’IA de nos jours est l’ignorance. Si on entend parler de l’IA de partout comme le phénomène le plus important des prochaines décennies, très peu de personnes savent en réalité ce qu’est l’IA, quels sont ses enjeux, quelle est sa portée et surtout comment l’appréhender pour en tirer le plus grand bénéfice.

Les dirigeants des plus grandes entreprises se retrouvent démunis face à l’arrivée imminente sur le marché de techniques d’IA de plus en plus développées et ne savent pas quelles mesures prendre. C’est encore plus le cas sur un marché comme la France sur lequel les grandes entreprises sont connues pour avoir une résistance au changement très élevée. Aux États-Unis cependant les entreprises en sont à un stade plus avancé car elles sont notamment influencées par les géants du numérique, les GAFA (Google, Amazon, Facebook et Apple) et plus récemment par les NATU (Netflix, Airbnb, Tesla et Uber) qui règnent sur le marché mondial et qui ont déjà largement intégré l’IA au cœur de leurs stratégies.

L’IA est perçue comme un danger car c’est une science vaste dont il est difficile de prédire quelles peuvent être les conséquences. En général, lorsque que nous évoquons l’IA la représentation visuelle qui nous vient à l’esprit est celle d’Hollywood peinte au travers des œuvres de science-fiction. Des robots de Isaac Asimov à ceux de 2001 L’Odyssée de l’Espace de Stanley Kubrick, on aurait tendance à avoir une vision plutôt négative du phénomène notamment lorsque que l’on a un aperçu de ce que cela pourrait donner dans des films comme Matrix où les robots prennent possession de la Terre et plongent les humains dans une simulation appelée la Matrice.

Il est humain et naturel d’avoir peur de l’inconnu, c’est un réflexe d’auto-préservation. La méfiance que nous avons envers l’IA est celle qu’ont deux animaux d’espèce différente mais de force égale lorsqu’il se rencontre et se jaugent pour savoir s’il est plus dans son intérêt d’attaquer ou de déguerpir.

Avec les tentatives d’humanisation du moins visuelle des robots de nos jours, on serait presque tentés de croire que les robots peuvent être nos égaux.

C’est le cas avec le robot Sophia qui a été mis au point par Hanson Robotics. Ce robot est capable de tenir une conversation en répondant aux questions et en donnant le change de manière naturelle et parfois humoristique. Sophia peut reproduire les gestes humains et les expressions faciales. Elle est capable de d’améliorer ses futures réponses grâce à l’analyse de ses conversations.

Bien que Sophia soit capable de reproduire de façon très réaliste un comportement humain, les limites entre l’IA et l’Homme sont encore définies car il est évident que Sophia reste une machine et que ses réponses et la compréhension de l’échange reste limitée.

Cependant, d’autres phénomènes portent à croire qu’un réel danger existe. Ce fut le cas en 2017 lorsque le laboratoire sur l’intelligence artificielle de Facebook a désactivé deux robots après que ces derniers aient eu une conversation qui n’avait pas de sens mais qu’ils arrivaient quand même à comprendre.

En effet, les robots devaient partager des objets comme des ballons, des livres ou des chapeaux ont commencé à utiliser un anglais incorrect mais arrivaient quand même à obtenir ce dont ils avaient besoin. Ils ont en quelques sorte créé leur propre langage qui ne faisait pas de sens pour les humains comme lorsque nous utilisons des abréviations. Les robots ont été désactivés par la suite non pas parce qu’ils représentent un danger pour l’Homme mais parce que l’objectif de l’étude n’a pas été atteint.

Ce qui gêne le plus les humains dans ce genre de situation et en général avec l’IA est que nous ne connaissons pas les limites et les capacités de l’IA et très peu de personnes sur cette planète sont capables de maîtriser son développement.

L’Homme ressent qu’il est en train de développer une intelligence qui est non seulement potentiellement supérieure à la sienne mais qui peut surtout être indépendante et grandir au-delà des limites qui lui sont fixées. L’Homme est en train de créer son supérieur.

Si nous poussons un peu certaines hypothèses, le constat peut en effet être effrayant.

Par exemple, supposons que l’IA puisse développer sa propre conscience atteindre un stade avancé de conscience que l’Homme n’atteindra jamais (comme la possession à 100% de ses capacités cérébrales). Dans ce cas, elle arriverait à des stades de pensées et d’émotions qui dépasseraient tout ce que nous n’avons jamais imaginé. Ses émotions nécessiteraient l’extension voire l’invention d’un nouveau langage car notre langage serait alors trop restreint pour décrire alors ce qu’elle ressentirait. Car finalement, notre langage est limité à ce que nous connaissons, expérimentons avec nos sens ces expériences qui nous sont propres sont très limitées. C’est dans ce sens que s’il arrivait que les animaux puissent communiquer dans notre langage, il ne décrirait pas leurs sensations de la même manière. Ils auraient même certainement besoin d’inventer un nouveau langage pour décrire ce qu’ils ressentent bien que leurs besoins primaires soient similaires aux notre (manger, boire, dormir, …).

L’IA pourrait donc créer un langage qu’il nous serait impossible d’apprendre et de comprendre et ainsi gagner en pouvoir sur l’Homme.

L’IA pourrait également créer à son tour une ou plusieurs nouvelles formes d’intelligences supérieures à l’Homme et à elle-même et nous serions donc réduits à une forme largement inférieure d’intelligence ou même à un état d’esclavage. Ces formes d’intelligences nous traiteraient donc comme nous traitons à ce jour les animaux, en les considérant comme des êtres inférieurs.

Ou l’Homme pourrait réussir à intégrer l’IA à son système cérébral et se transformer lui aussi en forme d’intelligence nettement supérieures. Mais dans ce cas les capacités physiques de l’Homme seraient un frein à l’expansion de sa conscience. Il serait donc possible de dématérialiser la conscience humaine. Toute limite physique n’existerait donc plus. Les notions d’espace-temps qui servent de mesure de base aujourd’hui pour comprendre l’étendue de l’Univers se serait plus d’actualités. Nous pourrions être de partout à n’importe quel moment.

Bien évidemment, tout ça n’est que suppositions inspirées pour la plupart des dérives Hollywoodiennes mais malgré le stade peu avancé des connaissances et outils que nous avons aujourd’hui, des avancées majeures sont déjà recensées notamment au niveau de la médecine.

Par exemple, il est d’ores et déjà possible de contrôler des objets avec la pensée. Des personnes paralysées peuvent contrôler des membres bioniques par la pensée, il est possible de contrôler à distances des appareils électroniques dans notre maison grâce à des casques qui lisent les pensées. Si ces avancées sont encore mineures, on peut penser qu’un champ des possibilités beaucoup plus important est amené à se développer ces prochaines années grâce à l’évolution exponentielle des techniques d’intelligence artificielle.

Ce qui entraîne une méfiance et une crainte vis-à-vis de l’intelligence artificielle, c’est que l’histoire a démontré que ce qui est généralement considéré comme impossible tend à se réaliser quelques décennies plus tard. Ce fut notamment le cas aux préludes de l’IA qui a rencontré à ses début une forte opposition ou du moins peu d’engouement face au caractère futuriste et impossible du phénomène. Mais ce qui paraissait impossible il y a seulement 60 ans est aujourd’hui non seulement réel mais a également dépassé les limites de l’imagination. La courbe des avancées dans ce domaine étant exponentielle, il est difficile d’avoir une idée de ce qui existera demain et encore moins dans 10, 50 ou 100 ans.

Aujourd’hui, il est presque tabou de penser à des phénomènes tels que l’immortalité, ou la possibilité de dématérialiser le contenu de notre cerveau et ainsi perpétuer la vie sous une forme différente. Ce sont cependant des sujets bien réels sur lesquels des scientifiques mènent des recherches. C’est le cas des équipes dirigées par Kevin Makram, le directeur du Human Brain Project à Genève qui a reçu de la part de l’Union Européenne une subvention d’un milliard d’euros pour mener des travaux sur l’uploading du cerveau humain et sur l’immortalité.

Le fait de rendre possible l’éventualité d’une chose que l’on pensait impossible est ce qui perturbe le plus et tire une sonnette d’alarme dans l’esprit des Hommes. Nous vivons dans une société dont un des piliers majeurs reste la religion qui est encore à la base de conflits et qui est au cœur des problématiques des politiques et des dirigeants. Et voilà que des scientifiques travaillent sur des sujets qui placeraient l’Homme au rang de Dieu. Cela créé un décalage dont les enjeux dépassent de loin les frontières du monde de l’entreprise et même du système capitaliste.

Ces inquiétudes sont renforcées par les industries du divertissement comme Netflix et la création du phénomène Black Mirror.

Black Mirror est une série composée d’épisodes tous indépendants les uns des autres mais qui ont pour point commun de dépeindre les dérives des nouvelles technologies dans un futur proche et qui amène souvent à une réflexion plutôt consternante des spectateurs. Ce qui est le plus préoccupant est le fait que la plupart des phénomènes qui se déroulent sont d’un réalisme inquiétant. Alors que le spectateur se sent en sécurité derrière son écran et est soulagé de retourner à la réalité, il se rend également compte que dans un futur pas si éloigné, certains de ces phénomènes pourraient parfaitement voir le jour.

Pour certains phénomènes, c’est déjà le cas. Voici certains exemples de technologies présentes dans les épisodes et qui sont déjà devenues réalité :

- Le système de notation à l’échelle humaine : dans l’épisode, une jeune femme vit dans une société régie par un système de notation que les habitants s’attribuent entre eux. La notation de chacun détermine dans quels lieux ils peuvent aller, quelles méthodes de transports ils peuvent utiliser, … et plus la note sociale est élevée, plus les habitants bénéficient de privilèges.

Ce système de notation est une réalité. En Chine, il a été mis en place depuis 2014 dans certaines grandes villes du Pays mais va tendre à se généraliser dans tout le pays. Il pénalise les citoyens qui n’ont pas un bon comportement (oubli de paiement d’amende ou qui sont en situation de découvert sur leurs comptes en banque). En 2019, plus de 17 millions de billets d’avions et 6 millions de billets de train n’ont pas été délivrés suite à la décision des tribunaux chinois.

- Le chatbot avec les morts : dans un des épisodes, une femme qui a perdu son mari est capable de converser avec lui grâce à un chatbot qui a analysé toutes leurs conversations et qui est capable de lui répondre exactement comme son mari l’aurait fait s’il avait été vivant en utilisant ses expressions et son sens de l’humour. Elle peut même commander un robot aux caractéristiques physiques similaires à son mari.

En 2018, la société Eternime a annoncé vouloir créer une application qui permettrait de communiquer avec ses proches après leur mort grâce à la collecte d’information sur elles de leur vivant et en 2019, une société japonaise a mis au point le projet Digital Shaman qui propose de remplacer un être disparu en imprimant son visage en 3D sur un robot.

- Les robots chiens et abeille : dans des épisodes, des robots abeilles sont piratés et programmés pour tuer et des robots chiens sont créés pour affronter des humains dans un monde post-apocalyptique.

En 2015, une célèbre enseigne de distribution américaine a déposé le brevet d’abeilles robotiques autonomes destinés à reproduire leur comportement naturel. La firme Boston Dynamics a développé SpotMini, un prototype de robot à quatre pattes d’ouvrir et de fermer des portes.

On peut retrouver d’autres technologies qui ont déjà vu le jour mais faut-il encore savoir faire la part des choses. Elles sont poussées à des situations extrêmes dans la série car le but est d’attirer une audience la plus importante possible et c’est d’ailleurs un succès. Cependant, ces technologies sont en réalité mises en place dans le but d’améliorer la vie des hommes et non de les exterminer.

Bien que les films et séries ne soient pas un reflet déformé de la réalité, ils font cependant prendre conscience aux gens de la vitesse nous avançons vers l’inconnu et qu’il est impossible de freiner car personne ne sait où sont les freins.

En effet, les experts le sont que sur certains aspects comme le Big Data, les nanotechnologies, … mais personnes n’est expert en tout.

Il est donc impossible de prédire quelle sera l’avenir de l’économie et du système mondial ne serait-ce que dans 10 ans.

La meilleure de façon de savoir est de se préparer au fait qu’on ne pourra rien y faire et que nous le voulions ou non, ça va bien finir par arriver.

Sources :

Matrix. 1999. [Film] Réalisé par Lana et Lilly Wachowski. s.l.: s.n.

2001 L'Odyssée de l'Espace. 1968. [Film] Réalisé par Stanley Kubrick. s.l.: s.n.

Asimov, I., 1942 . Le Cycle de Fondation. s.l.:s.n.

Black Mirror. 2011. [Film] Réalisé par Charlie Brooker. Etats-Unis : s.n.

HER. 2014. [Film] Réalisé par Spike Jonz. Etats-Unis : s.n.