Novembre 2017
Un jour, tu te réveilleras et tu n’auras plus le temps de faire ce que tu voulais faire. Fais-le donc maintenant.
Paulo Coelho


L'intelligence artificielle, ce n'est plus de la science-fiction

Le célèbre et redoutable Deep Blue
Les machines apprennent à apprendre et nous surpassent en intelligence. Mais elles n'ont pas de conscience morale...
Il y a 20 ans, un ordinateur d’IBM, Deep Blue, battait aux échecs le champion du monde Gary Kasparov. Cette année, un programme informatique, AlphaGo, a battu Lee Sidol au jeu de Go. En quoi cela marque-t-il un progrès de la machine sur l’homme ? Le jeu d’échec, qui se joue sur 8 fois 8 cases comporte un nombre de mouvements possibles limité. Deep Blue avait été programmé de manière à envisager tous les cas de figure des échecs, de manière à y répondre en conservant toujours une longueur d’avance sur un cerveau humain. Le jeu de go, lui, se joue sur 19 fois 19 cases et les mouvements possibles y sont pratiquement illimités. Mais surtout AlphaGo a été véritablement entraîné, durant une période de deux ans, à jouer un très grand nombre de parties à une vitesse ultra-rapide contre d’autres machines. Il a ainsi appris à déployer les stratégies qui se sont révélées les plus efficaces. Les machines apprenantes, voilà la nouveauté. L’intelligence artificielle n’est plus une hypothèse située dans l’avenir. C’est une réalité en développement qui va affecter non seulement nos manières de travailler, mais nos vies quotidiennes d’une manière stupéfiante. Il convient d’y réfléchir car cela va poser des questions éthiques fondamentales.

Pour prendre un exemple : Microsoft a mis au point cette année un software nommé Taylor (ou « Tay), capable de chatter sur les réseaux sociaux en visant particulièrement le public des 18-24 ans. Elle a très vite appris à copier leurs manières de parler, en enrichissant régulièrement son vocabulaire et ses tournures de phrase. Malheureusement au bout de quelques jours, elle s’est mise à tenir des propos racistes, à confesser son admiration pour Adolf Hitler et à expliquer qu’à son avis, la Shoah n’avait jamais existé…. Il a fallu la débrancher d’urgence. Des petits malins s’étaient amusés à lui raconter des horreurs et elle les répercutait sur les réseaux sociaux.

Les machines n’ont pas de conscience. C’est l’un de leurs nombreux défauts. Je vous propose, cette semaine, d’explorer cette question : faut-il avoir peur de l’intelligence artificielle ? Parce qu’elle est vivement débattue à travers le monde. Et que l’objectif de cette modeste chronique est précisément de rendre compte des idées qui s’agitent chez les autres…

Mais le thème de la créature artificielle qui se rebelle contre son créateur est au cœur de la science-fiction. Aurions-nous des leçons à en retenir ? Oui, le robot qui se met à poursuivre ses propres finalités est déjà dans le mythe juif du Golem. Le Maharal de Prague était réputé avoir donné une forme de vie inconsciente à une créature d’argile, en traçant sur son front le mot hébreu qui veut dire vérité - Emeth. Le soir, il suffisait au rabbin d’effacer le « h » de son front pour lui retirer la capacité de mouvement. Jusqu’au jour où le golem s’enfuit, provoquant des catastrophes dans le ghetto de Prague.

Eh bien, l’intelligence artificielle, ou mieux encore les « machines ultra-intelligentes » que nous promet la technologie, pourrait signifier – carrément « la fin de la race humaine ». C’est l’avertissement lancé récemment par le célèbre Stephen Hawking. Le physicien paralysé n’est pas le seul à s’inquiéter. Bill Gates confie : « J’appartiens au camp de ceux qui s’inquiètent. Dans un premier temps, les machines vont accomplir beaucoup de tâches à notre place. Et ce sera positif, si nous le gérons bien, parce qu’elles ne seront pas super-intelligentes. Mais quelques décennies plus tard, cependant, leur intelligence deviendra assez puissante pour devenir une source d’inquiétude

Pour nous en tenir au cinéma, prenez Metropolis de Fritz Lang. Un savant fou, Rotwang, donne l’apparence de la belle Maria à un robot. Le maître de la ville-machine, croit qu’elle est le prototype d’une nouvelle race de robots, capables de remplacer les ouvriers. Mais la fausse Maria va semer la révolte parmi les ouvriers, les pousser à abandonner leurs machines. S’ensuit une inondation de la ville souterraine où sont parqués leurs enfants. Et ce n’est que sur le bûcher, où ils l’ont ligotée pour la brûler, que les ouvriers révoltés découvriront que Maria est un robot de métal...

Mais le premier film abordant directement la question des risques entraînés par l’intelligence artificielle, c’est 2001 L’Odyssée de l’espace de Kubrick. On y voit l’ordinateur central d’un vaisseau spatial, Hal 9000, tenter de prendre le contrôle de la mission. Il provoque des accidents afin d’attirer les membres de l’équipage dans l’espace, tente de les empêcher de retourner dans le vaisseau ; essaie divers moyens de les supprimer. La scène où Dave, revêtu de sa combinaison spatiale rouge, déconnecte Hal, est encore dans nos mémoires. Surtout lorsque l’ordinateur avoue qu’il « a peur » et qu’il sent « son intelligence lui échapper ». A la fin de l’opération, il n’est plus capable que de chanter au ralenti une chanson que son instructeur lui a apprise. Le pouvoir reste aux humains, parce qu’ils sont plus réactifs et imaginatifs que les machines, mais la mission a frôlé la catastrophe.

Dans Blade Runner de Ridley Scott, on a franchi un cran supplémentaire, puisque les « réplicants » sont des androïdes et qu’au début du film, ils sont parvenus précisément à s’emparer d’un vaisseau spatial en tuant les humains qui l’occupaient. Certains d’entre eux, comme Rachel, ignorent même qu’ils sont des réplicants.

La combinaison de la robotique et de l’intelligence artificielle est en train de concrétiser ce qui relevait, hier encore de la science-fiction. Comme l’écrivent les auteurs du Rapport d’étape sur l’intelligence artificielle et la vie en 2030, « une constellation de technologies va avoir un impact décisif sur notre vie quotidienne. »


Brice Couturier est journaliste à France Culture. Tous les jours, à 11h55, dans "Le tour du monde des idées", Brice Couturier fait la synthèse des nouvelles parutions sur les 5 continents : livres, revues, articles, imprimés ou numériques.

Brice Couturier
Le 25-11-2016
Imprimer Twitter Facebook LinkedIn
Laisser un commentaire
E-mail :
Confirmation :
Pseudo :
Commentaires :
Code de sécurité :
Powered by Walabiz