Octobre 2017
Un jour, tu te réveilleras et tu n’auras plus le temps de faire ce que tu voulais faire. Fais-le donc maintenant.
Paulo Coelho


Demain, l'hybridation hommes / machines...

Cessons d’opposer l’intelligence humaine à celle des machines : selon l’un des directeurs de Google, nous allons les conjuguer en branchant notre cerveau directement au « cloud ». Quelle forme de pensée en résultera ?

On croit avoir une longueur d’avance sur l’actualité et on s’aperçoit que le monde des idées court vite… Je vous parle des problèmes éthiques posés par les développements actuels et surtout prévisibles de l’intelligence artificielle. Et je viens de découvrir que s’est tenu, il y a juste quelques semaines aux Etats-Unis, un colloque entier consacré à cette question. Les invitations étaient lancées à l’initiative de deux des départements de pointe de cette institution, le Center for Mind, Brain and Consciousness (le centre d’étude de l’esprit, du cerveau et de la conscience – il n’y a que les Américains pour ouvrir des centres de recherche aux intitulés aussi baroques) – et le Centre de bioéthique. Mais on peut trouver révélateur que ce soient des spécialistes du cerveau (humain) et des technologies du vivant qui réfléchissent sur les implications morales de l’usage que nous faisons – et que nous nous apprêtons à faire – des outils numériques. Car, précisément, ce que l’avenir pourrait bien nous apporter, c’est une hybridation de notre manière de traiter les problèmes. Je vais y revenir.

Les organisateurs avaient soumis aux personnalités invitées les questions suivantes : quels principes éthiques doivent guider les chercheurs dans le domaine de l’intelligence artificielle ? Y a-t-il des restrictions à observer et lesquelles ? Quels sont les meilleurs moyens d’aligner les créations en intelligence artificielle sur les valeurs humaines ? (C’est déjà plus précis : on voit qu’elles peuvent diverger…) Est-il possible ou désirable de créer des principes moraux spécialement conçus pour les systèmes d’intelligence artificielle ? (Voilà qu’on réclame un Kant pour les robots… ) Autres questions : Quand un tel système cause des dommages ou procure des bénéfices, qui est moralement responsable ? Doit-on avoir des égards d’ordre moral envers les intelligences artificielles ?

Les actes du colloque ne sont pas encore disponibles et je le regrette, car les réponses à ces questions sont urgentes. Encore une fois, gare au syndrome de l’apprenti sorcier ! Même si la « singularité technologique » n’est pas imminente, il est difficile de nier qu’à un moment, le développement des machines intelligentes va les rendre plus intelligentes que leurs créateurs humains. Et, encore une fois, il est très difficile de prévoir les conséquences d’un tel évènement pour notre histoire.

Participaient au colloque plusieurs chercheurs comme Nick Bostrom ou Stuart Russell, mais c’est d’un autre théoricien dont je voudrais vous parler, parce qu’il propose une solution originale à cette espèce de course de vitesse engagée désormais entre nos capacités intellectuelles et celles des machines, toujours plus intelligentes, que nous créons : l’hybridation.

Ray Kurzweil, c’est de lui qu’il s’agit, n’est pas un rêveur. Ingénieur en informatique, il a prédit, dans les années 90 du XX° siècle, que les ordinateurs seraient mobiles au XXI° et qu’aux alentours de 2020, on roulerait dans des voitures autoconduites. Pas mal ! Sur le plan professionnel, il est le directeur technique de Google. En tant que penseur, il est l’auteur de livres qui ont connu un fort retentissement, comme L’Âge des machines spirituelles et un autre consacré à la fameuse Singularité technologique. Dans le plus récent, intitulé «Comment créer un esprit : le secret révélé de la pensée humaine », il estime que raisonner en opposant l’esprit humain et celui des ordinateurs est dépassé. Car dans l’avenir, l’homme et la machine ne seront plus des entités séparées.

Kurzweil n’est pas le premier à relever des similitudes entre la manière dont nous pensons et celle dont fonctionnent les ordinateurs équipés de software. Notre cerveau comporte, comme nos ordinateurs, une architecture de modules, regroupés de manière hiérarchisée. Ces modules sont capables d’apprendre à effectuer des opérations de pensée, ou de les déduire de nos observations. Nous les mobilisons en fonction de la complexité des défis qui nous sont lancés.

D’ores et déjà, Kurzweil et les gens de Google ont mis au point des outils qui vont faire ne nos moteurs des « participants actifs de nos vies », selon son expression. Jusqu’à présent, ils ont été conçus afin d’interpréter nos requêtes et de chercher ce qui leur correspond sur une base d’informations indexées. À présent, ils vont nous expliquer pourquoi, en fonction de ce que nous sommes, nous pourrions trouver un intérêt à quelque chose auquel nous n’avons pas encore songé ou dont nous ignorons l’existence.

Et, à ses yeux, c’est un premier pas vers cette « pensée hybride » dont il estime la réalisation pour la fin des années 2030. À ce moment, nos cerveaux pourront être connectés directement aux ressources d’internet via le « cloud » par des puces implantées. Nous serons des humains « augmentés » par l’implantation de relais. Progressivement, prévoit Kurzweil, la partie « non biologique » de notre cerveau finira par comprendre – et donc par dominer – l’autre. Nous serons alors devenus des hybrides hommes-machines. Et la séparation entre intelligence humaine et intelligence artificielle cessera d’être pertinente. Notre pensée elle-même sera devenue une pensée hybride.


Brice Couturier est journaliste à France Culture. Tous les jours, à 11h55, dans "Le tour du monde des idées", Brice Couturier fait la synthèse des nouvelles parutions sur les 5 continents : livres, revues, articles, imprimés ou numériques.


Brice Couturier
Le 16-12-2016
Imprimer Twitter Facebook LinkedIn
Laisser un commentaire
E-mail :
Confirmation :
Pseudo :
Commentaires :
Code de sécurité :
Powered by Walabiz