Un neurobiologiste, un médecin et théologien, ainsi qu’un philosophe discutent des nouvelles frontières de l’intelligence. L’humanité va devoir cohabiter avec des machines de plus en plus performantes et capables de remplacer les humains
Le Temps: Machines intelligentes, cyborgs, clones, robots, systèmes experts sophistiqués, humanité augmentée: quels sont aujourd’hui les enjeux pour nous, simples mortels, d’une telle cohabitation?
Jean-Michel Besnier (J.-M. B.): Selon les paléontologues, l’hominisation est le produit de l’outil et de la parole. Toute l’histoire de l’organisation humaine est une somme d’allers et retours entre ces deux éléments. Or les technologies d’aujourd’hui prétendent en finir avec la parole: le langage est binarisé, le symbole n’est plus que mathématique. Il faut lutter contre cette vision du monde. Le véritable enjeu éthique aujourd’hui est d’éviter à l’homme de se sentir remplaçable. Or toutes les technologies que nous mettons en place visent à nous rendre remplaçables. C’est là le caractère foncièrement immoral de la technologie. Elle n’est pas neutre et prétend toujours nous remplacer. Dans cette optique, je récuse toute idée de faire de l’homme un hybride post-humain à la manière de Ray Kurzweil et de son utopie Humanité 2.0 qui rendrait précisément l’humanité superflue.
Pierre Magistretti (P. M.): Comme vous dites, il faut mettre en valeur le caractère irremplaçable de l’homme, cultiver ses aspects non quantitatifs.
Bertrand Kiefer (B. K.): L’enjeu est la perpétuation du sujet humain.
– Mais l’humanité n’est-elle pas à l’aube d’une nouvelle ère qui verrait, par la convergence des nanotechnologies, des biotechnologies, des technologies de l’information et des sciences cognitives, l’émergence d’un savoir des machines, des robots, des systèmes experts et des hybrides qui nous dépassera et nous fera déchoir de notre rang?
P. M.: Il est clair qu’on arrivera avec le temps à produire des intelligences artificielles aptes à mimer nos fonctions cognitives. Notamment celles que l’on désigne généralement sous les noms de «créativité», d’«intuition» et d’«intelligence émotionnelle». Mais je ne suis pas sûr du tout que l’hypothèse d’une déchéance se matérialise. Quant à la survenue d’une émergence, le chercheur est avide de surprises. Toutefois, de mon point de vue de neurobiologiste, je n’ai pas l’impression que cela arrivera bientôt. Aujourd’hui, les systèmes qui simplifient les activités, qui traitent des quantités d’informations importantes simultanément, ne sont pas aussi intelligents qu’on le dit. La performance est strictement quantitative. Or rien n’émerge du côté du quantitatif. Laissons-nous donc surprendre, en ayant en tête que la surprise risque de prendre son temps. Et surtout, il faut conserver ce point de mire – ce mirage qui pourrait un jour devenir réalité – car il est le moteur de toute la recherche scientifique.
– Que manque-t-il pour que l’émergence survienne?
P. M.: Cela requiert d’abord une puissance de calcul nécessitant une gigantesque consommation d’énergie. Notre cerveau sait très bien économiser l’énergie: nos performances intellectuelles nous coûtent 20 watts. Face aux ordinateurs, nous sommes encore imbattables sur ce plan! Il faut ensuite pallier l’absence de corps: nos actions sont en lien avec notre corps. Cela peut sembler étrange, mais, pour créer de l’intelligence supérieure, on ne peut pas miser uniquement sur les performances d’un ordinateur, même si à terme il n’est pas impossible de reproduire les stimulations d’un corps artificiel.
J.-M. B.: Je vous imaginais plus audacieux! L’intelligence artificielle est par définition non biologique, elle devrait donc pouvoir faire l’impasse sur le corps, ou du moins en reproduire une simulation. Quoi qu’il en soit, l’intelligence artificielle (IA) implique le discrédit de l’intelligence humaine. On y vise l’augmentation des capacités de calcul, des gains quantitatifs. Dans cette optique, notre conception de l’intelligence s’est, en un siècle, considérablement appauvrie. L’IA se fonde sur une définition minimale de l’intelligence: lorsqu’on a décidé de la réduire à une boîte noire, lançant des outputs et réagissant à des inputs, quand on a décidé de se borner à observer des comportements, on a désubstantialisé l’intelligence, qui se retrouve ainsi placée sur le même plan que l’animal ou la machine. En résumé, l’intelligence ne se mesure plus qu’à l’aune de l’efficacité. L’intelligence discursive, émotionnelle, celle qu’autrefois on opposait à l’instinct est mise sous le boisseau. Ainsi il y a une part d’imposture dans le discours des technologues qui nous font miroiter une intelligence dans laquelle on ne reconnaîtra de l’humain que l’élémentaire, que l’instinctuel. Au fond les technologies dites souhaitables simplifient l’humain au maximum et lui font perdre sa spécificité.
B. K.: Comme Jean-Michel Besnier, je trouve aussi dommage que les neurobiologistes ne tiennent pas assez compte des particularités de notre intelligence: notre rapport à la mort, à la finitude, mais aussi nos erreurs et notre révolte devant nos erreurs. Et il n’y a pas que cela: l’intelligence collective joue aussi un rôle, l’autoconstruction du cerveau… Et puis l’intelligence, c’est aussi la curiosité: regardez comme nous cherchons à modifier la nature au risque de notre disparition: c’est plus fort que nous, nous sommes comme les premiers explorateurs lancés en mer sans savoir s’ils reviendraient! Ce sont là des critères, parmi d’autres, qui pourraient servir à définir ce qu’il faut préserver chez les humains.
P. M.: Je ne dis pas le contraire! Mais l’idée reste fascinante de faire interagir plusieurs formes d’intelligences artificielles et de produire de l’inattendu.
– Pourra-t-on, comme en rêve Raymond Kurzweil, l’auteur d’«Humanité 2.0», télécharger son cerveau sur un disque dur, et trouver, par le biais des avancées technologiques, des moyens de ne plus être malades, de ne plus vieillir, de nous dépasser?
J.-M. B.: Mais Kurzweil n’aime pas l’humanité, il veut s’en débarrasser! Comme nombre de représentants des high-tech aujourd’hui, qui souhaitent abolir le hasard de la naissance, disposer des neurosciences pour ne plus souffrir et des nanosciences pour ne plus vieillir. Et qui souhaitent enfin graver le cerveau sur des puces de silicium pour se soustraire à la mort.
B. K.: Oter la souffrance, l’agressivité par exemple, est un fantasme des neuroscientifiques. Ils oublient d’autres aspects importants pour nous: donner un sens à la vie, avec sa double dimension d’imperfection et de finitude. Nous aimons la diversité, c’est ce qui nous permet de créer des relations. Tout cela, Kurzweil a du mal à le comprendre.
P. M.: Pour répondre à la question de l’uploading, je dirais qu’il y aura des surprises. Prenons le projet «Human Brain Project» de l’EPFL (lire en p. 6), qui repose sur deux approches. La première: mieux comprendre la biologie par la modélisation. Le but est de créer des circuits mimant l’activité du cerveau. En comparant les propriétés du modèle, on pourra mieux saisir son fonctionnement. Par ailleurs, on créera une immense banque de données de nos connaissances en neurosciences, qui pourront notamment être utiles aux maladies neuropsychiatriques. La deuxième approche: si l’on arrive à modéliser des circuits, on parviendra peut-être à générer un nouveau type d’ordinateur, capable d’être plus intelligent que ceux d’aujourd’hui. De là à dire qu’on fabriquera un cerveau conscient, cela fait partie de ce point de mire que j’évoquais tout à l’heure.
– Jean-Michel Besnier, vous regrettez que l’on ait réduit la richesse et la profondeur de la définition de l’intelligence humaine pour la rendre plus compatible avec les paramètres de l’intelligence artificielle. Dans la même optique, pensez-vous que l’homme va changer sous l’impulsion des machines intelligentes?
J.-M. B.: C’est déjà le cas avec certains adolescents mordus d’Internet: on constate chez eux des déficits d’attention du fait de l’accumulation d’activités, mais aussi des comportements synaptiques nouveaux adaptés à leur type de comportement. On observe donc chez eux un phénomène d’épigénèse, qui produit un cerveau adapté aux machines qui les entourent. En d’autres termes, les technologies modifient les pressions sélectives à l’intérieur du cerveau et produisent des comportements neurobiologiques nouveaux. En retour, le cerveau réintervient sur les machines, dans un mécanisme de coévolution. En ce sens, l’élément de surprise peut très bien advenir de ce mécanisme de coévolution! Les esprits grincheux regretteront la perte du cerveau tel qu’il a été façonné par les générations passées. Mais on peut voir cette transformation comme le prix à payer pour la survie de l’espèce humaine: il lui faudra évoluer dans un espace de pression sélective nouveau.
– L’homme va-t-il changer sous l’impulsion des machines? Qu’en pense le neurobiologiste?
P. M.: A étudier notre cerveau, une chose frappe: il passe beaucoup de temps online, sans cesse interpellé par des stimuli cognitifs, auditifs, visuels. En soi, ce n’est pas une mauvaise chose. Or récemment l’imagerie cérébrale a montré qu’il existe aussi un mode de fonctionnement offline («Default Mode Network», ou mode de fonctionnement par défaut). En résumé, le fait de ne rien faire, de «faire le vide» active d’autres régions du cerveau, qui redeviennent inactives quand le cerveau est stimulé. Cette découverte intéresse beaucoup les neurobiologistes. Ce qui est sûr, c’est que ce réseau cérébral passif sera, dans le monde tel que nous le connaissons aujourd’hui, toujours moins activé. La question est alors: ce réseau cérébral passif, ce mode de fonctionnement offline sert-il à quelque chose? Sans doute à faire du post-processing, du «rangement» de l’information. Notre cerveau a donc besoin de ce repos actif, différent du sommeil. Peut-être est-il aussi utile de ne penser à rien.
– Va-t-on vers un Homo sapiens hyperstimulé, ce qui changerait la définition de notre espèce?
B. K.: Certainement. La conception anthropologique de notre espèce est en train de changer, ou du moins certaines catégories sous-jacentes. Voyez la médecine: il y a cent ans, la santé se définissait comme «la vie dans le silence des organes». Aujourd’hui notre corps est scruté par une multitude de capteurs, par l’imagerie médicale: plus personne n’est en bonne santé car chaque corps recèle des prémices de maladies, des risques. Par ailleurs, une prothèse n’est pas une pièce apportée au tout: elle change le tout. C’est ainsi que fonctionne le métabolisme de l’être humain. Je me dis que si un jour une machine doit réussir le test de Turing (imiter une conversation humaine au point qu’elle puisse être confondue avec un être humain), ce n’est pas forcément parce que la machine aura tant progressé que parce que l’homme se sera fait influencer dans ses catégories au point de ne pas la reconnaître.
J.-M. B.: C’est le rêve de fusion entre l’homme et la machine dont parlent les post-humanistes…
B. K.: Je ne sais pas s’il faut en rêver!
– L’homme ne court-il pas le risque d’être de moins en moins adapté et au final malheureux? Va-t-il se révolter contre une machine qui, en quelque sorte, a toujours raison?
J.-M. B.: C’est ce que Günther Anders décrivait comme la «honte prométhéenne d’être soi de l’homme contemporain». Nous ne sommes plus à la hauteur de nos machines depuis longtemps. Depuis un siècle, la biologie tente d’améliorer l’homme pour qu’il soit à la hauteur. Les machines sont de plus en plus performantes, rapides, inoxydables, ce que nous ne serons jamais. Que faire dès lors? Se mettre en compétition, lutter, muter? Ou alors établir une coexistence pacifique? Cette seconde piste est intéressante car nous pourrions conserver notre spécificité. Le champion d’échecs Garry Kasparov avait raisonné en termes similaires: j’ai perdu et je perdrai toujours, disait-il (à propos de sa défaite aux échecs contre un ordinateur). Il a ainsi tenté de coupler un ordinateur avec un joueur d’échecs. Mais il s’est aperçu que cette co-intervention produisait un joueur médiocre. C’est pourquoi il vaut mieux ne pas fusionner les deux. A mon sens, la question de la coexistence est la question éthique essentielle.
P. M.: On peut modifier l’humain de façon étonnante par des implants, qui peuvent traiter des dépressions en stimulant des régions profondes du cerveau. Cela soulève des questions éthiques, bien sûr. Mais il faut savoir qu’on ira toujours plus loin: des implants plus subtils pourront s’intégrer au réseau neuronal en place. Cela pourrait avoir des conséquences importantes sur l’homme. On peut imaginer une interface, une cohabitation entre l’homme et la machine dans le cerveau. Il est probable d’ailleurs que cette présence réorganise le réseau neuronal. Et puis pourquoi ne pas franchir un autre cap en imaginant des microprocesseurs intégrés? Ce n’est pas de la science-fiction. Il faut voir cela comme une avancée dans l’évolution biomédicale.
– Quand les robots seront omniprésents dans notre vie quotidienne, devra-t-on se protéger des machines, afin qu’elles ne nous tuent pas ni ne nous blessent? Faudra-t-il introduire en eux un code juridique? Et, à l’inverse, deviendra-t-on juridiquement responsable de leur intégrité?
B. K.: C’est possible. Nous humains devrions nous pencher sur nos rapports avec les machines et imposer une culture à cette évolution.
J.-M. B.: Que l’on mette en Å“uvre les lois de la robotique inventées par Isaac Asimov («Première loi: un robot ne peut ni porter atteinte à un être humain, ni rester passif devant un être humain exposé à un danger. Deuxième loi: un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi. Troisième loi: un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la première ou la deuxième loi») ne m’étonnerait pas. Car on demande à ces machines non seulement d’être intelligentes mais aussi de simuler de l’empathie, grâce à des dispositifs leur permettant et de reconnaître les émotions des humains et d’en produire elles-mêmes. La simulation peut aller si loin qu’il y a lieu de croire que nous projetterons de plus en plus d’émotions sur les robots. Dans ce contexte de frontières toujours plus floues entre l’homme et la machine, qui nous empêchera de croire qu’un robot éprouve réellement des émotions? Prenez ainsi ces soldats américains en Irak qui décrivaient leur attachement presque viscéral aux robots qu’ils utilisaient: ils étaient peinés quand leurs robots étaient «blessés», exigeant qu’on les répare sans en changer. Quelque chose s’est produit dans les mentalités. Le conditionnement technologique va changer nos comportements cognitifs. Quoi qu’il en soit, il est utile de réfléchir à une éthique des robots, c’est-à-dire de les munir de bons capteurs de distinction entre le bien et le mal, entre l’ami et l’ennemi. C’est une question de dressage, comme pour un chien.
P. M.: Nous nous dirigeons certainement vers un anthropomorphisme, en ce qui concerne les machines. Il faudra leur injecter la connaissance, la capacité d’éprouver certaines émotions. Quant à la déontologie du robot, c’est une question qu’il faudra se poser immanquablement. A propos de l’émotion, on peut conditionner les machines, leur faire apprendre certaines réponses émotionnelles suivant une situation donnée.
B. K.: Mais quelles émotions aurait un robot qui ne connaît pas la finitude, qui ignore tout de la mort et de la souffrance?
P. M.: Attendez! On peut imaginer un robot éprouvant de la compassion s’il voit le niveau cardiaque de son maître baisser, avec une tension artérielle de 40 sur 80, une température en hausse… Ça, c’est possible.
– Tant qu’à faire, ne faudra-t-il pas concevoir aussi des robots imparfaits?
J.-M. B.: L’homme est constitutivement un raté, c’est-à-dire un être inachevé et dépendant. Il n’est donc pas exclu de concevoir un robot mimétique qui se concevrait comme raté.
P. M.: Ce qui est sûr, c’est que pour simuler l’homme, il faut intégrer au robot la notion du ratage.
– Aujourd’hui déjà, les avions sont pilotés en grande partie automatiquement, les centrales nucléaires sont si complexes qu’elles sont inconcevables sans systèmes experts: que faut-il penser de cet abandon de notre souveraineté face à ces réseaux de machines toujours plus sophistiqués?
J.-M. B.: Il est désolant de voir que nous faisons davantage confiance aux automatismes qu’à la réflexion ou la délibération. On a le sentiment que l’humanité s’est dépossédée de ses initiatives, alors même que son idéal historique a été de se prendre en charge. Ce rêve d’autonomie a été délégué aux machines. Nous sommes forcés d’admettre que nous ne sommes plus aux commandes. Il est toujours possible de poétiser la chose en vantant l’intelligence collective, c’est-à-dire se pâmer du fait que nous fonctionnons comme une fourmilière. Ceux qui tiennent ce discours me ramènent au constat désastreux d’une humanité lassée de ce qu’elle est.
B. K.: Nous n’avons pas assez conscience de notre troublante intimité avec la machine. L’utopie scientifique masque les responsabilités qui nous incombent. Les machines sont devenues absolument indispensables, et il n’est plus possible de tirer la prise. Mais nous sommes en retard dans notre réflexion sur cette ère qui s’annonce.
P. M.: Je suis d’accord. Cette utopie s’est installée de façon sournoise, dans un climat d’euphorie. Mais on a peut-être des moyens de s’en sortir: l’homme peut vivre dans le monde des machines tout en se réservant un peu d’individualité, un peu de sagesse, un petit coin tranquille épargné – mais pour combien de temps encore? – par cette «machine infernale». On peut encore vivre en prise directe avec le monde, sans intermédiaire robotique.
