Max Tegmark: «Il faut créer un CERN de l’IA dédié aux recherches biomédicales, global et ouvert»

HEIDI.NEWS || Il est temps de prendre à bras le corps la question du contrôle de l’intelligence artificielle (IA), et de cesser d’attendre que le futur se passe. C’est le plaidoyer délivré par l’un des pontes actuels de l’IA, Max Tegmark, professeur de physique au prestigieux MIT de Boston à l’assemblée des AMLD2020, lundi soir à l’EPFL.

Pourquoi c’est intéressant. L’homme est aussi célèbre pour avoir co-fondé le Future of Life Institute, qui s’intéresse aux risques existentiels menaçant l’humanité, surtout ceux provenant de l’IA. De manière courageuse, alors que l’IA est plutôt connotée négativement, le scientifique plaide aussi pragmatiquement pour que l’on voit aussi les bienfaits associés à cette technologie. Comme l’idée de l’appliquer globalement aux recherches biomédicales en créant ce qu’il nomme un « CERN de l’IA au profit de la santé ». Il a accordé une interview exclusive à Heidi.news lors des AMLD.

Heidi.news — Les risques et les menaces lies au développement de l’intelligence artificielle (IA) font beaucoup parler d’eux: pertes d’emplois dues à l’automatisation, robots-soldats autonomes, algorithmes contrôlant nos vies. Vous plaidez de votre côté pour rester positif. Pourquoi?

Max Tegmark — Il y a deux types d’optimistes. Les optimistes naïfs croient simplement que les choses positives vont se passer, quoi qu’il arrive: on peut ainsi être optimiste que le soleil se lève sur le Lac Léman demain. Je ne suis pas de cette catégorie-là. Au contraire, je suis un optimiste conscient dans le sens que j’estime qu’on a le potentiel d’aider la vie à se développer comme jamais jusque-là, cela à l’aide de l’IA. Mais nous devrons faire de gros efforts. Sinon, nous faillirons, de plusieurs manières possibles. Si nous le faisons bien, nous pourrons utiliser ces technologies pour relever plusieurs défis: combattre le cancer, sortir les gens de la pauvreté, stabiliser le climat terrestre, ou bien d’autres choses encore. Soit nous gagnons tous ensemble, soit nous perdons tous en tant qu’espèce.

Vous comparez souvent la situation actuelle à celle d’autres domaines scientifiques à d’autres époques. Quels sont les jalons inévitables à poser avec l’IA pour qu’il en ressorte surtout des bénéfices?

Nous pouvons effectivement apprendre beaucoup d’autres domaines scientifiques. Les physiciens ont dû gérer la question des armes nucléaires, qu’ils ont aidé à fabriquer. Mais aujourd’hui, grâce à eux, nous profitons surtout d’avoir des ordinateurs, des téléphones portables, des lasers aux myriades d’utilités. Les chimistes, eux, ont imaginé une batterie de nouveaux matériaux merveilleux, même si l’épine dans leur pied, aujourd’hui, c’est la question du réchauffement climatique, liée à la combustion de certains de ces produits. Surtout, les armes biologiques ayant été bannies, on voit les biologistes et chercheurs en sciences de la vie comme ceux qui nous ont légué les nouveaux médicaments, les vaccins, etc. L’IA est le nouvel élève dans la classe, qui atteint aujourd’hui seulement une puissance assez grande pour avoir un impact notoire sur le monde. Je m’efforce d’agir pour que, dans quelques années, on puisse voir l’IA comme pourvoyeuse de nouvelles solutions.

Alors que faire, et comment?

• Premièrement: s’éduquer mutuellement et informer nos sociétés pour comprendre tout ce qui peut réellement mal tourner, et prendre les mesures pour que cela n’arrive pas.
• Deuxièmement: s’assurer que la prospérité qui découlera de l’automatisation (avec l’IA) soit partagée avec l’entier de la population, pour que tout le monde voit s’élever son niveau de vie; actuellement, c’est exactement l’inverse qui se passe dans de nombreux pays occidentaux, ce qui génère une grande polarisation et de la colère. Certains politiciens aiment à rendre les Mexicains ou les Chinois responsables de cette situation. Mais la simple réalité, selon les recherches, est que la robotisation de l’économie fait que l’argent qui servait à payer les salaires (même de collaborateurs très modestes) devient aujourd’hui dividende pour les investisseurs et actionnaires. La valeur boursière de Facebook est ainsi incommensurablement plus grande que celle de Ford, quand bien même la seconde société emploie beaucoup plus de personnel que la première. Pire, de plus en plus de firmes comme Ford veulent devenir comme Facebook. Ce problème est simple à régler: si la société dans son entier décide de percevoir suffisamment de taxes de ces multinationales, elle pourra en faire bénéficier plus largement toute la population.
• Troisièmement: il s’agit de développer ces stratégies pour le futur non pas dans le cadre d’une compétition entre nations, mais à un niveau globalisé. Je suis convaincu que c’est uniquement une vision partagée qui aura du succès en nourrissant les collaborations. Pourquoi l’Union européenne existe-t-elle aujourd’hui? Parce qu’elle est née d’un idéal commun, entre ses pays membres, de renoncer aux guerres tout en accroissant la prospérité du Vieux Continent. Nous devons formuler, au niveau planétaire, un idéal similaire concernant l’IA.

C’est là un objectif idéaliste. Comme vous l’avez expliqué lors des AMLD2020, avec l’IA, nous pourrions non seulement atteindre les 17 Objectifs du développement durable postulés par l’ONU, mais aussi en dépasser plusieurs. Pourquoi avons-nous alors tant de peine à progresser?

Quand vous dites «idéaliste», il semble que vous entendez «irréaliste». Mais l’établissement de l’UE aussi, après les guerres franco-allemandes, était initialement idéaliste, et ne recueillait pas l’approbation de nombre de gens. La plupart des grands accomplissements, dans le monde, sont le fruit d’idées d’abord idéalistes. Lister tous les écueils et toutes les peurs possibles n’aura toujours qu’un effet paralysant, et ne nourrira pas les collaborations qui conduisent à la prospérité. Trop de politiciens, aujourd’hui, nous font croire que le futur doit forcément être à somme nulle, autrement dit que tout amélioration ou embellissement dans un pays doit se faire au détriment d’autres nations. C’est insensé. Regardez à quel point la Suisse est devenue prospère ces 300 dernières années, non pas en grappillant du territoire à ses voisins, mais en développant ses propres technologies.

Vous lancez désormais l’idée d’appliquer le modèle de l’institution internationale et ouverte qu’est le CERN au domaine de l’IA utilisée dans la santé. Que faut-il pour que naisse un tel projet?

Comme il a fallu le faire pour le CERN à l’époque, il s’agit d’expliquer aux leaders politiques de ce monde que c’est un projet dont ils bénéficieraient tous. Et cela pour plusieurs raisons. D’abord, avoir une institution globale dont le but serait de mettre l’IA au service de la recherche en santé permettrait d’accélérer massivement le développement de traitements contre certaines maladies qui restent incurables aujourd’hui, comme certains cancers, car notre intelligence humaine est limitée. Ensuite, ainsi que les statuts du CERN assurent que toute découverte qui y est faite sera ouvertement disponible au monde entier, il faudra s’assurer que cette nouvelle entité procède de même, au point que tous les traitements qui y seraient développés deviennent librement accessibles à tous, peu importe la nationalité de leur découvreur. De plus, une telle institution deviendrait le lien unifiant la recherche de pointe en IA dans le monde, avec l’idée, par effet d’entraînement, de motiver les entreprises et les universités de partout à vouloir y envoyer leurs meilleurs talents. Enfin, la raison pour laquelle un tel « CERN de l’IA » devrait se focaliser sur la santé repose sur le fait que la santé est le domaine le plus éloigné de la politique et des applications militaires: c’est une notion chérie de manière universelle. Quelque chose de vraiment bon.

Nous sommes à l’EPFL, non loin de Genève, qui abrite nombre d’organisations internationales liées à la santé (OMS, ONUSida, Gavi, CICR, etc.). Cette ville serait-elle idéale pour héberger une telle institution?

J’aime la Suisse, et j’aime Genève. Mais, au-delà de lancer l’idée, je ne souhaite pas faire de micromanagement et entrer dans les détails. Mais je pense vraiment que le temps est venu de concrétiser cette idée. A nouveau, ce serait vraiment une manière d’afficher clairement, aux yeux de toute la population, les bienfaits possibles, concrets et tangibles, de l’IA. Ce serait un début. Mais c’est aussi quelque chose qu’il faut se donner la peine d’expliquer vraiment.

Le titre de votre dernier livre, paru en 2017, est intitulé «Life 3.0: Being Human in the Age of Artificial Intelligence» (trad.: La vie 3.0 : être humain à l’ère de l’IA). Qu’est-ce que cela signifie, très concrètement, pour vous ?

L’IA va finalement devenir la technologie la plus puissante jamais imaginée. Et c’est soit ce qui va arriver de mieux à l’humanité, soit de pire. L’IA peut nous aider à développer une large palette d’autres technologies beaucoup plus rapidement, soit pour nous détruire entièrement, soit pour exalter nos civilisations comme jamais jusque-là. J’ai écrit ce livre parce que je souhaite que ce champ de recherches aille dans la bonne direction. Et j’ai spécialement inclus le mot «humain» pour insister sur le fait que nous devons tous cesser d’être de simples spectateurs passifs et naïvement optimistes de ce qui se joue, en attendant que le futur se passe. Au contraire, tous, nous sommes collectivement responsables de prendre en charge notre destin, afin qu’aucune IA ne nous contrôle, mais que nous contrôlions toujours l’IA pour construire le futur que nous voulons. Bien sûr, un si grand pouvoir est aussi accompagné d’une immense responsabilité. Mais il nous faut gagner cette course entre la propension à utiliser l’IA dans des buts malsains et la sagesse de gérer cette technologie judicieusement. Et c’est vrai que là-dessus, actuellement, nous ne sommes pas bons…