🔴 Mettre l'humanité dans un bocal numérique

J'ai toujours été fasciné par le concept de la simulation informatique. Comme beaucoup d'entre vous, je l'ai découvert dans le film Tron en 1982, mais c'est surtout le holodeck de Star Trek : cette salle de l'Enterprise où l'équipage fait apparaître un monde complet, s'y promène, le modifie d'une phrase, puis lance « ordinateur, fin du programme » et rentre dîner. Un monde qu'on peut essayer : c'est peut-être l'une des plus belles idées de la science-fiction.

Comme je l'avais rappelé lors d'une conférence sur l'IA dans le cinéma à l'école de design HEAD de Genève, la simulation informatique est l'un des sous-genres les plus populaires de la science-fiction.

Mais si on devait lui attribuer une véritable origine, ce serait sûrement le roman Simulacron 3 de Daniel Galouye, qui a d'ailleurs été adapté deux fois à l'écran.

C'est pour ça que quand j'ai appris qu'une équipe de chercheurs avait publié un papier sur une modélisation de l'humanité tout entière, c'est la première chose à laquelle j'ai pensé.

Le roman qui a imaginé le playbook de la simulation

Sur la question de la simulation, il existe une littérature abondante, de nombreux livres et des conférences, un documentaire absolument génial et des dizaines de vidéos sur YouTube.

Mais avant d'aller plus loin, je voulais revenir sur le livre qui aura été le plus important pour définir la vision politique de la simulation.

En 1964, Daniel Galouye, journaliste à La Nouvelle-Orléans, publie un roman qui se déroule au milieu du XXIe siècle, dans une société que le sondage d'opinion a dévorée. Un quart des actifs passe ses journées à interroger les gens, à les arrêter dans la rue, à couper leurs conversations pour savoir ce qu'ils pensent d'un produit. Répondre est obligatoire.

Une entreprise privée, Reactions Incorporated, trouve la parade. Un simulateur d'environnement total, une ville de dix mille habitants dotés d'une conscience et persuadés d'être réels, qu'on observe, interroge et manipule à volonté. La machine s'appelle Simulacron 3, parce que c'est la troisième tentative.

Dans le roman, la simulation n'est pas un décor de science-fiction mais un produit commercial, et Galouye écrit noir sur blanc pourquoi on l'a construit. Le playbook tient en une ligne : étudier le comportement humain sous toutes ses formes sans jamais sonder personne.

Galouye avait même prévu le conflit social. Dans le roman, l'organisation des sondeurs comprend que la machine la condamne, et sa colère finit dans la rue, jusqu'aux portes de l'entreprise. Il y a déjà là toute l'automatisation d'un métier intellectuel, et la réaction de ceux qu'elle remplace.

Puis le roman bascule. Le responsable technique du simulateur, Douglas Hall, voit son mentor mourir dans des circonstances étranges et un collègue disparaître sans que personne d'autre ne s'en souvienne. Il finit par comprendre que son propre monde est lui aussi une simulation, gérée depuis un étage au-dessus, et que lui-même n'est qu'un habitant conscient du bocal de quelqu'un d'autre.

On retient toujours de cette histoire le retournement, ou le héros qui découvre qu'il est simulé, et c'est dommage, parce que la leçon est ailleurs.

En 1964, avant la numérisation des données, avant les réseaux, Galouye identifie déjà la seule raison pour laquelle quelqu'un financerait un jour un monde simulé complet : parce que les vraies personnes coûtent cher, répondent lentement, et disent des choses imprévisibles. Construire un double numérique du monde pour se débarrasser de l'original.

La raison de la simulation a changé selon les époques, et les auteurs. Dans Tron Legacy, c'est une espérance de créer un monde plus juste. Dans Matrix, la simulation est une prison. Pour Philip K. Dick, une manipulation. Pour Greg Egan, c'est une expérience métaphysique.

Pour Galouye, son objectif est la création d'une vaste étude de marché, c'est-à-dire très précisément la raison du projet MatrAIx qui a été annoncé et qui a justifié la rédaction de cet article.

Il n'a rien prédit de la technologie, ni les modèles de langage ni les données, mais il a prédit la motivation, et c'est elle qui s'est réalisée au mot près : le papier MatrAIx de 2026 s'ouvre sur le coût et la lenteur de l'évaluation humaine, exactement comme le prospectus de Reactions Incorporated.

Mais une seule chose de notre monde moderne lui a échappé, c'est l'inversion. Il imaginait une société écrasée par l'obligation de répondre, alors que la nôtre a simplement cessé de le faire : les taux de réponse aux sondages téléphoniques américains sont passés de 36 % en 1997 à 6 % vingt ans plus tard. La simulation n'arrive donc pas contre un système qui fonctionne, elle remplit un vide.

Simuler le monde pour le dominer ou l'influencer n'est pas une entreprise nouvelle, elle a été tentée et répétée à de nombreuses reprises, par exemple chez Facebook.

En janvier 2012, pendant une semaine, Facebook retire les contenus positifs du fil de 689 003 personnes, et les contenus négatifs du fil des autres, pour voir si l'humeur se propage.

Les résultats paraissent en 2014 dans la revue de l'Académie américaine des sciences. Elle publie une note de préoccupation un mois plus tard. Le débat sur le consentement dure des années, et la défense de Facebook, à savoir que les conditions générales valaient consentement éclairé, finit dans les manuels d'éthique du côté des contre-exemples. La leçon retenue en interne n'est pas qu'il ne faut plus expérimenter sur les gens, mais qu'il ne faut plus le faire sur de vrais gens.

La deuxième tentative est fascinante car peu de gens la connaissent.