🔴 Le jour où les agents s'arrêteront

Quand la presse parle d'agents fous capables de « détruire » l'Internet, je repense à une histoire que les hackers des années 80 connaissent bien. L'Internet a déjà été mis à terre. C'était en 88 et presque personne ne connaissait encore le mot. Le 2 novembre 1988, dans la soirée, un étudiant de Cornell se connecte à un ordinateur du MIT et lâche un petit programme sur le réseau. Il s'appelle Robert Tappan Morris, il a 22 ans et vient de commencer un doctorat en informatique.

Son père, Robert Morris, est une légende de l'informatique américaine. Cryptographe aux Bell Labs, il a contribué à la conception d'Unix, avant de devenir scientifique en chef du National Computer Security Center, la division de la NSA consacrée à la sécurité informatique.

Son fils voulait, dit-il, mesurer la taille de l'Internet. Un programme qui se propage seul, sans intervention humaine, s'appelle un ver. Son programme se copie seul de machine en machine, en exploitant des failles connues d'Unix : un mode de débogage laissé ouvert dans la messagerie, un dépassement de mémoire tampon, des mots de passe trop faibles.

C'est le premier à se répandre aussi vite sur l'Internet. Il le lance depuis le MIT pour brouiller la piste. Personne n'avait pensé avant lui à utiliser l'Internet pour lâcher ce genre de programme. Le mot « ver » vient lui-même du roman de John Brunner « The Shockwave Rider », paru en 1975. Encore une histoire de science-fiction qui devient réalité.

Mais celui de Morris est le tout premier ver malveillant. Pour ne pas être éliminé trop facilement, le ver se réinstalle même sur les machines déjà infectées. Sauf que Morris a réglé le taux de reproduction beaucoup trop haut. Les copies s'empilent, les machines ralentissent, puis s'arrêtent.

En vingt-quatre heures, environ 6 000 des quelque 60 000 ordinateurs connectés à l'époque sont touchés, un sur dix. Harvard, Stanford, la NASA sont atteints, des fonctions militaires et universitaires tournent au ralenti. Le ver ne détruit aucun fichier, mais fait crasher le réseau.

Quelques jours plus tard, à la demande du département de la Défense, la première équipe d'intervention d'urgence informatique, le CERT, est créée à l'université Carnegie Mellon.

Deux ans plus tard, en 1990, Morris deviendra le premier Américain condamné au titre de la loi américaine de 1986 sur la fraude informatique : trois ans de mise à l'épreuve, 400 heures de travaux d'intérêt général et 10 050 dollars d'amende.

Petite anecdote marrante : en 2005, c'est lui qui fonde avec Paul Graham, son confident de l'époque, Jessica Livingston et Trevor Blackwell ce qui deviendra le très célèbre Y Combinator.

À l'époque, pour le jeune hacker que j'étais, l'exploit de Robert Tappan Morris paraissait difficilement palpable. L'Internet paraissait bien loin et, pour nous, les virus passaient essentiellement par les disquettes.

C'est donc fascinant de voir que les agents font par défaut, sans vraiment le savoir, ce que Robert Tappan Morris expérimentait à l'époque.

Car l'autre ver le plus connu était beaucoup plus ciblé : Stuxnet, en 2010, était conçu pour détruire une marque très précise de centrifugeuses utilisées par les Iraniens dans leur programme nucléaire.

Mais quels que soient l'objectif et la direction de l'époque, une chose est sûre : un humain était aux commandes. Et le programme agissait au service de son intention.

Aujourd'hui, avec l'arrivée d'agents autonomes capables d'agir seuls sur le réseau, la question est ouverte.

Que peuvent-ils faire ? Que savent-ils faire ? Et peut-on les arrêter ?

C'est le cœur du sujet de cette newsletter. Car depuis notre dernière newsletter, L'antichambre de la singularité, le monde a découvert un nombre incalculable de tentatives et de piratages. C'est sur cela que je souhaitais revenir avec vous.

Nous avons déjà parlé de ces sujets dans plusieurs numéros, pour ceux qui veulent en savoir plus.

• Quand le logiciel cessera d'obéir (11 avril 2025) : la fin du logiciel déterministe et des agents qui négocient entre eux.
• La Chine a forcé l'entrée du club des IA frontières (19 juillet 2026) : première mention de l'attaque, Hugging Face bascule sur GLM-5.2 parce que les garde-fous des modèles américains bloquent l'analyse.
• L'antichambre de la singularité (31 août 2026) : le récit de l'attaque de Hugging Face par les agents d'OpenAI.
• Le logiciel à jugement moral (13 septembre 2026) : le modèle qui décide seul de ce qu'il fait ou ne fait pas, l'autre face de l'agent qui sort.
• Terminator sous LSD (27 septembre 2026) : les systèmes non déterministes au cœur des décisions critiques, l'hallucination comme risque de guerre.

Cybernetica est votre partenaire de réflexion et d'analyse d'un monde de plus en plus complexe à appréhender. Informez-vous comme nulle part ailleurs, préparez-vous à la révolution agentique avec une dose de nuance, de sérieux et de culture.

Ce nouveau monde a besoin d'une carte détaillée : abonnez-vous à Cybernetica.

La stupeur comme argument

Commençons par la façon dont on nous a raconté l'histoire.