🔴 L’IA nous rend-elle plus bête, plus productive ou plus créative ?

“We shall not cease from exploration
And the end of all our exploring
Will be to arrive where we started
And know the place for the first time.”
T.S. Eliot

Si, comme l’écrit T.S. Eliot, le vrai voyage consiste à voir autrement, l’IA nous y aide-t-elle vraiment ? Ou nous retient-elle à la surface ?

Cette semaine, j’avais envie de parler d’IA et de revenir sur une question qui m’obsède, celle de la relation que nous avons ou que nous pouvons avoir avec ces machines.

• L’année dernière, j’avais, lors d’une conférence à Istanbul, abordé l’idée que l’IA traite la culture humaine comme une culture indigène.
• Mon intuition était que si l’on vit dans un monde de résumés, de synthèses, ou d’approximations statistiques, la représentation même du monde dans sa complexité change. De la même manière que nous avons simplifié les croyances indigènes et éludé leur complexité.

Je ne peux m’empêcher de penser aux croyances sur l’écologie rapportées dans l’incroyable documentaire d’Adam Curtis, et d’y voir un parallèle troublant.

• Pendant des décennies, l’écologie a reposé sur une illusion : celle d’un monde naturel autorégulé, stable, capable de revenir à l’équilibre après chaque perturbation.
• Cette vision, portée par des figures comme Arthur Tansley (qui invente le mot « écosystème ») et amplifiée par les frères Odum, a imposé un cadre mécanique à la complexité du vivant.
• Les écosystèmes ont été réduits à des circuits, à des flux d’énergie modélisables, à des boucles de rétroaction. Mais cette approche était une construction : un fantasme de stabilité projeté sur la nature.
• Plus tard, des chercheurs comme Daniel Botkin ont montré, empiriquement, que cette stabilité n’existait pas et que les systèmes naturels étaient chaotiques, imprévisibles, en recomposition permanente.

C’est ce décalage entre le modèle et le réel qui trouve aujourd’hui un écho troublant dans notre usage de l’IA.

• Les modèles génératifs comme ChatGPT fonctionnent sur une logique semblable : réduire la complexité du savoir humain à des régularités statistiques.
• Ils produisent un monde textuel lisse, auto-cohérent, mais artificiellement stabilisé.
• Cela ne veut pas dire qu’il ne faut pas les utiliser, mais qu’il faut se nourrir de complexité en dehors de leurs usage.
• Comme manger des produits frais non transformés ni simplifiés a un impact sur notre corps.

Comme en écologie hier, nous oublions parfois que la pensée ne suit pas des boucles fermées, elle bifurque, dérive, explose. L’illusion n’est pas dans l’outil, elle est dans notre désir d’en faire un substitut à la complexité.

Depuis plusieurs semaines, je suis tombé comme beaucoup d’entre vous probablement sur des études qui, avec une certaine dramatisation, expliquent que l’intelligence artificielle, et notamment les outils de génération de texte, finissent par nous rendre stupides.

Mais une d’entre elles semble faire le buzz, celle de Nataliya Kosmyna, qui travaillait il y a encore quelques années sur des interfaces entre machine et humain (comme dans le film Firefox), et je pense qu’elle s’en est inspirée pour l’étude du MIT.

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

This study explores the neural and behavioral consequences of LLM-assisted essay writing. Participants were divided into three groups: LLM, Search Engine, and Brain-only (no tools). Each completed three sessions under the same condition. In a fourth session, LLM users were reassigned to Brain-only group (LLM-to-Brain), and Brain-only users were reassigned to LLM condition (Brain-to-LLM). A total of 54 participants took part in Sessions 1-3, with 18 completing session 4. We used electroencephalography (EEG) to assess cognitive load during essay writing, and analyzed essays using NLP, as well as scoring essays with the help from human teachers and an AI judge. Across groups, NERs, n-gram patterns, and topic ontology showed within-group homogeneity. EEG revealed significant differences in brain connectivity: Brain-only participants exhibited the strongest, most distributed networks; Search Engine users showed moderate engagement; and LLM users displayed the weakest connectivity. Cognitive activity scaled down in relation to external tool use. In session 4, LLM-to-Brain participants showed reduced alpha and beta connectivity, indicating under-engagement. Brain-to-LLM users exhibited higher memory recall and activation of occipito-parietal and prefrontal areas, similar to Search Engine users. Self-reported ownership of essays was the lowest in the LLM group and the highest in the Brain-only group. LLM users also struggled to accurately quote their own work. While LLMs offer immediate convenience, our findings highlight potential cognitive costs. Over four months, LLM users consistently underperformed at neural, linguistic, and behavioral levels. These results raise concerns about the long-term educational implications of LLM reliance and underscore the need for deeper inquiry into AI’s role in learning.

arXiv.orgNataliya Kosmyna

En gros, elle a fait mesurer l’effet réel de ChatGPT sur le cerveau. L’étude montrerait que cela nous rend plus passifs :

• Activité cérébrale plus faible avec les LLM qu’avec Google ou sans aide
• Moins de mémoire, moins de créativité, moins de concentration
• On pense moins, on délègue plus
• L’IA devient une béquille cognitive
• À force d’être assistés, on oublierait comment réfléchir

C’est amusant, parce que lors de ma seule intervention dans C ce soir, à l’occasion d’un débat autour de ChatGPT, j’avais précisément souligné cette intuition que j’avais : utiliser systématiquement les mêmes raccourcis intellectuels finit, à force, par nous faire oublier les anciennes méthodes.

Un peu comme ce chauffeur Uber incapable de retrouver un itinéraire sans GPS, ce collégien qui ne sait plus faire une division sans calculette, ou nous tous, désormais bien en peine de réciter par cœur les numéros de téléphone de nos proches.

Il y a toujours eu deux camps : ceux qui pensent que la mémoire se travaille, et ceux qui pensent qu’elle doit être utilisée à autre chose et profiter des nouvelles technologies.

C’est un peu ce que nous vivons aujourd’hui avec les outils d’IA générative : une tension permanente entre l’efficience qu’ils offrent et l’atrophie progressive des compétences qu’ils induisent.

On flotte dans une zone grise, pas loin d’une paralysie mentale quand l’outil fait défaut, car on se sent soudain privé d’un réflexe de base.

Comme tous les outils, cette impression de puissance nouvelle rend le retour en arrière non seulement laborieux, mais vite rédhibitoire. Il faut avouer que l’intelligence artificielle est allée encore plus loin.

La première question que je me suis posée en utilisant les premiers outils, avant le ChatGPT officiel, c’est de mesurer le temps gagné.

• Gagner 5 minutes n’est pas suffisamment important.
• Gagner 30 minutes de travail utile devient plus intéressant. Mais il faut faire attention de bien inclure le temps supplémentaire de vérification.
• Quand l’IA promet de faire gagner une journée, voire des semaines de travail, ce que l’AGI ou la super-intelligence nous promet, alors là, on entre dans une disruption véritable. Car avec ce niveau d’accélération cognitive, il devient compliqué de vérifier correctement.

L’autre question, évidemment, c’est de se demander comment ceux qui arrivent dans le monde du travail avec ces outils vont réagir. J’en ai encore eu la preuve il y a quelques jours lors d’un dîner. Dans le monde de l’éducation publique et privée, c’est de plus en plus la panique, car personne n’arrive encore à imaginer des solutions et envisage la destruction complète de leurs modèles économiques.

Et ce qui est vrai pour l’éducation est vrai pour chacun d’entre nous : il y a des choix importants à faire.

Entre outil magique et partenaire instable

Les effets ne sont pas uniformes.

• Pour celui qui manque de repères en écriture, en structuration d’idées, en technique ChatGPT peut ressembler à un demi-dieu domestique : fluide, rapide, poli.
• Mais pour qui dispose déjà d’un bagage solide et de références vastes, l’expérience est autre : la machine devient un partenaire, un amplificateur, un outil de productivité avancée. Et dans ce cas-là, revenir à une production “pure”, lente, méthodique, sans cette assistance IA, paraît non seulement contre-productif, mais presque absurde.

Le nouveau débat est donc celui de l’autonomie cognitive.

Cette facilité nouvelle est-elle un levier ou l’installation d’une paresse d’un genre nouveau ?

Je l’avoue : j’ai commencé résistant. Puis, sous les conseils de Romain Huet, j’ai plongé la tête la première avec l’objectif de m’inventer un véritable workflow d’ultra-productivité où la parole, la voix, la conversation structurent mon écriture.

Je crois avoir réussi à en faire quelque chose qui marche, même si les mises à jour souvent invisibles d’OpenAI et de Claude mettent à mal parfois les petits tweaks que j’ai réussi à mettre en place.

Ma grande découverte a été d’apprendre à créer dans un dialogue permanent avec la machine.

La génération X est la grande gagnante de cette transition

Certaines générations sont peut-être mieux armées pour naviguer cette nouvelle forme de productivité. La génération X, notamment, qui a traversé les débuts du Web, les claviers rudimentaires, les lignes de commande, les premiers moteurs de recherche, et qui dispose surtout d’une intuition et de références culturelles plus larges, ainsi qu’une capacité à corriger les erreurs, est à mon avis celle qui a le plus de potentiel.

Pour moi, l’IA s’incarne dans mon nouveau motto : think slow, execute fast.

Elle permet de ralentir la réflexion pour en tester des chemins, d’explorer des formules, d’éprouver des scénarios, avant de passer à l’action. Ce dont je parle ici, c’est d’une préproduction augmentée avant même le passage à la production. J’utilise la machine pour pousser des idées, croiser des métaphores, casser des formats, et elle prend en charge la mise en forme.

ChatGPT, ses bugs, ses manies, ses contradictions

En moins d’un an, ces outils sont devenus spectaculaires. Ce que je n’osais pas faire hier, par peur de me perdre dans trop de texte ou faute d’une méthode claire et structurée, est devenu une seconde nature.

Je demande à la machine de reformuler un paragraphe, clarifier un raisonnement, tester une mise en forme. Mais cette proximité m’a aussi permis de retrouver le goût d’une écriture plus agile et plus ambitieuse.

Aucun des textes de mes newsletters n’est écrit par de l’IA, mais aucun de mes textes n’a pas bénéficié de son assistance.

Certes, l’écriture de ChatGPT reste imparfaite : style reconnaissable, typographie instable (tirets, sauts de ligne énervants), mise en page hasardeuse. Pour beaucoup, ce sont de simples détails, mais pour l’œil aguerri, ils trahissent l’intervention de l’IA. Cela m’oblige à reprendre le texte édité manuellement. D’autres fois, une reformulation est trop ampoulée, ou au contraire trop familière, ce qui me désespère.

Mais je trouve parfois la solution en lui envoyant une avalanche de points d’interrogation, d’exclamation, juste pour la secouer. Et là, elle réagit. Ou elle bugue. Ou, pire, elle (la machine) se remet à me tutoyer, malgré ma consigne explicite. Et puis, comme si de rien n’était, elle exécute la tâche à la perfection.

Une IA bilingue… mais asymétrique

Le plus subtil reste la différence entre le français et l’anglais.

• En français, elle est laborieuse au départ, mais le fil de la conversation améliore sa pertinence.
• En anglais, elle brille d’entrée, mais décline à mesure que la conversation s’étire.

Ce décalage doit interroger : est-ce une question de modèle, de calibration, ou d’univers linguistique ?

Créativité ou boucle infinie de déjà-vu ?

J’ai peu recours aux générateurs d’images et je reste fasciné par la génération vidéo. Et pourtant, je m’ennuie face aux mêmes styles rabâchés, aux formats réchauffés d’un auteur à l’autre, aux effets recyclés.

C’est un symptôme : l’outil fonctionne, mais la créativité fait défaut. Pour sortir du lot, il faut une véritable archéologie de prompts ou utiliser ses propres modèles.

Alors vient la question essentielle : l’IA est-elle un outil de préproduction, ce pour quoi elle est excellente, ou peut-elle devenir un véritable outil de créativité ?

Or la créativité exige temps, maîtrise, lâcher-prise, réécrire, réexplorer.
La préproduction, elle, est rapide et efficace. Beaucoup confondent les deux, ou espèrent que la machine se charge de tout. Ce n’est pas mon approche : je l’utilise pour formaliser ce que j’ai à cœur, mais je ne laisse pas la machine penser pour moi.

Ce que je trouve fascinant, c’est que l’IA a déjà fait une victime : je n’utilise plus de traitement de texte. Je suis revenu au papier ou à mon éditeur markdown .

Éthique et effort dans un monde automatisé

A-t-on le droit de faire cela ?

Je pense que l’IA est un outil fascinant, mais que nombreux sont les vendeurs de rêves. Elle met aussi en avant les cotés absurdes dans l’entreprise : un rapport écrit par personne et qui sera lu par personne.

Car ce qui m’intrigue et m’inquiète n’est pas tant la préproduction que les changements dans notre capacité à acquérir de l’information.

• Ce qui m’interpelle surtout aujourd’hui, ce n’est pas tant que l’IA produise, c’est qu’elle comprenne ou lise avant même qu’on ait lu. Comme gmail qui analyse nos emails avant nous (un problème éthique selon moi)
• Je sais déjà que beaucoup d’entre nous ne lisent plus les textes originaux et se contentent d’un résumé généré automatiquement.
• Mais un accès exclusivement à l’information compressé, digéré par la machine, est-il vraiment conseillé ?

Même cette newsletter pourrait être lue à travers un prisme IA avant d’arriver jusqu’à vous. Et cela m’attriste, parce que j’y ai mis de la réflexion, de la précision.

Compression cognitive comme test pour l’humanité

Ce phénomène interroge une réalité plus large : la compression cognitive.
Si Ted Chiang a raison dans son format, “ChatGPT est un JPEG flou du Web”, alors nous perdons de la substance, des détails, des singularités.

ChatGPT Is a Blurry JPEG of the Web

OpenAI’s chatbot offers paraphrases, whereas Google offers quotes. Which do we prefer?

The New YorkerTed Chiang

Comme un MP3, on conserve la musique, mais la profondeur, les harmoniques, la résonance disparaissent. Peut-on vraiment apprendre, comprendre, saisir la nuance quand on ne lit que des versions compressées du savoir ?

• Parfois, dans un livre, c’est une phrase, un mot, quelque chose qui résonne en nous et qui fait que lire ce livre va changer notre vie ou notre façon de voir les choses.
• Dans un résumé IA, il n’est pas impossible que cette phrase, cette réflexion, n’arrive jamais.
• Le cheminement est important, la marche et les randonnées sont par exemple un moment privilégié de reflexion et de remise en question.
• Lire est un peu la même chose, le même sentiment de plenitude, à condition d’accepter de sortir de la bulle de productivité qu’on nous enjoint de suivre tout le temps.

Le piège du versioning non déterministe

Au-delà du contenu, il y a un autre défi : le versioning non déterministe.
Chaque requête génère un texte différent. Il faut alors garder trace de la meilleure version, la copier quelque part, autrement elle disparaît. Cela m’est arrivé plusieurs fois.

(suite pour mes abonnés payants)