Est-il encore possible d'inventer un monde numérique plus apaisé ?
L’exploitation commerciale et sans limite de nos intimités est la raison d’être du Slow Web. C’est un de mes combats depuis 2010. Je pense que ce combat est préalable à celui du changement climatique, car si nous ne réglons par la crise de l’attention alors nous serons incapables de nous mobiliser pour résoudre les grands sujets de notre temps.
C’est en développant Netvibes et Jolicloud, deux services pionniers du Cloud, que j’ai découvert le pouvoir d’influence qu’un développeur d’application pouvait avoir sur l’utilisateur final. Grâce à des techniques de manipulations et de détournement de l’attention, il est très facile de se connecter à grande échelle à l'intimité de n’importe quel utilisateur. Et de transformer notre vie intime en données exploitables commercialement.
Le développement de cette intimité computationnelle m’a beaucoup interpellé car il n’existe aucun garde-fou. En effet, les principales législations réglementant les services Internet ne régulent que les contenus publics (section 230, LCEN) mais ne se sont jamais véritablement intéressées à l’intrusion des plateformes dans nos contenus intimes. Autrement dit le consentement d’accès aux données intimes est régulé, mais son usage par la plateforme reste une boîte noire.
Un code de conduite éthique
La question est donc de savoir si les développeurs de ces plateformes sont capables ou pas de respecter un code de conduite. Comme il n’en existait pas à l'époque, j'ai décidé d’en écrire un et de l’appliquer à l’ensemble des services que je construirai.
C’est en 2010 que j’ai imaginé dans un article “The age of emotions” le terme de Slow Web, pour décrire la manière dont il fallait designer de manière éthique les nouveaux services numériques tels que les plateformes de réseaux sociaux. Ces techniques pourraient également s’appliquer aux nouveaux services d’intelligence artificielle.
Avec la croissance exponentielle du nombre d’utilisateurs de réseaux sociaux et l'engouement pour le design de manipulation (l'école de Stanford), je sentais que quelque chose de toxique était en train de se mettre en place. J'avais plaidé à l'époque pour une régulation et un design éthique, mais je n'ai pas été beaucoup entendu.
Pourquoi avons-nous besoin du Slow Web ?
Voici ce que j'écrivais à l’époque :
Parce que la plupart des services donnent une priorité à la capture et la monétisation de notre attention, de nos données, plutôt qu’au bien-être de l’utilisateur, les applications que nous utilisons tous les jours sont devenues indigestes.
Il est temps de changer de modèle. Le Slow Web porte l’idée que nous pouvons nous réapproprier la technologie pour notre bénéfice, au service d’usages plus sains.
L’algorithme de la mort
C’est pendant la tragédie des attaques terroristes du 13 novembre 2015, qui s’est traduite par la mort de plusieurs de mes amis proches que j’ai découverte, avec effroi, qu’une partie des terroristes avait été radicalisée algorithmiquement par les réseaux sociaux et les mêmes techniques d’amplification de la haine qui allaient polluer toutes les élections qui suivirent.
J’ai écrit un deuxième essai Drifting qui a eu un grand succès et dont la traduction en allemand a été publiée par le magazine die Zeit.
Tariq KRIM
Les 4 principes simples d'un service de Slow Web
Liens pour en savoir plus
Voir mon audition sur TikTok au Sénat.
