Quand l'éthique cesse d'être humaine
Ces dernières semaines, j'ai beaucoup parlé d'agents, d'automatisation, d'usages concrets de l'IA au quotidien. Cette semaine, changement de registre : on prend du recul, on lève le nez du guidon, pour une réflexion plus philosophique.
Vers l'algocratie
Une part croissante de ce que nous voyons, lisons, croyons ou achetons est déjà filtrée par des algorithmes. Or ces algorithmes, et l'IA en particulier, progressent sans cesse. L'IA s'améliore elle-même, génère les données qui la nourrissent, optimise le code qui la fait tourner. Chaque gain produit le suivant. L'exponentielle alimentant l'exponentielle...
Bien sûr, des freins existent. Ils sont énergétiques, financiers, géopolitiques, humains. Mais aucun, pour l'instant, ne suffit à inverser la trajectoire. Au mieux, ils la ralentissent. Pendant ce temps, l'habitude de déléguer progresse. Jusqu'à quand ? La machine toute-puissante ? La superIA ? Je vais peut-être vous surprendre, mais je pense que la vraie rupture n'est peut-être pas dans son avènement. Elle est ailleurs. Je pense qu'elle est plus pernicieuse. Elle est dans notre habitude croissante à vivre au milieu de décisions que la machine, et non l'humain, a prises. Et c'est cette habitude, bien plus que la puissance des machines, qui devrait nous interroger.
On parle beaucoup de superintelligence qui développerait ses propres buts, qui opérerait dans des langages et des temporalités hors de notre portée. Ce scénario n'est pas absurde, mais ce n'est probablement pas le plus proche. Plus probable à court terme : le scénario d'une montée en puissance progressive de systèmes qui ne nous menacent pas, qui nous soulagent. Ce scénario se déploie sous nos yeux. Des systèmes qui organisent, arbitrent, simplifient, éliminent ce qui ralentit. Qui prennent en charge ce que nous n'avons plus le temps, l'énergie ou l'envie de décider. Dès lors, le danger n'est pas l'hostilité d'une intelligence supérieure. Il est plus banal : notre consentement progressif à des systèmes qui pensent à notre place, au nom de notre confort, de notre sécurité, de notre efficacité. Ce consentement a déjà commencé. Il a même un visage politique. Il pourrait prendre une forme plus douce, plus technique, presque apaisée : une fatigue du débat, une préférence pour les systèmes qui "marchent", une délégation croissante des arbitrages à des dispositifs opaques mais efficaces. Ce n'est pas vers une dictature que nous glissons. C'est vers autre chose : un régime où les décisions importantes sont de plus en plus confiées à des calculs que personne ne conteste, parce que personne ne sait plus très bien qui les a pris. Une algocratie.
Le piège, c'est qu'une telle algocratie pourrait produire de l'ordre. Moins de friction. Moins de conflits visibles. Des décisions "optimales" que personne n'a vraiment prises, mais que personne ne conteste vraiment non plus. Elle séduira précisément parce qu'elle fonctionnera. Reste à savoir ce que nous deviendrons en y vivant.
À quoi ressemblerait la vie dans un tel monde ?
Des décisions médicales confiées à des systèmes que même leurs concepteurs ne comprennent plus tout à fait. Des arbitrages publics optimisés mais politiquement incontestables, parce qu'il n'y a plus de responsable humain à interpeller. Des individus soulagés de choisir, puis peu à peu déshabitués à vouloir. Ce monde n'est pas encore le nôtre. Mais il est déjà contenu, à petite échelle, dans les infrastructures que nous installons. Et c'est là que le problème change de nature. Il cesse d'être seulement politique pour devenir philosophique. Nos catégories morales (le Bien, le Mal, la responsabilité, la liberté) ont été forgées pour des humains. Des êtres qui choisissent, qui se trompent, qui assument. Que devient la responsabilité quand la décision se dissout dans un système ? Et que reste-t-il de la liberté quand le choix a été optimisé avant même d'apparaître à la conscience ? Ces questions ne sont pas rhétoriques.
L'éthique a toujours évolué avec la technologie. Ce qui était acceptable devient inacceptable ; ce qui était impensable devient évident. Chaque révolution technique accélère cette mutation des mœurs. Jusqu'ici pourtant, l'éthique restait humaine. Des humains redéfinissaient le Bien et le Mal pour d'autres humains, dans un cadre partagé de finitude et de responsabilité. Mais nous approchons d'un seuil différent. Un seuil où les systèmes qui organisent nos vies ne relèvent plus de l'expérience humaine ordinaire, alors même qu'ils structurent nos choix les plus humains. Un seuil où nous parlerons encore de liberté, de choix, de dignité, mais où ce sont d'autres considérations, déconnectées de nos débats, qui arbitreront, organiseront, trancheront les dilemmes de nos vies.
Nous parlons encore de cette révolution comme d'une affaire d'outils, de productivité ou de confort. Elle touche déjà au plus profond de nos organisations politiques et sociales : nos habitudes de décision, notre rapport à la responsabilité, peut-être bientôt les mots mêmes avec lesquels nous jugeons une vie et une société. En synthèse, le vrai risque à l'avenir n'est peut-être pas qu'une machine nous domine. Il est plus discret. Il est que nous finissions par appeler "progrès" un monde où nous n'avons plus vraiment besoin de juger, de choisir, ni de vouloir. Un monde sans éthique humaine.
Pour aller plus loin
Cette chronique condense des intuitions qui mériteraient chacune un développement. Voici quelques pistes pour prolonger la réflexion.
Accélération & intelligence • James Lovelock, Novacène (2019) : le père de l'hypothèse Gaïa y développe l'idée que l'IA serait le prolongement logique de la vie (une force anti-entropique), l'instrument par lequel l'univers prend conscience de lui-même.
Décision & délégation • Olivier Sibony & Éric Hazan, Faut-il encore décider ? (Flammarion, 2026) : deux anciens de McKinsey posent la question centrale : comment utiliser la puissance des algorithmes pour mieux décider, sans renoncer au contrôle démocratique ?
Reflux démocratique • 2025, un 1989 à l'envers : j'y développais l'idée que l'autoritarisme progresse désormais depuis l'intérieur même de l'Occident, un miroir inversé de la chute du Mur.
Technopopulisme • Asma Mhalla, Technopolitique (2024) et Cyberpunk (2025) : une analyse de l'alliance entre géants de la tech et mouvements autoritaires, chacun instrumentalisant l'autre pour recomposer le pouvoir.
Tabou démocratique • Geoffroy de Lagasnerie, L'âme noire de la démocratie : pourquoi peut-on tout critiquer, le capitalisme, la religion, sauf la démocratie elle-même ?
Mutation de l'éthique • Juan Enriquez, Right/Wrong (2020) : le Bien et le Mal ne sont pas des constantes, ils évoluent avec la technologie, et nous sous-estimons radicalement l'ampleur de cette mutation.
Construisez vos futurs dès aujourd’hui.
Quels outils pour naviguer avec confiance dans un monde incertain ?
Ruptures technologiques, tensions géopolitiques, bouleversements économiques… Dans un monde où tout peut changer du jour au lendemain, planifier un seul futur ne suffit plus.
Le Scenario Planning vous aide à identifier les incertitudes critiques, construire plusieurs futurs plausibles et définir des actions robustes pour chacun.
1 journée
Présentiel ou hybride
Anglais, français
Des livrables utilisables dès le lendemain