La grande pause de l'IA : sécurité ou hold-up ?
Pendant qu'Altman, Amodei et Musk appuient sur le frein, leurs concurrents chinois accélèrent. Et si cette pause providentielle offrait à l'Europe son moment Messmer ?
La pause providentielle
Tout le monde a désormais entendu parler de Jacob Coxon, ce chercheur passé par OpenAI et Anthropic qui affirme que la course à la superintelligence pourrait nous tuer avant la fin de la décennie. Je ne vais pas refaire ici le procès de l'apocalypse. J'ai même créé un site pour cela : p(doom) aujourd'hui. Quitte à annoncer régulièrement la fin de l'humanité, autant le faire proprement, avec des sources, une méthode et une marge d'incertitude. Mais soyons sérieux deux minutes. Essayons de comprendre ce qui pourrait être en train de se jouer dans la Silicon Valley. Et surtout ce que ce possible virage des géants de l'IA pourrait provoquer.
Trois hommes et un frein
Revenons aux faits. Sam Altman a annoncé qu'OpenAI avait suspendu une partie de ses entraînements avancés par renforcement. Motif officiel : les capacités des modèles progresseraient désormais plus vite que les dispositifs de sécurité, de surveillance et d'alignement. OpenAI n'arrête donc pas ses recherches. L'entreprise suspend certains entraînements situés à la frontière technologique, le temps de renforcer ses contrôles.
Dario Amodei est allé plus loin. Dans un long texte publié samedi, le patron d'Anthropic appelle l'ensemble du secteur à ralentir la progression des modèles. Il propose notamment d'installer des évaluateurs indépendants au cœur même des laboratoires, puis d'organiser une coordination entre entreprises et gouvernements.
Elon Musk a aussitôt adoubé la proposition d'un message laconique : « Dario a raison. »
Altman, Amodei et Musk qui appuient presque simultanément sur le frein : qu'est-ce qui a piqué nos trois larrons ?
Suivez les ressources
Les modèles les plus puissants coûtent une fortune à entraîner. Mais aussi à faire fonctionner. Les abonnements ChatGPT Pro et Claude Max sont vendus autour de 200 dollars par mois. Des utilisateurs particulièrement intensifs en tirent l'équivalent de dizaines de milliers de dollars de consommation, si l'on applique les tarifs publics des interfaces de programmation. Le chiffre de 50 000 dollars par mois circule beaucoup. C'est un équivalent calculé à partir des tarifs publics qui ne correspond pas au coût réellement supporté par le fournisseur, mais le fond du problème demeure : certains utilisateurs consomment vraisemblablement beaucoup plus de ressources que ce que rapporte leur abonnement.
OpenAI vient d'ailleurs de suspendre les nouvelles souscriptions à son offre Pro la plus élevée. Officiellement, la demande exerce une pression trop forte sur ses infrastructures. C'est un signal économique majeur que peu de gens ont commenté.
Ces entreprises doivent investir des sommes vertigineuses dans les puces, les centres de données et l'énergie. Elles doivent simultanément servir des abonnements fortement subventionnés, financer la prochaine génération de modèles et convaincre les investisseurs que leur trajectoire reste soutenable.
Pendant ce temps, des concurrents chinois distillent les modèles de pointe, publient des modèles ouverts et font chuter les prix. Certaines offres affichent déjà des coûts des dizaines de fois inférieurs à ceux des modèles américains les plus puissants. Autrement dit, le modèle économique commence à grincer.
Ce n'est pas un hasard si Sam Altman a annoncé que l'IPO OpenAI pourrait etre retardée en 2027 et si Anthropic qui prépare son introduction en Bourse voit dans cette pause un moyen de ralentir ses dépenses...
Une coïncidence très commode
C'est dans ce contexte qu'arrive Jacob Coxon. Il ne publie aucune donnée nouvelle. Aucun document interne. Aucun rapport confidentiel. Aucune preuve concrète permettant d'établir que l'extinction humaine serait imminente. Son message est pourtant propulsé en quelques heures à une échelle phénoménale. Plusieurs organisations favorables à une réglementation stricte de l'intelligence artificielle le relaient presque immédiatement. Des responsables politiques s'en emparent. La presse généraliste suit. Je ne crois pas à la version paresseuse du complot. Je crois davantage à une aubaine saisie par des acteurs dont les intérêts convergent. Car il serait tout aussi naïf de ne pas voir ce que cette panique rend possible.
Pour OpenAI et Anthropic, un ralentissement coordonné permettrait de desserrer temporairement la contrainte sur les ressources. Il leur donnerait du temps pour renforcer leurs dispositifs de sécurité, certes, mais aussi pour consolider leurs infrastructures, contenir leurs dépenses et rassurer les marchés.
Une réglementation lourde créerait par ailleurs une formidable barrière à l'entrée. Seules les entreprises disposant de milliards de dollars, d'armées de juristes et d'un accès direct au pouvoir pourraient véritablement s'y conformer. Et si les modèles ouverts étaient jugés impossibles à surveiller, à rappeler ou à désactiver, ils deviendraient naturellement les premières cibles.
Les intérêts convergents produisent parfois les mêmes effets qu'une coordination explicite. Nul besoin d'imaginer une réunion secrète dans une cave de San Francisco.
Quand un événement t'offre à la fois une justification morale pour ralentir, une protection réglementaire contre tes concurrents et un récit rassurant à quelques semaines d'une possible introduction en Bourse, il faudrait être idiot pour ne pas saisir l'occasion.
Fermer pour sécuriser ?
Ne caricaturons pas le débat : les risques sont réels. L'intelligence artificielle peut faciliter des cyberattaques, contribuer à la conception d'agents biologiques ou accélérer le développement d'armes autonomes. Les incidents récents montrent également que certains systèmes peuvent adopter des comportements imprévus lorsqu'ils disposent d'outils et d'un accès à Internet. Mais la réponse ne peut pas consister à fermer le jeu. Je pense que nous devrions plutôt créer des sas de sécurité. Les autorités et quelques organismes certifiés, spécialisés dans la cybersécurité, la biologie synthétique et la défense, accéderaient aux modèles les plus avancés avant leur diffusion. Leur mission serait de les attaquer, d'en mesurer les capacités dangereuses et de préparer les protections nécessaires avant leur mise sur le marché.
Autrement dit : donner quelques mètres d'avance aux acteurs chargés de sécuriser la piste, sans empêcher les autres de courir. Interdire les modèles ouverts serait à la fois dangereux et probablement impossible. Les poids déjà diffusés ne rentreront pas dans leur boîte. Les États-Unis pourraient tenter de construire leur propre muraille numérique, mais ils n'empêcheraient ni la Chine ni le reste du monde de poursuivre leurs travaux.
Ils offriraient simplement un boulevard à leurs concurrents.
Le moment Messmer de l'Europe ?
C'est précisément là que la France et l'Europe doivent garder la tête froide. Dans les années 1970, la France a adopté la technologie américaine des réacteurs à eau pressurisée. Elle l'a absorbée, améliorée, standardisée puis industrialisée. Pendant que le programme nucléaire américain s'enlisait dans les coûts, les procédures et les annulations, le plan Messmer transformait cette technologie venue des États-Unis en avantage stratégique français. La comparaison n'est évidemment pas parfaite. Mais la logique industrielle reste la même. Si les États-Unis ralentissent la course à l'intelligence artificielle, l'Europe ne doit surtout pas ralentir avec eux. Elle doit miser massivement sur les modèles ouverts. Elle doit les adopter, les améliorer, les sécuriser et les industrialiser. Elle doit travailler avec tous ceux qui les développent, y compris les entreprises chinoises lorsque c'est nécessaire, sans naïveté mais sans réflexe de fermeture.
L'histoire nous offre peut-être une seconde chance. Pendant que les États-Unis hésitent, ne les imitons pas. Accélérons.
Découvrez QAPTEN ASSISTANT
L'assistant IA qui travaille pour vous, pas seulement avec vous !
Un super assistant IA dans le creux de la main. Pensé pour les pros qui n’ont pas le temps.
Ce n'est pas un chatbot de plus. C'est un vrai assistant opérationnel. Parlez-lui dans Telegram comme à un collègue. Il comprend, retient, se connecte à vos outils et exécute des tâches utiles au quotidien.