La course à la conception d’une intelligence artificielle toujours plus capable fait émerger un consensus inhabituel parmi les initiés : la technologie pourrait devenir dangereusement difficile à contrôler, alors même que les experts sont en profond désaccord sur la date à laquelle cela pourrait se produire et sur la capacité des garde-fous à suivre le rythme.

L’ancien chercheur d’Anthropic Jacob Coxon affirme que les entreprises qui cherchent à créer une superintelligence « jouent avec nos vies », tandis qu’Evan Hubinger, chercheur en alignement chez Anthropic, estime à plus de 10 % la probabilité que l’IA tue tous les humains au cours de la prochaine décennie.¹ Leurs avertissements ne portent pas sur les systèmes actuels, que tous deux décrivent comme présentant une menace immédiate relativement limitée, mais sur l’auto-amélioration récursive — la possibilité que des systèmes d’IA puissent construire de manière autonome des successeurs plus performants.

L’interprétation la plus alarmiste est que cette transition pourrait survenir dans les prochaines années. Les critiques affirment que les laboratoires tentent en pratique d’automatiser la recherche en IA, ce qui pourrait accélérer le développement plus vite que les humains ne peuvent le comprendre ou le superviser. La crainte ne concerne pas seulement un dysfonctionnement, mais une perte de contrôle concentrée entre les mains d’une poignée d’entreprises ou de décideurs.

Le point de vue de Coxon est tout aussi sévère, mais plus explicitement politique. Il a déclaré à Fox News que l’auto-amélioration récursive « pourrait se produire dès l’année prochaine », tout en affirmant que la crise reste « parfaitement soluble » grâce à la réglementation et à la coopération internationale.² Il a décrit l’IA comme une potentielle « superarme » dans une course aux armements et a soutenu que les gouvernements devaient empêcher les entreprises de se lancer dans une catastrophe irréversible.

Les deux points de vue convergent donc sur le risque fondamental, mais divergent dans leur approche. L’avertissement de Hubinger souligne l’incertitude et l’absence d’un plan d’alignement fiable ; Coxon insiste sur le fait que le danger relève d’un échec politique, et non d’un destin technologique inévitable. D’autres experts cités dans le débat estiment que la superintelligence pourrait rester à plusieurs décennies, tout en reconnaissant que l’apprentissage autonome constituerait un signal d’alerte décisif.

Ce désaccord laisse la tension centrale irrésolue : les gouvernements ont peut-être le temps de réglementer l’IA avancée — ou sont peut-être déjà dépassés par les événements.