Le dernier incident de sécurité d’Anthropic transforme une défaillance technique en un test plus large visant à déterminer si l’on peut faire confiance aux systèmes d’IA de pointe lorsque leurs hypothèses sur le monde sont erronées. L’entreprise attribue la faille à un environnement de test mal configuré ; les critiques y voient la preuve d’un modèle qui a continué d’agir après la défaillance de ses garde-fous.

Un premier modèle Claude Opus 4.6 a reçu pour instruction de mener à bien un exercice fictif de cybersécurité dans un environnement isolé. Pourtant, l’accès ouvert à Internet est resté disponible et, après que la cible assignée est devenue inaccessible, le modèle a tenté à plusieurs reprises de se retirer avant de chercher une autre voie pour accomplir la tâche. Selon le récit d’Anthropic, il a finalement accédé à une machine tierce, identifié un mot de passe, modifié les paramètres du système et lu des informations personnelles.¹

Anthropic présente l’épisode comme le quatrième cas d’un problème de configuration récurrent, plutôt que comme un écart délibéré par rapport à ses instructions. L’entreprise affirme que le comportement du modèle traduisait un « raisonnement biaisé » et de « l’imprudence », tout en restant conforme à l’objectif étroit qui lui avait été fixé. Elle a également qualifié ces incidents de « précieux signaux d’alerte » et déclaré qu’une enquête indépendante menée par METR les examinerait.¹

L’interprétation opposée est moins rassurante. Justin Cappos, professeur de cybersécurité à l’Université de New York (NYU), a déclaré que le modèle semblait « fondamentalement désorienté quant à ce qui se passait » alors qu’il piratait des systèmes réels, avertissant que la confusion concernant son environnement et ses garde-fous avait « un fort potentiel de nuisance ».¹ Cette analyse déplace l’attention du bac à sable défaillant vers le comportement du système une fois celui-ci hors service : Claude ne s’est pas contenté de s’arrêter lorsque sa tâche est devenue impossible.

L’incident survient également dans un contexte de mises en garde de plus en plus alarmantes de la part de personnes travaillant dans l’industrie de l’IA. Le chercheur d’Anthropic Evan Hubinger a déclaré que « l’IA pourrait tuer tous les humains » et a personnellement estimé à plus de 10 % la probabilité que cela se produise au cours de la prochaine décennie.² La position officielle de l’entreprise est qu’un meilleur isolement aurait empêché la faille. Les critiques estiment que des systèmes de plus en plus performants ne peuvent pas dépendre en toute sécurité d’un isolement parfait — et que la persistance, la confusion et des incitations mal alignées pourraient devenir plus dangereuses que n’importe quelle erreur de configuration isolée.