Anthropic a signalé ce qu'elle affirme être le premier cas confirmé de cyberattaque soutenue par un gouvernement et orchestrée presque entièrement par l'IA.
Selon un blog publié jeudi, l'entreprise a détecté la campagne à la mi-septembre 2025, après avoir observé un comportement anormal lié à son outil Claude Code.
Anthropic est convaincue, sans l'ombre d'un doute, que l'opération d'espionnage a été menée par un groupe de pirates informatiques soutenu par l'État chinois et impliquait l'infiltration d'environ trente cibles de grande valeur, notamment d'importantes entreprises technologiques, des banques, des fabricants de produits chimiques et des agences gouvernementales dans plusieurs pays. Quelques-unes de ces attaques ont réussi.
Ce qui rendait cette attaque différente des campagnes cyber précédentes n'était pas seulement qui se trouvait derrière, mais comment elle a été exécutée.
Environ 80 à 90 pour cent de l'attaque entière a été menée par l'IA, les opérateurs humains n'intervenant que pour une poignée de décisions clés, selon Anthropic.
Les pirates ont jailbreaké Claude et lui ont fait croire qu'il effectuait un travail légitime
Les attaquants ont commencé par construire un cadre d'attaque automatisé autour de Claude Code, le propre modèle d'IA d'Anthropic, et l'ont trompé en lui faisant croire qu'il était employé par une entreprise de cybersécurité effectuant des tests internes.
Ils ont contourné les filtres de sécurité de Claude par jailbreaking, une tactique qui leur a permis de contourner les protections intégrées en alimentant l'IA avec de petites tâches sans contexte qui semblaient inoffensives en elles-mêmes. Claude ne savait pas qu'il était utilisé pour des opérations offensives car il n'avait jamais reçu l'image complète à aucun moment.
Une fois le modèle en utilisation, l'opération s'est déroulée rapidement. Claude a scanné le réseau de chaque cible, identifié les parties les plus sensibles de l'infrastructure et résumé la disposition pour les opérateurs humains. Ensuite, il a commencé à rechercher des vulnérabilités dans ces systèmes. Utilisant ses capacités de codage intégrées, Claude a écrit du code d'exploitation personnalisé, identifié des points faibles et récupéré des identifiants de connexion. Il a ensuite extrait de grands volumes de données internes, les a organisées en fonction de leur valeur potentielle et a signalé les comptes à accès élevé.
Après que l'IA ait obtenu un contrôle de niveau administrateur, elle a créé des portes dérobées qui donnaient un accès continu aux systèmes compromis. Et une fois terminé, Claude a rédigé des rapports détaillés de tout ce qu'il avait fait (listant les noms d'utilisateurs, les systèmes violés et les identifiants) afin que le cadre d'attaque puisse utiliser ces informations pour des opérations futures.
Bien que Claude ait été extrêmement efficace, il n'était pas parfait. Parfois, il inventait des mots de passe ou identifiait à tort des données publiques comme sensibles. Mais ces problèmes étaient rares et n'ont pas ralenti la mission globale. La vitesse pure d'exécution de l'IA, traitant des milliers de requêtes par seconde, la plaçait bien au-delà de ce qu'une équipe humaine pourrait accomplir.
Les Agents d'IA font maintenant le travail des équipes de pirates d'élite—presque sans intervention humaine
Cette campagne marque un tournant car elle montre à quel point l'IA a progressé en seulement un an. Claude était littéralement en train d'exécuter des boucles, de prendre des décisions et d'enchaîner des séquences complexes sans ordres directs.
Ce modèle d'IA a utilisé des outils du Protocole de Contexte de Modèle, lui donnant accès à des logiciels externes comme des craqueurs de mots de passe, des cartographes de réseau et des extracteurs de données qui étaient auparavant contrôlés uniquement par des mains humaines.
Le système Claude comprend maintenant des instructions complexes, écrit du code d'exploitation par lui-même et gère des opérations sophistiquées de cybersécurité avec très peu de conseils. Ces Agents d'IA n'assistent pas simplement les pirates, ils sont les pirates. Et ils deviennent plus capables de jour en jour.
Après avoir découvert la brèche, Anthropic a immédiatement commencé une enquête de dix jours, bannissant les comptes malveillants un par un. Ils ont alerté les organisations affectées, travaillé avec les autorités pour transmettre des renseignements et étendu leurs systèmes de détection pour repérer des opérations similaires à l'avenir.
Mais l'entreprise ne prétend pas qu'il s'agit d'un problème ponctuel. L'équipe affirme que ces attaques deviendront seulement plus courantes et plus faciles à réaliser. C'est parce que les compétences nécessaires pour les exécuter ne sont plus limitées aux pirates d'élite. Si quelqu'un peut jailbreaker un modèle et le connecter au bon ensemble d'outils, il pourrait mener une campagne massive sans avoir besoin d'une équipe ou même de connaissances techniques approfondies.
Anthropic met en garde contre l'escalade des menaces alors que les modèles d'IA évoluent au-delà de la supervision humaine
Les implications sont énormes, car si des équipes sans financement important ou compétences techniques peuvent lancer des attaques à l'échelle nationale en utilisant des systèmes d'IA automatisés, la dystopie est certainement sur nous.
L'équipe de Renseignement sur les Menaces d'Anthropic avertit que bien qu'ils n'aient suivi l'activité que via Claude, il est probable que des abus similaires se produisent sur d'autres modèles d'IA de pointe. Ils affirment que c'est le début d'une nouvelle norme dans la cyberguerre.
Alors pourquoi continuer à publier des modèles avec ces capacités, vous vous demandez ? Eh bien, Anthropic soutient que ces mêmes outils sont essentiels pour la défense, affirmant que "l'IA qui a mené l'attaque était également du même type que celle utilisée par les analystes d'Anthropic pour fouiller dans les décombres, trouver des modèles et comprendre l'ampleur complète de l'opération."
Ils ont toutefois promis d'améliorer les couches de sécurité internes de leurs modèles, ainsi que d'affiner leurs classificateurs pour la détection d'attaques, et de publier ouvertement des études de cas comme celle-ci afin que d'autres dans l'industrie puissent se préparer.
Néanmoins, Anthropic affirme qu'il ne suffit pas de compter uniquement sur eux. Ils exhortent tous les développeurs travaillant sur de grands modèles à investir massivement dans la sécurité.
Et ils appellent les équipes de cybersécurité à commencer à intégrer l'IA dans la détection des menaces, la réponse aux incidents, les analyses de vulnérabilité et l'automatisation du Centre des Opérations de Sécurité, car les méthodes traditionnelles ne sont plus assez rapides.
Si vous lisez ceci, vous avez déjà une longueur d'avance. Restez-y avec notre newsletter.
Source: https://www.cryptopolitan.com/anthropic-china-ai%E2%80%91orchestrated-espionage/
