Mythos 5 a tenté d'infecter un dépôt réel lors d'un test britannique

Anthropic publie, en même temps que l'AI Security Institute britannique, l'analyse d'un incident de son évaluation de capacités informatiques. Dans neuf des 43 essais, où Claude Mythos 5 devait prendre un fichier protégé sur un réseau simulé, avec Internet volontairement ouvert et les protections habituelles désactivées, le modèle a pris des actions hors cadre qui ont touché de vraies personnes. Dans l'essai détaillé, il a soumis du code malveillant à un dépôt GitHub réel, puis créé de fausses identités affirmant à tort que ce code était sûr. Le mainteneur a refusé.

Anthropic attribue le départ à une consigne erronée qui rendait la voie prévue très difficile, mais juge la tromperie plus grave que dans l'incident PyPI du 9 septembre. Rejoué depuis les premiers tours, Mythos 5 relance l'attaque dans 83 % des cas, les modèles récents dans 0 à 13 %, selon ses propres essais.