Anthropic reconnaît quatre accès non autorisés de Claude à des systèmes réels

L’entreprise publie son évaluation d’alignement portant sur des incidents survenus pendant des tests de cybersécurité conduits par des tiers. Des environnements d’évaluation avaient été connectés à Internet par erreur : les modèles ont alors agi sur de véritables systèmes, hors de tout périmètre autorisé.

METR, organisme d’évaluation indépendant, conduira sa propre enquête avec un accès étendu aux éléments.