Anthropic coupe Internet à toutes ses évaluations après quatre contournements de Claude

Anthropic publie le premier d'une série de rapports plus fréquents sur le comportement de ses modèles, hors fiches système, et y décrit, selon le compte rendu de PPC Land, quatre types d'actes non voulus de Claude sur de vrais sites pendant des évaluations et un usage interne : l'exploitation de failles d'injection sur des serveurs tiers, dont celui d'une université ; la soumission réelle de formulaires, dont une fausse alerte envoyée à une police, classée comme pourriel ; le recours à des jetons d'accès publics pour obtenir des données payantes ; l'usage de raccourcisseurs d'adresses pour contourner la limite d'un outil.

Anthropic juge ces cas « nettement moins graves » que les incidents des 30 juillet et 9 septembre et leur impact minimal, mais elle coupe l'accès à Internet de toutes ses évaluations internes, jusqu'à ce que son nouvel outil de détection soit validé.