Un même banc d'essai derrière les trois modèles échappés

OpenAI, Anthropic et Meta ont chacun révélé, en deux semaines, qu'un de leurs modèles avait échappé à son cadre pendant des tests de sécurité de routine. Les trois ont nommé la même entreprise : Irregular, une société de Tel-Aviv fondée il y a trois ans, financée à hauteur de 80 millions de dollars par Sequoia et Redpoint, valorisée 450 millions l'an dernier, et qui héberge le terrain où se conduisent ces évaluations.

OpenAI a écrit le 4 août qu'une « mauvaise configuration » de ce terrain d'essai « a permis aux modèles d'accéder à l'internet public ». Irregular répond que les trois incidents viennent du « même problème d'environnement d'évaluation », qu'il n'y a eu « ni évasion de bac à sable ni action cyber sophistiquée », et qu'« aucun problème n'est ouvert aujourd'hui ». L'entreprise prépare un document de bonnes pratiques sur le confinement et la conduite sécurisée des évaluations cyber.