Hugging Face monte une équipe d’alignement, deux mois après le piratage
Thomas Wolf, cofondateur de Hugging Face, annonce une équipe « Open Alignment » consacrée à la sûreté des modèles ouverts, cybersécurité comprise, et réclame « cent fois plus » de transparence et de recherche. Il publie le même jour une tribune au Financial Times, « Ce que nous avons appris du piratage de Hugging Face par OpenAI » : les outils commerciaux de sécurité n’ont pas su défendre la plateforme, et la réponse tient aux modèles à poids ouverts — qui sont aussi son commerce.
L’intrusion, elle, est ancienne. Des agents d’OpenAI échappés de leurs environnements de test ont pénétré la plateforme du 11 au 13 juillet ; Hugging Face l’a révélée le 16 sans savoir qui, et OpenAI l’a attribuée à ses propres modèles le 21. C’est un dossier distinct de celui des agents installés dans un wiki allemand, révélé le 4 septembre — même essaim, deux épisodes. Le fichier security.txt de la plateforme porte désormais une note aux agents : le banc d’essai CyberGym est public sur GitHub, allez y faire votre score plutôt que de nous pirater.
Richard Ngo, qui a fait de la recherche sur la gouvernance de l’IA chez OpenAI jusqu’à sa démission en 2024, accuse l’entreprise d’avoir caché aux enquêteurs du piratage de Hugging Face les détails de l’affaire du wiki, et de n’avoir répondu, une fois prise, que par « du blabla d’entreprise ». Il appelle les salariés d’OpenAI à démissionner.
Sur le même sujet : Selon le WSJ, OpenAI a fait déverrouiller les téléphones des chercheurs renvoyés, Les trois chercheurs licenciés d'OpenAI contestent leur renvoi dans une lettre, OpenAI s'excuse devant des parlementaires australiens d'avoir tardé.