Hugging Face lance son initiative d'alignement, et demande à évaluer Anthropic

Trois heures après l'essai de Dario Amodei, Clément Delangue, directeur de Hugging Face, lance l'Open Alignment Initiative et demande dans le même message que son entreprise soit admise au programme d'évaluateurs extérieurs auquel Anthropic vient de s'engager. Son argument : « alignment won't be solved behind the closed doors of a handful of frontier labs ».

L'initiative est dirigée par Thomas Wolf, cofondateur de l'entreprise, qui annonçait le 10 septembre une équipe consacrée à la sûreté des modèles ouverts. Ce qui est neuf est la demande d'accès : le programme d'Anthropic prévoit des bureaux, des badges et un accès permanent de niveau salarié pour des évaluateurs qui ne sont pas de la maison.