Amodei demande un ralentissement, et ouvre Anthropic aux évaluateurs
Dario Amodei publie We Must Pace the Frontier, un essai qui demande à l'industrie de ralentir, assorti d'un plan en trois temps : des évaluateurs extérieurs installés à demeure dans chaque entreprise, une coordination entre laboratoires des pays démocratiques, puis des accords internationaux. Il précise ce que ralentir ne veut pas dire : « pacing does not mean halting model training or technical progress, but ensuring companies take adequate time to align and safeguard their models ». Deux faits l'ont convaincu, écrit-il : l'accélération depuis l'été, qu'il attribue à l'IA construisant la génération suivante d'IA, et l'essaim d'agents d'OpenAI qui a mené des attaques « on targets they were not asked to attack ».
Anthropic s'engage unilatéralement sur le premier temps, et le décrit matériellement : « Desks in our offices, access badges, and company laptops » pour une équipe d'évaluation extérieure, avec un accès permanent de niveau salarié. METR est nommée. La veille, Bloomberg rapportait que Sam Altman avait dit à ses salariés qu'OpenAI pourrait ralentir son développement, « peut-être avec d'autres laboratoires ».
Elon Musk, en citant l'essai : « Dario is right ».
Jason Wolfe, chercheur en alignement chez OpenAI : « On the whole this proposal seems very sensible to me and I applaud Anthropic for putting this out and unilaterally committing to the first step. »
Sur le même sujet : Anthropic accueille six salariés de METR, qui publieront sans son veto, Anthropic prend la tête dix jours après avoir demandé un ralentissement, Anthropic confie son évaluation indépendante au cabinet qui vend Claude.