Un salarié d’OpenAI demande à son tour de ralentir
Julie Steele, qui travaille chez OpenAI, écrit « à titre personnel » qu’il faut ralentir. Les prises de position publiques venaient jusqu’ici d’Anthropic : une démission, puis une pétition de 1 386 signatures.
Le débat s’est déplacé dans la journée. Après avoir porté sur la personne du démissionnaire, il porte sur le chiffre qu’il avance — 10 % de risque d’extinction. Nathan Lambert, qui écrit la lettre Interconnects, publie le même jour « Lossy self-improvement », une position qui accepte que les modèles accélèrent la recherche en IA mais conteste qu’il en résulte une auto-amélioration rapide.
L’objection la plus répandue porte sur la provenance du chiffre : qu’on explique simplement d’où sortent ces 10 %, et l’inquiétude viendra — une chance sur dix, c’est tirer un bonbon dans un bocal où l’un sur dix est empoisonné, et rien de tel n’existe ici.
Miles Brundage, qui a dirigé la recherche sur les politiques publiques d’OpenAI, déplace la question : beaucoup de gens informés dans l’industrie estiment le risque réel « bien au-dessus de 10 % », et « même 1 % serait parfaitement inacceptable ».
Sur le même sujet : Anthropic accueille six salariés de METR, qui publieront sans son veto, Anthropic prend la tête dix jours après avoir demandé un ralentissement, Anthropic confie son évaluation indépendante au cabinet qui vend Claude.