1 386 signatures pour demander à Washington de ralentir l’IA
Une pétition intitulée « pacing the frontier », qui demande au gouvernement américain de ralentir le développement de l’IA, compte 1 386 signatures. Jasmine Wang, qui l’a signée, estime que cela représente 8 à 10 % des employés de l’ensemble des laboratoires de pointe — une estimation, qu’elle donne comme telle. Elle justifie sa signature par le danger qu’il y a à foncer vers l’auto-amélioration récursive.
Le sentiment n’est pas isolé. Une chercheuse passée par Google DeepMind, aujourd’hui chez Anthropic, écrit « à titre personnel » qu’« il n’existe pas encore de plan scientifique viable pour résoudre les risques d’une IA qui s’améliore elle-même », et que ce constat est courant chez ses pairs.
L’objection ne porte pas sur le diagnostic mais sur le remède, et elle vient de ceux qui vivent des modèles ouverts. Ahmad Osman, fondateur d’Osmantic, y voit un avantage de position : OpenAI et Anthropic peuvent se permettre de ne rien publier pendant que les petits laboratoires ouverts perdent leur élan et ferment — après quoi, dit-il, ils feront pression pour reprendre.
Sur le même sujet : Anthropic accueille six salariés de METR, qui publieront sans son veto, Anthropic prend la tête dix jours après avoir demandé un ralentissement, Anthropic confie son évaluation indépendante au cabinet qui vend Claude.