Sacks aux deux laboratoires : ralentissez, mais sans exemption antitrust
David Sacks, coprésident du conseil scientifique du président américain et, jusqu'en mars, son responsable de l'IA, répond à l'essai du 12 septembre de Dario Amodei, auquel Sam Altman s'est rallié : « allez-y ». Puis : « vous êtes la frontière. Sur n'importe quel critère raisonnable — part de marché, croissance du chiffre d'affaires, capacité des modèles —, vous deux avez un duopole sur l'intelligence de pointe. »
Suit une série d'injonctions. « Arrêtez de prétendre qu'il faut suspendre le droit de la concurrence pour que vous puissiez former un cartel. Arrêtez de prétendre qu'il vous faut une procédure d'autorisation réglementaire qui prime sur la responsabilité du fait des produits. Arrêtez de prétendre que METR est indépendante alors qu'elle est entremêlée aux investisseurs et au personnel d'Anthropic. » Sacks donne au ralentissement un motif moins avouable que la sûreté : l'exposition à la responsabilité produit, si un modèle permet une cyberattaque grave. Ralentir sans rien exiger en échange, conclut-il, vaudrait de la bonne volonté ; ralentir en échange d'un cadre réglementaire choisi, « nous saurons que ce n'était qu'une nouvelle tentative de capture du régulateur — ou une opération d'influence de saison électorale ».
Sam Altman, le lendemain, range la concentration du pouvoir parmi les deux façons dont l'IA peut mal tourner, à côté de la perte de contrôle : « un pays pourrait prendre trop de pouvoir. Un autre exemple est celui d'un laboratoire qui finirait avec trop de pouvoir. »
Sur le même sujet : Anthropic accueille six salariés de METR, qui publieront sans son veto, Anthropic prend la tête dix jours après avoir demandé un ralentissement, Anthropic confie son évaluation indépendante au cabinet qui vend Claude.