Politique

Mark Zuckerberg prend position contre le ralentissement coordonné : « chaque laboratoire a la responsabilité et l'intérêt d'avancer au rythme qu'exige un entraînement sûr, et le pouvoir d'agir seul pour que ce soit le cas. » Son argument est d'incitation, pas de règle — « la confiance et l'alignement deviennent vite les capacités les plus importantes pour différencier les agents et les modèles. Tout laboratoire qui néglige l'alignement prendra du retard. »

Il oppose au plan du 12 septembre un engagement unilatéral, et celui-là se vérifierait : « consacrer la majorité significative du calcul à servir les gens plutôt qu'à courir vers l'auto-amélioration récursive est l'un des meilleurs moyens de développer cette technologie en sûreté. Meta a pris cet engagement, et les autres laboratoires peuvent le prendre aussi. » Même réponse sur les évaluateurs extérieurs, le cœur de la proposition d'Anthropic : Meta en emploie déjà, et « les autres laboratoires n'ont qu'à faire pareil ».

Oleg Mürk, chercheur chez OpenAI pendant cinq ans et spécialiste de vérification formelle, publie un « manifeste pragmatiste » sur la régulation. « On n'a pas besoin de croire à l'apocalypse de l'IA pour redouter la décennie qui vient — ni à l'utopie pour être enthousiasmé par son potentiel. » Il récuse l'exercice du chiffre : ramasser l'incertitude dans une « probabilité de catastrophe = X % » n'est selon lui « pas une base très utile pour la science ou la politique ».

Son analogie est la seconde moitié du XXe siècle, contrôle des armements compris : « gérer le risque technologique n'a pas exigé d'abandonner la foi dans la science et le progrès. Le but n'était pas d'arrêter le développement technologique. C'était de le rendre survivable. » En post-scriptum, il ajoute qu'il faut « sérieusement envisager que l'alignement soit infaisable à court terme » et investir alors dans les moyens de contrôler des modèles qu'on ne sait pas aligner.

Jensen Huang, directeur général de NVIDIA, discutait lundi matin sur la scène du All-In Summit, à Los Angeles, de l'appel de Dario Amodei à ralentir, quand Donald Trump l'a appelé. Il a mis le président sur haut-parleur pour la salle.

« Ils font exactement le jeu de beaucoup de gens qui ne veulent pas que ça arrive », dit Trump. « Ça peut être des gens de la politique. Ça peut être aussi la Chine. Et nous n'allons pas laisser faire. C'est un canular. » Huang : « vous avez raison. Nous n'allons pas laisser faire, monsieur », sous les applaudissements. Le président ajoute que les centres de données sont « le pétrole des vingt, vingt-cinq prochaines années », et que « les robots ne vont pas prendre le pouvoir ». Elon Musk et Sam Altman s'étaient rangés derrière Amodei ; le fournisseur des puces, non.

Barack Obama écrit avoir été « encouragé cette semaine de voir les dirigeants des laboratoires de pointe s'accorder sur la nécessité de ralentir le rythme du développement de l'IA. Vu les enjeux, c'est un premier pas bon et nécessaire. » Il se démarque des deux camps : « je ne suis pas un accélérationniste de l'IA qui croit qu'elle mènera à une techno-utopie, et je ne suis pas un catastrophiste qui pense qu'elle conduira inévitablement à la destruction de l'humanité. »

Ce qui l'encourage davantage, écrit-il, est que la manière dont cette technologie se développe entre au centre du débat public. Elle « avance à la vitesse de l'éclair — plus vite même que ceux qui la fabriquent ne peuvent suivre », et ce qui décidera entre percées médicales et « perturbations économiques massives, inégalités accrues et catastrophe possible » dépend de « choix qui devraient être faits non seulement par les entreprises concernées, mais par nous tous ».

Shyam Sankar, directeur technique de Palantir — l'entreprise de logiciels d'analyse de données qui travaille pour l'armée et le renseignement américains —, vise le jour même de l'essai de Dario Amodei le mouvement de la sûreté issu de l'altruisme efficace : « EA AI safetyism ressemble de plus en plus au marxisme-léninisme de l'âge algorithmique. »

Il file la comparaison. « L'ancienne avant-garde revendiquait une connaissance privilégiée du cours inévitable de l'Histoire. La nouvelle revendique une connaissance privilégiée du cours probabiliste de l'Humanité. Toutes deux se servent d'un appareil intellectuel élaboré pour arriver à la même conclusion politique : un petit groupe de gens éclairés doit contraindre tous les autres pour leur propre bien. » Sa conclusion : cela « n'a jamais mené à rien d'autre qu'à des souffrances humaines monumentales ».

Le roi Charles III reçoit cette semaine en Écosse des dirigeants de NVIDIA, Google DeepMind, OpenAI et Anthropic, pour discuter de l'opportunité d'un jeu de principes partagés. Sont attendus Jensen Huang, fondateur et directeur général de NVIDIA, Demis Hassabis, fondateur et président de Google DeepMind, Paolo Benanti, qui conseille le Vatican sur l'IA, et Kanishka Narayan, ministre britannique de l'intelligence artificielle. Buckingham Palace dit que la réunion portera sur la façon dont l'IA peut servir la société et contribuer « à l'épanouissement des personnes comme de la planète ».

Le roi n'a aucun pouvoir réglementaire, et le Royaume-Uni a choisi une régulation légère, plus proche de la ligne américaine que de l'européenne. Charles convoque de la sorte depuis qu'il était prince de Galles, surtout sur l'environnement. La réunion est organisée par la Ditchley Foundation, une association britannique.

Donald Trump écrit sur Truth Social que « le seul contrôle, ou "garde-fou", dont l'IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les États-Unis en ont un, à revendre ! ». Il vise nommément le directeur général d'Anthropic : « l'administration Trump a empêché les "gens" de l'IA de faire des choses mauvaises, ou potentiellement mauvaises, comme Dario (Anthropic !), qui fait maintenant semblant d'être un "petit ange parfait" — et nous continuerons. »

Il écarte l'idée qu'il faille légiférer : « nous avons déjà un pouvoir PÉNAL et RÉGLEMENTAIRE considérable sur ces entreprises ! » Un second message attribue la controverse au succès américain — « ne tuez pas la poule aux œufs d'or ! » — et y voit « un complot MALSAIN contre l'IA et les centres de données, dont le seul à se réjouir est la Chine ». La veille, en Irlande, il s'était borné à parler de « forces très négatives ».

David Sacks, coprésident du conseil scientifique du président américain et, jusqu'en mars, son responsable de l'IA, répond à l'essai du 12 septembre de Dario Amodei, auquel Sam Altman s'est rallié : « allez-y ». Puis : « vous êtes la frontière. Sur n'importe quel critère raisonnable — part de marché, croissance du chiffre d'affaires, capacité des modèles —, vous deux avez un duopole sur l'intelligence de pointe. »

Suit une série d'injonctions. « Arrêtez de prétendre qu'il faut suspendre le droit de la concurrence pour que vous puissiez former un cartel. Arrêtez de prétendre qu'il vous faut une procédure d'autorisation réglementaire qui prime sur la responsabilité du fait des produits. Arrêtez de prétendre que METR est indépendante alors qu'elle est entremêlée aux investisseurs et au personnel d'Anthropic. » Sacks donne au ralentissement un motif moins avouable que la sûreté : l'exposition à la responsabilité produit, si un modèle permet une cyberattaque grave. Ralentir sans rien exiger en échange, conclut-il, vaudrait de la bonne volonté ; ralentir en échange d'un cadre réglementaire choisi, « nous saurons que ce n'était qu'une nouvelle tentative de capture du régulateur — ou une opération d'influence de saison électorale ».

Le Global Times, quotidien d'État chinois, écrit dans un éditorial que l'essai de Dario Amodei applique le « manuel de la guerre froide ». Son but réel serait d'« entraver le développement de l'IA chinoise par des barrières technologiques et des monopoles réglementaires, de maintenir l'hégémonie de Washington sur les technologies de pointe et d'exclure la Chine du système mondial de gouvernance de l'IA ». Cette « guerre froide silencieuse de l'IA » est « hypocrite et à courte vue », et écarter la Chine augmenterait « les coûts d'essai-erreur et les risques de perte de contrôle ». L'essai du 12 septembre demande en effet à Washington de ne plus vendre de puces ni d'équipements à la Chine et de « réprimer la distillation non autorisée par les entreprises des pays autoritaires ».

Donald Trump a écarté dimanche les appels à ralentir, y voyant l'œuvre de « forces très négatives » qui exagèrent : « nous devançons la Chine sur l'IA, et je veux que ça reste ainsi — celui qui gagne l'IA gagne. » Washington et Pékin doivent discuter des risques des modèles de pointe à la mi-septembre, et le sujet peut revenir au sommet Trump-Xi du 24 septembre.

La contestation ne porte plus sur ce qui a été dit, mais sur qui l’a dit. Parker Thayer, enquêteur au Capital Research Center — une organisation conservatrice qui traque le financement des associations —, y voit « le début d’une opération de relations publiques très sophistiquée et bien financée » destinée à obtenir des démocrates qu’ils régulent « l’IA jusqu’à l’anéantir » : le compte avait peu d’abonnés et aucune activité antérieure avant de parler au Wall Street Journal. David Sacks, coprésident du conseil consultatif scientifique de la Maison-Blanche, réclame que l’introduction en bourse d’Anthropic soit suspendue « jusqu’à ce que les affirmations de ce “lanceur d’alerte” puissent être examinées ».

La durée de son passage chez Anthropic, devenue l’enjeu, varie selon les sources : six semaines chez ses contradicteurs, trois mois chez une ancienne collègue, quatre mois selon l’entretien d’Axios, seul média à l’avoir interrogé directement. Ethan Perez, chercheur chez Anthropic, écrit qu’il « est arrivé en mai » et que l’équipe cherchait à le recruter « depuis environ deux ans ».

Jacob Coxon, qui a annoncé sa démission d’Anthropic, est devenu un personnage public en vingt-quatre heures : son message dépasse les cent vingt millions de vues, et TIME, le Wall Street Journal, NBC et Fox l’ont repris. Sur Fox News, il qualifie l’IA de « technologie possiblement la plus dangereuse » : « nous savons contrôler les armes nucléaires ; nous ne savons pas encore contrôler l’IA ».

La réaction politique est venue le même jour, et des deux bords. Le gouverneur de l’Illinois JB Pritzker appelle à « tirer la sonnette d’alarme, plus fort » et réclame « une action immédiate de l’industrie et de Washington ». Le sénateur républicain Ted Cruz juge certains risques « dangereux et effrayants ».