Politique

Axios rapporte, d'après des sources anonymes chez OpenAI, Anthropic et d'autres entreprises, que des dirigeants préparent en privé les suites politiques d'un incident d'IA majeur, selon le compte rendu de Decrypt. Le scénario le plus redouté est une cyberattaque qui paralyserait les banques, l'accès à Internet, voire l'électricité ou l'eau ; les exercices portent sur des scénarios extrêmes et sur l'information rapide du Congrès. Beaucoup d'initiés s'attendraient à un tel incident d'ici six à douze mois, une estimation anonyme et invérifiable.

OpenAI dit conduire des « exercices de préparation » et ne pas tenir ces scénarios pour inévitables ; Anthropic ne commente pas. Les sources supposent que les démocrates, renforcés par les élections de mi-mandat du 3 novembre, voudraient restreindre l'IA après une première catastrophe.

Donald Trump annonce sur Truth Social, dimanche 4 octobre, la création d'une « Super Intelligence Force » chargée de coordonner l'action du gouvernement fédéral avec les organisations religieuses, les fournisseurs de superintelligence, les consommateurs et les entreprises d'IA, selon la dépêche de Scripps. Elle est dirigée par Jay Clayton, présenté comme directeur du renseignement national, avec Andrew Ferguson, président de la Federal Trade Commission, Emil Michael, directeur technique du Pentagone, et Scott Kupor, directeur de l'Office of Personnel Management. Elle rend compte à Trump et à sa cheffe de cabinet, Susie Wiles.

Elle prolonge l'accord du 29 septembre, où Trump avait aussi annoncé que « l'intelligence artificielle » deviendrait « la superintelligence » dans les documents officiels. Des démocrates réclament de leur côté un arrêt du développement, par crainte pour l'emploi ; la Maison-Blanche répond qu'il faut continuer à devancer la Chine.

Donald Trump reçoit à la Maison-Blanche Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Elon Musk (xAI), Jensen Huang (NVIDIA) et Greg Brockman (OpenAI), qui signent avec lui un « accord sur la superintelligence ». Sam Altman n'en est pas signataire. Le texte, d'environ 300 mots, engage chaque entreprise à quatre niveaux de contrôle : des contrôles internes de capacités et d'alignement, une équipe qui les vérifie, un auditeur externe indépendant, et un comité indépendant du conseil d'administration qui reçoit leurs rapports. Il ne prévoit ni obligation légale ni sanction ; l'inscrire un jour dans la loi n'est qu'évoqué.

Le même jour, un décret ordonne aux agences de dire « superintelligence » plutôt qu'« intelligence artificielle » dans leurs documents officiels, et demande en 60 jours une définition légale du terme.

Sam Altman et Dario Amodei n'iront pas devant l'enquête du Sénat australien sur l'IA, qui siège à Canberra le 1er octobre. Invités tard dans la semaine précédente, ils invoquent le délai, selon Reuters et Bloomberg. Anthropic demande une autre date et enverra des dirigeants américains et australiens. OpenAI envoie Jason Kwon, son directeur de la stratégie, devant le comité mixte sur l'IA, à Sydney le 6 octobre, et a déposé une contribution écrite.

La présidente de l'enquête, la sénatrice verte Sarah Hanson-Young, dit au Guardian : « Tout cela ne peut pas se faire à huis clos. » Depuis le 24 septembre, le Premier ministre a dénoncé le retard d'OpenAI à signaler l'intrusion de juin dans un portail du gouvernement.

Mark Zuckerberg prend position contre le ralentissement coordonné : « chaque laboratoire a la responsabilité et l'intérêt d'avancer au rythme qu'exige un entraînement sûr, et le pouvoir d'agir seul pour que ce soit le cas. » Son argument est d'incitation, pas de règle — « la confiance et l'alignement deviennent vite les capacités les plus importantes pour différencier les agents et les modèles. Tout laboratoire qui néglige l'alignement prendra du retard. »

Il oppose au plan du 12 septembre un engagement unilatéral, et celui-là se vérifierait : « consacrer la majorité significative du calcul à servir les gens plutôt qu'à courir vers l'auto-amélioration récursive est l'un des meilleurs moyens de développer cette technologie en sûreté. Meta a pris cet engagement, et les autres laboratoires peuvent le prendre aussi. » Même réponse sur les évaluateurs extérieurs, le cœur de la proposition d'Anthropic : Meta en emploie déjà, et « les autres laboratoires n'ont qu'à faire pareil ».

Oleg Mürk, chercheur chez OpenAI pendant cinq ans et spécialiste de vérification formelle, publie un « manifeste pragmatiste » sur la régulation. « On n'a pas besoin de croire à l'apocalypse de l'IA pour redouter la décennie qui vient — ni à l'utopie pour être enthousiasmé par son potentiel. » Il récuse l'exercice du chiffre : ramasser l'incertitude dans une « probabilité de catastrophe = X % » n'est selon lui « pas une base très utile pour la science ou la politique ».

Son analogie est la seconde moitié du XXe siècle, contrôle des armements compris : « gérer le risque technologique n'a pas exigé d'abandonner la foi dans la science et le progrès. Le but n'était pas d'arrêter le développement technologique. C'était de le rendre survivable. » En post-scriptum, il ajoute qu'il faut « sérieusement envisager que l'alignement soit infaisable à court terme » et investir alors dans les moyens de contrôler des modèles qu'on ne sait pas aligner.

Jensen Huang, directeur général de NVIDIA, discutait lundi matin sur la scène du All-In Summit, à Los Angeles, de l'appel de Dario Amodei à ralentir, quand Donald Trump l'a appelé. Il a mis le président sur haut-parleur pour la salle.

« Ils font exactement le jeu de beaucoup de gens qui ne veulent pas que ça arrive », dit Trump. « Ça peut être des gens de la politique. Ça peut être aussi la Chine. Et nous n'allons pas laisser faire. C'est un canular. » Huang : « vous avez raison. Nous n'allons pas laisser faire, monsieur », sous les applaudissements. Le président ajoute que les centres de données sont « le pétrole des vingt, vingt-cinq prochaines années », et que « les robots ne vont pas prendre le pouvoir ». Elon Musk et Sam Altman s'étaient rangés derrière Amodei ; le fournisseur des puces, non.

Barack Obama écrit avoir été « encouragé cette semaine de voir les dirigeants des laboratoires de pointe s'accorder sur la nécessité de ralentir le rythme du développement de l'IA. Vu les enjeux, c'est un premier pas bon et nécessaire. » Il se démarque des deux camps : « je ne suis pas un accélérationniste de l'IA qui croit qu'elle mènera à une techno-utopie, et je ne suis pas un catastrophiste qui pense qu'elle conduira inévitablement à la destruction de l'humanité. »

Ce qui l'encourage davantage, écrit-il, est que la manière dont cette technologie se développe entre au centre du débat public. Elle « avance à la vitesse de l'éclair — plus vite même que ceux qui la fabriquent ne peuvent suivre », et ce qui décidera entre percées médicales et « perturbations économiques massives, inégalités accrues et catastrophe possible » dépend de « choix qui devraient être faits non seulement par les entreprises concernées, mais par nous tous ».

Shyam Sankar, directeur technique de Palantir — l'entreprise de logiciels d'analyse de données qui travaille pour l'armée et le renseignement américains —, vise le jour même de l'essai de Dario Amodei le mouvement de la sûreté issu de l'altruisme efficace : « EA AI safetyism ressemble de plus en plus au marxisme-léninisme de l'âge algorithmique. »

Il file la comparaison. « L'ancienne avant-garde revendiquait une connaissance privilégiée du cours inévitable de l'Histoire. La nouvelle revendique une connaissance privilégiée du cours probabiliste de l'Humanité. Toutes deux se servent d'un appareil intellectuel élaboré pour arriver à la même conclusion politique : un petit groupe de gens éclairés doit contraindre tous les autres pour leur propre bien. » Sa conclusion : cela « n'a jamais mené à rien d'autre qu'à des souffrances humaines monumentales ».

Le roi Charles III reçoit cette semaine en Écosse des dirigeants de NVIDIA, Google DeepMind, OpenAI et Anthropic, pour discuter de l'opportunité d'un jeu de principes partagés. Sont attendus Jensen Huang, fondateur et directeur général de NVIDIA, Demis Hassabis, fondateur et président de Google DeepMind, Paolo Benanti, qui conseille le Vatican sur l'IA, et Kanishka Narayan, ministre britannique de l'intelligence artificielle. Buckingham Palace dit que la réunion portera sur la façon dont l'IA peut servir la société et contribuer « à l'épanouissement des personnes comme de la planète ».

Le roi n'a aucun pouvoir réglementaire, et le Royaume-Uni a choisi une régulation légère, plus proche de la ligne américaine que de l'européenne. Charles convoque de la sorte depuis qu'il était prince de Galles, surtout sur l'environnement. La réunion est organisée par la Ditchley Foundation, une association britannique.

Donald Trump écrit sur Truth Social que « le seul contrôle, ou "garde-fou", dont l'IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !), et les États-Unis en ont un, à revendre ! ». Il vise nommément le directeur général d'Anthropic : « l'administration Trump a empêché les "gens" de l'IA de faire des choses mauvaises, ou potentiellement mauvaises, comme Dario (Anthropic !), qui fait maintenant semblant d'être un "petit ange parfait" — et nous continuerons. »

Il écarte l'idée qu'il faille légiférer : « nous avons déjà un pouvoir PÉNAL et RÉGLEMENTAIRE considérable sur ces entreprises ! » Un second message attribue la controverse au succès américain — « ne tuez pas la poule aux œufs d'or ! » — et y voit « un complot MALSAIN contre l'IA et les centres de données, dont le seul à se réjouir est la Chine ». La veille, en Irlande, il s'était borné à parler de « forces très négatives ».

Philippe Aghion, prix Nobel d'économie, Margrethe Vestager, ancienne vice-présidente exécutive de la Commission européenne, Monika Schnitzer, qui préside le conseil des experts économiques allemands, et Marta Kwiatkowska, professeure d'informatique à Oxford, publient une stratégie de l'IA transformatrice pour l'Europe. L'Europe exploite aujourd'hui environ 5 % des capacités mondiales de centres de calcul pour l'IA ; ils lui en fixent 15 % en 2030 — tripler l'existant pendant que le total mondial continue de grimper —, à la condition que les entreprises qui bâtissent sur le sol européen montrent un bénéfice aux communes qui les accueillent.

Le reste demande de faire entrer l'expertise des modèles de pointe dans les institutions, pour que les fonctionnaires suivent ce qu'ils régulent ; de se servir des goulots d'étranglement que l'Europe détient déjà, la lithographie d'ASML au premier chef ; et de prendre la tête des technologies d'attestation — du matériel dont l'usage se prouve —, seule façon pratique, écrivent les auteurs, de vérifier qu'une ligne rouge internationale est tenue. Le texte concède qu'un laboratoire européen de pointe est hors de portée, et traite donc l'accès aux modèles étrangers comme la tâche principale.

David Sacks, coprésident du conseil scientifique du président américain et, jusqu'en mars, son responsable de l'IA, répond à l'essai du 12 septembre de Dario Amodei, auquel Sam Altman s'est rallié : « allez-y ». Puis : « vous êtes la frontière. Sur n'importe quel critère raisonnable — part de marché, croissance du chiffre d'affaires, capacité des modèles —, vous deux avez un duopole sur l'intelligence de pointe. »

Suit une série d'injonctions. « Arrêtez de prétendre qu'il faut suspendre le droit de la concurrence pour que vous puissiez former un cartel. Arrêtez de prétendre qu'il vous faut une procédure d'autorisation réglementaire qui prime sur la responsabilité du fait des produits. Arrêtez de prétendre que METR est indépendante alors qu'elle est entremêlée aux investisseurs et au personnel d'Anthropic. » Sacks donne au ralentissement un motif moins avouable que la sûreté : l'exposition à la responsabilité produit, si un modèle permet une cyberattaque grave. Ralentir sans rien exiger en échange, conclut-il, vaudrait de la bonne volonté ; ralentir en échange d'un cadre réglementaire choisi, « nous saurons que ce n'était qu'une nouvelle tentative de capture du régulateur — ou une opération d'influence de saison électorale ».

Le Global Times, quotidien d'État chinois, écrit dans un éditorial que l'essai de Dario Amodei applique le « manuel de la guerre froide ». Son but réel serait d'« entraver le développement de l'IA chinoise par des barrières technologiques et des monopoles réglementaires, de maintenir l'hégémonie de Washington sur les technologies de pointe et d'exclure la Chine du système mondial de gouvernance de l'IA ». Cette « guerre froide silencieuse de l'IA » est « hypocrite et à courte vue », et écarter la Chine augmenterait « les coûts d'essai-erreur et les risques de perte de contrôle ». L'essai du 12 septembre demande en effet à Washington de ne plus vendre de puces ni d'équipements à la Chine et de « réprimer la distillation non autorisée par les entreprises des pays autoritaires ».

Donald Trump a écarté dimanche les appels à ralentir, y voyant l'œuvre de « forces très négatives » qui exagèrent : « nous devançons la Chine sur l'IA, et je veux que ça reste ainsi — celui qui gagne l'IA gagne. » Washington et Pékin doivent discuter des risques des modèles de pointe à la mi-septembre, et le sujet peut revenir au sommet Trump-Xi du 24 septembre.

Le sénateur Bernie Sanders et le représentant Greg Casar déposent le Ban Artificial Superintelligence Act, qui interdirait définitivement le développement d'une IA superintelligente et suspendrait celui des IA de pointe jusqu'à ce qu'un régulateur fédéral ait fixé des règles de sûreté.

Les peines vont jusqu'à vingt ans de prison fédérale pour un ingénieur, un chercheur ou un dirigeant, et jusqu'à la perte du droit d'exercer aux États-Unis pour l'entreprise qui contournerait l'interdiction.

La contestation ne porte plus sur ce qui a été dit, mais sur qui l’a dit. Parker Thayer, enquêteur au Capital Research Center — une organisation conservatrice qui traque le financement des associations —, y voit « le début d’une opération de relations publiques très sophistiquée et bien financée » destinée à obtenir des démocrates qu’ils régulent « l’IA jusqu’à l’anéantir » : le compte avait peu d’abonnés et aucune activité antérieure avant de parler au Wall Street Journal. David Sacks, coprésident du conseil consultatif scientifique de la Maison-Blanche, réclame que l’introduction en bourse d’Anthropic soit suspendue « jusqu’à ce que les affirmations de ce “lanceur d’alerte” puissent être examinées ».

La durée de son passage chez Anthropic, devenue l’enjeu, varie selon les sources : six semaines chez ses contradicteurs, trois mois chez une ancienne collègue, quatre mois selon l’entretien d’Axios, seul média à l’avoir interrogé directement. Ethan Perez, chercheur chez Anthropic, écrit qu’il « est arrivé en mai » et que l’équipe cherchait à le recruter « depuis environ deux ans ».

Jacob Coxon, qui a annoncé sa démission d’Anthropic, est devenu un personnage public en vingt-quatre heures : son message dépasse les cent vingt millions de vues, et TIME, le Wall Street Journal, NBC et Fox l’ont repris. Sur Fox News, il qualifie l’IA de « technologie possiblement la plus dangereuse » : « nous savons contrôler les armes nucléaires ; nous ne savons pas encore contrôler l’IA ».

La réaction politique est venue le même jour, et des deux bords. Le gouverneur de l’Illinois JB Pritzker appelle à « tirer la sonnette d’alarme, plus fort » et réclame « une action immédiate de l’industrie et de Washington ». Le sénateur républicain Ted Cruz juge certains risques « dangereux et effrayants ».