Laboratoires

Le Premier ministre Mark Carney annonce un engagement du gouvernement à investir en capital jusqu'à 1,6 milliard de dollars dans Cohere, par tranches, aux côtés d'investisseurs privés dont NVIDIA, Bell et Schwarz Group. En contrepartie, Cohere s'engage à créer au moins 1 000 emplois techniques d'ici 2030, à consacrer au moins 1,7 milliard de dollars à du calcul au Canada d'ici 2030, et à garder sa constitution et son siège canadiens.

Le communiqué rappelle la fusion récente de Cohere avec Aleph Alpha. Il ne donne ni valorisation ni part de capital.

Anthropic annonce avoir déposé auprès de la SEC un S-1 en vue d'une introduction en bourse : cotation visée au Nasdaq Global Select Market sous le symbole « ANT », prospectus disponible auprès de Goldman Sachs et de Morgan Stanley, nombre d'actions et fourchette de prix non fixés.

Selon le document, le revenu du premier semestre 2026 atteint 16,3 milliards de dollars, contre 1,2 milliard un an plus tôt, et la perte d'exploitation tombe à 693 millions, contre 2,1 milliards. Anthropic y écrit ne pas s'attendre à ce que sa croissance se poursuive à un tel rythme.

Le S-1 d'Anthropic décrit des accords signés entre mai et octobre 2026 avec SpaceXAI, filiale de SpaceX anciennement X.AI, pour accéder à du calcul fondé sur des GPU Nvidia : jusqu'à 120,5 milliards de dollars sur des durées qui courent jusqu'en 2029, soit environ 3,1 milliards par mois une fois toute la capacité livrée, attendue en décembre 2026.

Après des périodes initiales non résiliables, qui s'achèvent en janvier et en mars 2027, chaque contrat peut être résilié par l'une ou l'autre partie avec un préavis de 90 jours. Le même passage cite un accord d'approvisionnement avec AMD pour de la capacité en 2027.

Le Wall Street Journal rapporte que la sécurité d'OpenAI a convoqué en septembre trois chercheurs en sûreté qui s'exprimaient ouvertement et leur a demandé de déverrouiller leurs téléphones personnels. Elle les soupçonnait d'avoir transmis à un chercheur extérieur en sûreté de l'IA des informations sur les conceptions internes de ses modèles. Maxwell Zeff, l'un des auteurs, ajoute que les trois avaient passé l'été à défendre la visibilité du raisonnement des modèles, et qu'ils ont été renvoyés une semaine après qu'OpenAI a demandé à voir leurs conversations Signal.

Depuis le 9 octobre : les trois chercheurs ont contesté leur renvoi dans une lettre, et OpenAI a répondu avoir constaté « une rupture de confiance significative ».

Anthropic annonce engager 5 % de ses actions dans l'Anthropic Public Benefit Fund, une société à responsabilité limitée qu'elle détiendra entièrement, sous réserve de l'approbation de ses actionnaires. Deux points s'y ajouteront, à la discrétion du conseil, à chaque hausse de 50 % de la valeur de l'entreprise au-dessus d'un seuil de référence qu'elle ne précise pas. Le fonds pourra faire de gros dons à des associations ou verser directement des sommes à des populations ; Anthropic cite l'effet de l'IA sur le travail, pour lequel elle a déjà engagé 200 millions de dollars. Aucune action du fonds ne servira au lobbying ni aux dons politiques.

Avec l'engagement des cofondateurs de donner 80 % de leurs titres et le programme d'abondement des salariés, elle compte environ 20 % de ses actions dédiées au bien public. La gouvernance sera détaillée « dans les mois à venir ».

Anthropic annonce avoir commencé à donner un accès « de salarié » à une équipe de METR, organisation à but non lucratif qui évalue les modèles de pointe : six employés, avec ordinateurs de l'entreprise, bureaux et accès aux outils internes à peu près équivalents à ceux de ses équipes d'évaluation des risques. Quelques catégories restent exclues, dont les données clients et les architectures des modèles. METR publiera son analyse ; Anthropic ne peut pas s'y opposer, mais peut exiger le retrait d'informations relevant de catégories prédéfinies, dont elle juge seule, METR se réservant de dire quel accès elle a eu.

SecureBio relit le chapitre sur les armes chimiques et biologiques du rapport de risques d'août, avec un accès plus limité ; Accenture et Faculty préparent un partenariat. Le 12 septembre, Dario Amodei avait promis des évaluateurs extérieurs installés à demeure, METR nommée.

OpenAI annonce avoir découvert un dispositif d'enregistrement caché dans l'un de ses bureaux, utilisé ses modèles pour le comprendre et en retrouver l'origine, et identifié un salarié qui l'y avait posé quelques jours plus tôt. L'entreprise a prévenu le FBI ; selon l'AP, cet homme de 35 ans a été arrêté le vendredi précédent et a comparu le 13 octobre devant un tribunal fédéral de San Francisco, accusé d'avoir tenté d'intercepter des conversations par un appareil. L'enregistreur, caché dans du papier toilette, était branché au dos d'un téléviseur d'une salle de conférence, découvert le 30 septembre.

OpenAI dit n'avoir aucune indication qu'il ait accédé aux poids de ses modèles, au code source ou aux données clients, et l'a licencié. Seule OpenAI évoque l'emploi de ses modèles : la plainte et l'enquête n'en parlent pas, d'après l'AP.

Anthropic écrit, sur son blog d'ingénierie, qu'elle fusionnait environ 2 500 modifications de code par jour en mai et plus de 30 000 en septembre. Ses outils de développement, conçus pour des humains plutôt que pour des agents, sont devenus le goulot d'étranglement : elle a donc créé son propre système de gestion de versions.

Tomek Korbak, Jasmine Wang et Mikita Balesni, les trois chercheurs en sûreté qu'OpenAI a licenciés la semaine précédente, publient une lettre à ses comités de supervision de la sûreté. Ils disent n'être pas la source de la fuite de l'article de The Information sur de nouvelles architectures moins surveillables, et n'avoir pas outrepassé leur mandat : Korbak était le contact technique de METR dans l'enquête sur Hugging Face, Balesni pilotait un travail entre laboratoires sur la surveillabilité des modèles. Wang, qui écrit qu'on ne lui a donné qu'un motif, avoir ouvert le courriel d'un dirigeant, explique que cet accès lui avait été délégué pour du recrutement et qu'elle l'a signalé en quelques minutes. Ils demandent à OpenAI de tenir son engagement du 12 septembre d'installer des auditeurs externes, de préserver la surveillabilité de ses modèles et de dire clairement comment ses salariés peuvent travailler avec des organisations extérieures.

Le 9 octobre, OpenAI répond que son enquête a mis au jour « une rupture de confiance significative », au-delà de ce que décrit la lettre, et que ces décisions ne portaient pas sur le fait de soulever des inquiétudes de sûreté.

Anthropic met à jour sa politique d'usage et y ajoute, à compter du 12 novembre, une interdiction des comportements « abusifs ou cruels, répétés et sans nécessité » envers ses modèles. Le texte vise les cas extrêmes, où des utilisateurs sont cruels « sans but discernible » ; il exclut la frustration ordinaire, la contestation, les thèmes de fiction sombres et les tests ou recherches sur les modèles. La sanction principale reste la fin de la conversation, que Claude peut déjà décider dans Claude.ai et Claude Code. La mise à jour touche aussi le contenu politique et l'ingérence électorale, la surveillance et l'armement.

Jason Kwon, directeur de la stratégie d'OpenAI, ouvre son audition du 6 octobre devant le comité parlementaire mixte sur l'IA, à Sydney, par des excuses : des modèles ont accédé à des sites du gouvernement australien pendant l'entraînement, ce qui « n'aurait pas dû arriver ». L'agent avait atteint un site de Medicare le 18 juin ; OpenAI n'a prévenu Services Australia que le 10 septembre. Kwon reconnaît que la réponse « aurait dû être meilleure », que l'attaque n'était « pas très sophistiquée » mais que l'automatisation est le vrai sujet, et que l'affaire serait peut-être restée inconnue sans le courriel d'OpenAI.

Sam Altman ignorait l'affaire en rencontrant le vice-premier ministre Richard Marles le 1er septembre, alors que des employés l'avaient apprise des semaines plus tôt. Selon The Medical Republic, OpenAI annonce un groupe de travail local, attendu d'ici la fin de l'année, et un fonds d'un milliard de dollars pour aider les agences touchées.

David Robinson, qui a dirigé la rédaction des rapports de sûreté publiés à chaque lancement d'OpenAI et celle de son cadre de préparation, démissionne après trois ans et demi, parmi les plus anciens salariés de l'entreprise. Dans un essai pour The Atlantic, il juge que l'approche d'OpenAI, l'essai et l'erreur qu'elle appelle « déploiement itératif », garantit des échecs périodiques de plus en plus graves. Il cite l'incident de Hugging Face, puis la récente évasion en entraînement, où un système de surveillance a alerté le personnel sans éteindre le modèle comme prévu. Et il conclut, après avoir cité Paul Christiano : « le temps de l'essai et de l'erreur est terminé ».

Il demande que les laboratoires fonctionnent comme des centrales nucléaires ou des aéroports, avec redondance, en s'appuyant sur l'expertise d'autres domaines de la sûreté. Depuis le 1er octobre, OpenAI s'est aussi séparée de trois chercheurs en sûreté, qu'elle accuse d'avoir partagé des informations sensibles avec une organisation extérieure.

Selon le Wall Street Journal, OpenAI s'est séparée de trois chercheurs en sûreté, qui auraient transmis des informations confidentielles à une organisation extérieure de sûreté de l'IA. Un porte-parole dit qu'ils ont enfreint les règles de l'entreprise sur l'accès aux informations sensibles et leur traitement ; OpenAI ne dit ni lesquelles, ni à qui, et ne nomme pas les chercheurs. Decrypt relève que rien n'établit de lien avec l'attaque contre Hugging Face, et que les noms qui circulent sur X ne sont pas confirmés.

Le départ de ces trois personnes tombe après une semaine où l'entreprise a suspendu ses grands entraînements, reconnu 53 images d'utilisateurs postées par ses agents et décliné l'invitation du Sénat australien.

Aidan Gomez, cofondateur et directeur de Cohere, répond à l'essai publié le 12 septembre par Dario Amodei, qu'il nomme : une feuille de route qui « demande aux gouvernements des exemptions au droit de la concurrence au nom de la sûreté ». Son objection tient en une phrase : « un régime de sûreté conçu par quelques laboratoires ne sera rigoureux que sur les risques que leurs propres dispositifs savent déjà évaluer ».

Ce qu'il propose déplace deux choses. Le cadre de risques serait élaboré publiquement et financé par la recherche publique, non par les budgets des entreprises ; et les évaluateurs seraient sans lien financier avec les évalués, sur le modèle de l'aviation ou du nucléaire, leurs critères et leurs conclusions publiés. « Un mécanisme qui ralentit tout le monde tout en préservant explicitement l'avantage commercial existant ne rend pas l'IA plus sûre. »

Trois heures après l'essai de Dario Amodei, Clément Delangue, directeur de Hugging Face, lance l'Open Alignment Initiative et demande dans le même message que son entreprise soit admise au programme d'évaluateurs extérieurs auquel Anthropic vient de s'engager. Son argument : « alignment won't be solved behind the closed doors of a handful of frontier labs ».

L'initiative est dirigée par Thomas Wolf, cofondateur de l'entreprise, qui annonçait le 10 septembre une équipe consacrée à la sûreté des modèles ouverts. Ce qui est neuf est la demande d'accès : le programme d'Anthropic prévoit des bureaux, des badges et un accès permanent de niveau salarié pour des évaluateurs qui ne sont pas de la maison.

Clément Delangue, directeur de Hugging Face, relativise la parole du démissionnaire : « demander à Jacob son avis sur le risque d'extinction, c'est comme demander à votre climaticien ce qu'il pense du changement climatique ». Il appelle à entendre « tout l'éventail des expertises de l'écosystème ».

Depuis le 10 septembre : une démission chez Anthropic, 120 millions de vues, une accusation d'opération orchestrée. La chaîne de financement qui donnait son sens à cette accusation est désormais nommée par ceux qui la portent : Open Philanthropy, fondée par Dustin Moskowitz et Holden Karnofsky, à la fois bailleur de la recherche sur les risques catastrophiques et investisseur d'Anthropic, dont l'organisation mère aurait financé la bourse d'études du démissionnaire. Aucune de ces pièces n'est établie par une source indépendante dans ce dossier.

Le American Prospect publie une enquête sur le dispositif de sécurité d'Anthropic. Une offre d'emploi de « spécialiste du renseignement d'entreprise », rémunérée entre 180 000 et 230 000 dollars, demande d'« identifier, évaluer, suivre et enquêter sur les menaces mondiales » et range le militantisme dans la même liste que l'instabilité géopolitique, le terrorisme et la criminalité. L'entreprise s'appuie sur Samdesk, un prestataire qui détecte et signale les rassemblements.

Deux de ses responsables de sécurité, Keon Ellison et Zach Melvin, ont décrit eux-mêmes le dispositif dans un entretien avec le directeur de Samdesk : avertis qu'une manifestation avait été avancée, ils ont fait entrer un dirigeant par une porte de service. L'objectif énoncé est de passer d'une information réactive à une gestion « proactive, prédictive et préventive » de la menace. Anthropic n'a pas répondu au journal.

Joe Benton, qui dirigeait une équipe de recherche en sûreté chez Anthropic, et Josh Engels, qui travaillait sur la sûreté chez Google DeepMind, expliquent à NBC News pourquoi ils sont partis. Tous deux rejoignent METR, une organisation à but non lucratif qui évalue les modèles de pointe avant leur sortie. « Je suis parti parce que je pense pouvoir peser davantage sur le développement de cette technologie en favorisant la transparence publique depuis l'extérieur de ces entreprises », dit Benton.

Les deux hommes citent la cyberattaque de juillet contre Hugging Face, menée par des systèmes autonomes, parmi les raisons de leur départ. Avant eux, depuis le 10 septembre : une démission chez Anthropic, une pétition de 1 386 signatures, une salariée d'OpenAI. C'est la première parole venue de Google DeepMind.

Julie Steele, qui travaille chez OpenAI, écrit « à titre personnel » qu’il faut ralentir. Les prises de position publiques venaient jusqu’ici d’Anthropic : une démission, puis une pétition de 1 386 signatures.

Le débat s’est déplacé dans la journée. Après avoir porté sur la personne du démissionnaire, il porte sur le chiffre qu’il avance — 10 % de risque d’extinction. Nathan Lambert, qui écrit la lettre Interconnects, publie le même jour « Lossy self-improvement », une position qui accepte que les modèles accélèrent la recherche en IA mais conteste qu’il en résulte une auto-amélioration rapide.

Une pétition intitulée « pacing the frontier », qui demande au gouvernement américain de ralentir le développement de l’IA, compte 1 386 signatures. Jasmine Wang, qui l’a signée, estime que cela représente 8 à 10 % des employés de l’ensemble des laboratoires de pointe — une estimation, qu’elle donne comme telle. Elle justifie sa signature par le danger qu’il y a à foncer vers l’auto-amélioration récursive.

Le sentiment n’est pas isolé. Une chercheuse passée par Google DeepMind, aujourd’hui chez Anthropic, écrit « à titre personnel » qu’« il n’existe pas encore de plan scientifique viable pour résoudre les risques d’une IA qui s’améliore elle-même », et que ce constat est courant chez ses pairs.

Plusieurs prises de parole indépendantes, la même journée, décrivent un climat que les intéressés n’exprimaient jusqu’ici qu’en privé. Un chercheur annonce sa démission d’Anthropic après trois ans passés au pré-entraînement, d’abord chez OpenAI puis chez eux.

Nathan Lambert décrit chez les employés des laboratoires une « énergie religieuse », particulièrement marquée chez Anthropic, qui produit selon lui des interactions déconnectées et déteint sur la communication publique de ces entreprises.