Cohere oppose au plan Amodei des normes publiques plutôt qu'un cartel

Aidan Gomez, cofondateur et directeur de Cohere, répond à l'essai publié le 12 septembre par Dario Amodei, qu'il nomme : une feuille de route qui « demande aux gouvernements des exemptions au droit de la concurrence au nom de la sûreté ». Son objection tient en une phrase : « un régime de sûreté conçu par quelques laboratoires ne sera rigoureux que sur les risques que leurs propres dispositifs savent déjà évaluer ».

Ce qu'il propose déplace deux choses. Le cadre de risques serait élaboré publiquement et financé par la recherche publique, non par les budgets des entreprises ; et les évaluateurs seraient sans lien financier avec les évalués, sur le modèle de l'aviation ou du nucléaire, leurs critères et leurs conclusions publiés. « Un mécanisme qui ralentit tout le monde tout en préservant explicitement l'avantage commercial existant ne rend pas l'IA plus sûre. »