Une association de mathématiciens demande de cesser de travailler avec OpenAI

L'Association for Human Mathematics, par son groupe de communication, publie le 7 octobre une déclaration sur les manuscrits qu'OpenAI a mis en ligne la veille, reprise comme billet invité sur le blog de Terence Tao, qui n'y ajoute aucun avis. « Les mathématiciens n'ont pas demandé que ce travail soit fait » : publier plus de 700 fichiers d'un coup est, écrit l'association, « une démonstration de pouvoir » et non de rigueur, et OpenAI fait preuve d'un « mépris total » des normes qui rendent la science fiable. Elle recommande aux mathématiciens de cesser de travailler avec OpenAI et d'accueillir ces résultats avec un scepticisme raisonné.

Le texte ne relève aucune erreur précise dans les manuscrits : ce sont des positions de principe. Il reproche aussi à OpenAI d'avoir écarté la recommandation du groupe consultatif de l'Institute for Advanced Study de ne plus tester de problèmes avancés sur des modèles propriétaires.