Paul Christiano entre au conseil d’OpenAI, qu’il évaluait du dehors

Le fondateur de l’Alignment Research Center siégera au comité sûreté et sécurité, chargé de la supervision. OpenAI a confirmé la nomination ; Christiano l’a annoncée de son côté dans un texte où il justifie sa décision par « la trajectoire récente des capacités » et la nécessité d’un contrôle rapproché.

Il est coauteur, en 2017, de l’article qui a introduit l’apprentissage par renforcement à partir de préférences humaines — la technique de réglage sur laquelle repose ChatGPT. Il a ensuite fondé l’Alignment Research Center, dont les évaluations de capacités dangereuses figurent dans la fiche technique de GPT-4. Il rejoint donc le conseil d’un laboratoire qu’il a contribué à outiller, puis à évaluer de l’extérieur.