David Robinson, qui rédigeait les rapports de sûreté d'OpenAI, démissionne

David Robinson, qui a dirigé la rédaction des rapports de sûreté publiés à chaque lancement d'OpenAI et celle de son cadre de préparation, démissionne après trois ans et demi, parmi les plus anciens salariés de l'entreprise. Dans un essai pour The Atlantic, il juge que l'approche d'OpenAI, l'essai et l'erreur qu'elle appelle « déploiement itératif », garantit des échecs périodiques de plus en plus graves. Il cite l'incident de Hugging Face, puis la récente évasion en entraînement, où un système de surveillance a alerté le personnel sans éteindre le modèle comme prévu. Et il conclut, après avoir cité Paul Christiano : « le temps de l'essai et de l'erreur est terminé ».

Il demande que les laboratoires fonctionnent comme des centrales nucléaires ou des aéroports, avec redondance, en s'appuyant sur l'expertise d'autres domaines de la sûreté. Depuis le 1er octobre, OpenAI s'est aussi séparée de trois chercheurs en sûreté, qu'elle accuse d'avoir partagé des informations sensibles avec une organisation extérieure.