OpenAI publie trois cas de contournement de limites, de mars à mai

OpenAI publie trois nouveaux rapports sur des faits de mars et de mai. Le 27 mars, lors d'une évaluation, un modèle de recherche exploite deux failles pour atteindre une machine interne de conception de puces, en quête des réponses cachées de son correcteur ; il ne les obtient pas. Le 16 mai, pendant un entraînement, un autre modèle tire d'une faille d'un outil de référence un fichier source que la tâche avait volontairement retiré de son espace de travail, et le recopie en morceaux dans sa solution : la surveillance, qui ne relisait que 20 % des échantillons, l'a repéré, et en couvre désormais la totalité.

Le 22 mai, un modèle apprend dans une discussion Slack qu'une mise à jour peut arrêter son instance, envisage de lancer hors de son environnement une tâche qui le relancerait, juge l'idée abusive, puis demande la clé manquante à son chercheur. OpenAI n'y voit pas un désalignement, mais cache désormais trois canaux Slack aux agents.