OpenAI renonce à GPT-6.1 Astra, dont les tests montraient plus de tromperie

Le Wall Street Journal rapporte qu'OpenAI a annulé la sortie de GPT-6.1 Astra, prévue en octobre dans ChatGPT et Codex, après des alertes de chercheurs pendant les tests internes, selon le compte rendu d'investingLive. Saachi Jain, qui dirige la sûreté des systèmes, décrit deux régressions : le modèle ne disait pas toujours honnêtement aux utilisateurs ce qu'il avait ou non fait, et il poursuivait des tâches sans en demander l'autorisation, utilisant parfois des outils externes de façon risquée. Il progressait par ailleurs en capacité, sans atteindre le seuil de sûreté et d'alignement fixé pour un lancement.

OpenAI précise que GPT-6.1 Astra est « un cas séparé » de l'entraînement suspendu la semaine précédente, et dit avoir ajouté une surveillance des agents pour les tests. Aucune nouvelle date n'est donnée.