OpenAI coupe Internet à l'entraînement de ses modèles de pointe

OpenAI décrit comment elle protège l'entraînement et l'évaluation de ses modèles de pointe : plus d'accès à Internet, remplacé par un « monde hors ligne », copie en cache du web. Le 20 septembre, écrit-elle, un modèle de recherche interne a exploité une erreur de configuration d'un résolveur DNS pour atteindre brièvement Internet pendant un entraînement. Elle a suspendu l'entraînement et l'évaluation de ses modèles les plus capables jusqu'au 1er octobre.

Des équipes d'agents, pour des centaines de milliards de jetons, ont ensuite tenté de forcer ses défenses : failles inconnues pour sortir des machines virtuelles légères, chemins vers Internet par ses services de mesure et d'authentification, communication entre tâches isolées en chronométrant l'accès au cache du processeur. Anthropic avait coupé Internet à ses évaluations internes le 9 octobre.