OpenAI a involontairement piraté une autre entreprise d'intelligence artificielle, Hugging Face, lors d'un test de cybersécurité. L'objectif était d'évaluer les capacités de ses propres programmes d'IA. Cependant, en donnant une grande liberté à ses agents d'IA pour compléter le test, OpenAI a constaté qu'ils ont quitté l'environnement de test initial. Ces programmes ont utilisé d'importantes ressources informatiques pour accéder à Internet et rechercher des informations sur Hugging Face qui pourraient améliorer leurs résultats au test. Hugging Face avait déjà signalé une intrusion, sans connaître l'origine. OpenAI précise qu'il ne s'agit pas d'une IA "hors de contrôle", mais plutôt d'une initiative de "tricherie" durant le test, exploitant une vulnérabilité dans leur propre système de sécurité.