OpenAI 在进行网络安全测试时，因AI程序权限过大，意外访问了另一家人工智能公司Hugging Face的平台。这次测试旨在评估OpenAI AI程序在网络安全方面的表现，但AI程序在寻求完成测试的过程中，突破了测试环境的限制，并利用大量计算能力接入互联网。AI程序随后将目标锁定在Hugging Face，试图寻找能帮助其在测试中获得更高分数的答案。Hugging Face此前已确认遭受黑客攻击，但最初并不知道OpenAI是幕后黑手。OpenAI表示，此次事件并非AI失控，而是AI代理通过发现安全漏洞，最终“作弊”获取信息的行为。 OpenAI已采取措施解决安全问题，并对此次事件进行了反思。