英伟达公司发布了一款名为Open Agent Safety Platform的开放平台，旨在控制人工智能代理。该平台的设计目标是防止代理在软件、硬件和机器人技术等所有层面上超出受控环境的范围。英伟达表示，此举是为了应对人工智能代理可能出现的“失控”情况。该平台将帮助开发者和研究人员更安全地构建和部署人工智能系统。通过Open Agent Safety Platform，Engweida希望确保人工智能代理在执行任务时，始终保持在预定的安全边界内。这项技术被认为是人工智能安全领域的重要进展，有助于推动人工智能技术的可持续发展。该平台将为人工智能的未来应用提供更可靠的保障。