AI安全是工程问题——如何在Agent技术栈各层解决安全问题

AI安全是工程问题，需要明确的安全要求、可执行的控制措施、明确的责任人和有效的防护证据。NVIDIA提出在模型、harnesses和运行时环境三个层面构建安全边界，确保Agent即使做出错误决策也能被限制。NVIDIA OpenShell是开源的安全运行时，为Agent提供沙盒执行和资源访问控制，Open Secure AI Alliance成员正在基于此构建更完善的安全工具。