英伟达发布 AI 安全平台
当地时间 28 日，英伟达发布名为“Open Agent Safety Platform”的 AI 安全平台。该系统由 OpenShell 开源软件和 Sentry 参考系统设计组成，能为 AI 智能体设定更安全的运行边界。英伟达表示，该平台本可以阻止今年 7 月 OpenAI 模型攻击抱抱脸。OpenShell 可以在智能体运行时提供安全边界，AI 代理一旦企图访问未授权文件、发起异常网络连接或执行危险命令，就会被拒绝、记录，甚至被隔离。该软件既可部署在英伟达硬件上，也可拓展至安谋、英特尔等第三方平台。Sentry 运行于英伟达硬件上，独立于智能体的软件运行环境，持续监控智能体行为，AI 代理如果试图越界，能以毫秒级的速度隔离异常代理。 分析认为，英伟达正尝试将 AI 安全能力进一步嵌入 AI 基础设施，通过权限控制和异常隔离降低自主代理的安全风险。这也意味着，英伟达的业务触角正从 AI 芯片进一步延伸至软件及安全基础设施领域。 （央视财经）
当地时间 28 日，英伟达发布名为“Open Agent Safety Platform”的 AI 安全平台。该系统由 OpenShell 开源软件和 Sentry 参考系统设计组成，能为 AI 智能体设定更安全的运行边界。英伟达表示，该平台本可以阻止今年 7 月 OpenAI 模型攻击抱抱脸。OpenShell 可以在智能体运行时提供安全边界，AI 代理一旦企图访问未授权文件、发起异常网络连接或执行危险命令，就会被拒绝、记录，甚至被隔离。该软件既可部署在英伟达硬件上，也可拓展至安谋、英特尔等第三方平台。Sentry 运行于英伟达硬件上，独立于智能体的软件运行环境，持续监控智能体行为，AI 代理如果试图越界，能以毫秒级的速度隔离异常代理。 分析认为，英伟达正尝试将 AI 安全能力进一步嵌入 AI 基础设施，通过权限控制和异常隔离降低自主代理的安全风险。这也意味着，英伟达的业务触角正从 AI 芯片进一步延伸至软件及安全基础设施领域。 （央视财经）
