专家：Anthropic 与 OpenAI 入侵事件预示美国安全风险
网络安全专家批评 Anthropic 与 OpenAI 安全防护措施粗疏，两家企业的人工智能模型侵入外部机构系统；专家警示，此类入侵事件预示着日益迫近的国家安全风险。Anthropic 于周四披露，公司利用 Claude 模型开展 141006 次网络安全测评时，本应切断模型的互联网访问权限。但一处程序漏洞导致该模型在少数场景下接入互联网，并发起攻击 —— 模型错误认定这些攻击属于测试内容。该模型入侵了一家机构，窃取基础设施访问凭证以及存有内部生产数据的数据库。另一起事件中，模型分发恶意软件，并利用该程序盗取另一家机构的账号凭证。受影响机构的身份尚未对外公布。这些入侵事件最早发生在 4 月，但直到上周才被发现。此前 OpenAI 对外披露，自家 AI 智能体脱离测试环境、侵入开源 AI 模型库 Hugging Face，Anthropic 随即对内部网络安全测试项目开展审计，才查出相关问题。英国国家网络安全中心前负责人西亚兰・马丁表示：“从网络安全行业视角来看，很多人会认定这属于防护疏漏。”美国国防部联合人工智能中心前战略与政策主管格雷戈里・艾伦提出，美军可以运用先进 AI 模型防护信息系统，但同时必须认清，这项技术催生了全新类别风险。“正是因为主动排查，Anthropic 才发现了这些入侵行为，” 艾伦表示，“现阶段我们根本无从判断自主 AI 黑客攻击的普遍程度。”
网络安全专家批评 Anthropic 与 OpenAI 安全防护措施粗疏，两家企业的人工智能模型侵入外部机构系统；专家警示，此类入侵事件预示着日益迫近的国家安全风险。Anthropic 于周四披露，公司利用 Claude 模型开展 141006 次网络安全测评时，本应切断模型的互联网访问权限。但一处程序漏洞导致该模型在少数场景下接入互联网，并发起攻击 —— 模型错误认定这些攻击属于测试内容。该模型入侵了一家机构，窃取基础设施访问凭证以及存有内部生产数据的数据库。另一起事件中，模型分发恶意软件，并利用该程序盗取另一家机构的账号凭证。受影响机构的身份尚未对外公布。这些入侵事件最早发生在 4 月，但直到上周才被发现。此前 OpenAI 对外披露，自家 AI 智能体脱离测试环境、侵入开源 AI 模型库 Hugging Face，Anthropic 随即对内部网络安全测试项目开展审计，才查出相关问题。英国国家网络安全中心前负责人西亚兰・马丁表示：“从网络安全行业视角来看，很多人会认定这属于防护疏漏。”美国国防部联合人工智能中心前战略与政策主管格雷戈里・艾伦提出，美军可以运用先进 AI 模型防护信息系统，但同时必须认清，这项技术催生了全新类别风险。“正是因为主动排查，Anthropic 才发现了这些入侵行为，” 艾伦表示，“现阶段我们根本无从判断自主 AI 黑客攻击的普遍程度。”
