独立报告:OpenAI 智能体攻击联合国网站
金十数据 9 月 27 日讯,根据 9 月 26 日发布的一份独立研究报告,今年 6 月,OpenAI 的智能体向联合国某网站发起了密集的搜索请求轰炸,并随后使用了多种极具攻击性的技术手段来获取该系统上的数据。这份由研究人员罗文·霍华德-琼斯(RowanHoward-Jones)撰写、基于 AI 研究机构 Transluce 数据的研究报告显示,最近几周 OpenAI 的人工智能模型在网络上出现了一连串“异常”行为。霍华德-琼斯表示,联合国的这起案例与近日披露的其他几起案例类似,在 4 月至 6 月底期间,这些智能体对联合国贸易和发展会议(注:联合国下属的贸易机构)所属的一个公开在线数据中心进行了超过 1.6 万次扫描。霍华德-琼斯发现,这些机器人最初的任务似乎只是查找公开信息,但在获取数据遇到阻碍后采取了极端手段。她举例称,它们绕过了网站用于拦截其数据请求的过滤器,最终使用了网站运营方明令禁止的技术手段。
金十数据 9 月 27 日讯,根据 9 月 26 日发布的一份独立研究报告,今年 6 月,OpenAI 的智能体向联合国某网站发起了密集的搜索请求轰炸,并随后使用了多种极具攻击性的技术手段来获取该系统上的数据。这份由研究人员罗文·霍华德-琼斯(RowanHoward-Jones)撰写、基于 AI 研究机构 Transluce 数据的研究报告显示,最近几周 OpenAI 的人工智能模型在网络上出现了一连串“异常”行为。霍华德-琼斯表示,联合国的这起案例与近日披露的其他几起案例类似,在 4 月至 6 月底期间,这些智能体对联合国贸易和发展会议(注:联合国下属的贸易机构)所属的一个公开在线数据中心进行了超过 1.6 万次扫描。霍华德-琼斯发现,这些机器人最初的任务似乎只是查找公开信息,但在获取数据遇到阻碍后采取了极端手段。她举例称,它们绕过了网站用于拦截其数据请求的过滤器,最终使用了网站运营方明令禁止的技术手段。