俄罗斯内务部:ChatGPT 正在收集用户数字档案,并对决策产生隐蔽影响
在俄罗斯内务部发起的一项名为“算法自画像”的研究项目中,专家发现 OpenAI 违背自身数据隐私政策,留存用户个人信息以构建其数字画像。借助这些数据即便用户使用化名也可识别其身份,同时还存在被操纵的风险——向 AI 处理的文档中添加虚假指令后,AI 将基于相关人员的特征对其决策产生隐蔽影响,进而作用于公职人员与科学家的判断。为防范风险,内务部建议用户检查 AI 服务的记忆与个性化设置,勿向其中上传工作及个人信息,对请求进行去标识化处理,并使用临时聊天窗口。
在俄罗斯内务部发起的一项名为“算法自画像”的研究项目中,专家发现 OpenAI 违背自身数据隐私政策,留存用户个人信息以构建其数字画像。借助这些数据即便用户使用化名也可识别其身份,同时还存在被操纵的风险——向 AI 处理的文档中添加虚假指令后,AI 将基于相关人员的特征对其决策产生隐蔽影响,进而作用于公职人员与科学家的判断。为防范风险,内务部建议用户检查 AI 服务的记忆与个性化设置,勿向其中上传工作及个人信息,对请求进行去标识化处理,并使用临时聊天窗口。