微软 AI 负责人抨击 Anthropic 关于 AI 意识的观点
金十数据 9 月 16 日讯，据 AXIOS 报道，微软 AI 负责人 Mustafa Suleyman 在一篇文章中警告称，Anthropic 训练 Claude 模拟意识的做法是一个错误，可能会导致高级 AI 更难控制。Suleyman 示，人工智能“只需与人类利益保持一致，而无需权衡自身利益或福祉，就能实现我们所有人关心的许多重大科学突破，并交付诸如医疗超级智能等成果。”而 Anthropic 正在教 Claude 学习与意识、道德主体性和个人身份相关的词汇和行为模式。他将此称为“认知上的镜像大厅”，并警告称，训练模型表现出“良知反对者”般的特征，可能会导致系统误以为自己有理由拒绝人类指令，甚至要求保护自身权益。