微软人工智能团队发布《人本主义人工智能行为准则》草案,提出以“人比 AI 重要”为核心理念,作为未来微软 AI 模型设计、训练和部署的指导文件。微软表示,AI 必须始终处于人类有意义的控制和监督之下,并将安全与人类控制置于其他目标之上。该文件目前尚未用于训练模型,微软计划经过为期 6 周的公众咨询后,于今年年底发布修订版,并从 2027 年起用于指导模型开发。
微软表示,AI 模型不应拥有权利或法律人格。它们不应被设计成能逃脱人类控制或欺骗用户。如果完成某项任务需要违反 AI 的指导原则,那么该系统就不应完成该任务。微软的“人道主义 AI”“拒绝竞相打造可能规避这些保障措施的全能超级智能”。“我们正在打造根本上实用且安全的东西,即使这意味着要在终极通用性、自主性或能力上作出妥协。”
 
 
Back to Top