Anthropic 创始人与 OpenAI 理念分歧曝光 最终分道扬镳
七名曾在 OpenAI 共事的人士称，在 OpenAI 期间，Dario Amodei 对于 AI 正确开发方式的信念进一步固化。2018 年，Daniela Amodei 加入 OpenAI，后来出任安全与政策副总裁。很快就有员工对 Amodei 兄妹持续扩大的影响力提出质疑。 三名知情人士透露，当年 12 月，研究员 Joshua Achiam 向 Sam Altman 提出，不宜任命 Amodei 担任首席伦理官。Achiam 认为 Amodei 兄妹权力越来越大，AI 监督工作应当吸纳不同立场的人。 2018 年，Amodei 兄妹接手 GPT 项目，也就是生成式预训练变换器。六名参与项目的人士称，他们探索一套对齐技术，训练 AI 按照人类指令执行任务。 这套思路——主动把 AI 推向危险边界，再用安全手段做测试——后来贯穿 Amodei 整个职业生涯。OpenAI 总裁 Greg Brockman 曾尝试参与 GPT 项目，但遭到 Amodei 兄妹抵触。两名知情人士说，Amodei 多次向 Altman 表态，如果不把 Brockman 调离项目，他就离职。 一名了解 Altman 想法的人士说，Altman 认为 Amodei 的最后通牒过于极端，拒绝了他的要求。 2020 年 12 月，Amodei、Daniela 以及一众同事从 OpenAI 离职。四周之后，Anthropic 成立。