OpenAI 高薪招募安全专家 应对 AI 自我进化风险
OpenAI 的目标是开发一种能够自我优化的 AI 工具。如今，这家公司正在为随之而来的风险做准备。 在过去六个月里，OpenAI 和 Anthropic 的编程工具取得了巨大进步之后，AI 系统所谓“递归式自我改进”的潜力，已经成为 AI 行业负责人关注的重点。 Demis Hassabis 本周表示，人类如今正站在“奇点”的脚下——也就是 AI 开始自我发展，并超越人类智能的那个时刻。 计划于今年上市的 OpenAI，最近发布了一个不同寻常的招聘岗位：公司正在寻找一名安全研究员，专门研究“当 AI 能够训练出更优秀版本的自己时”所带来的后果。 该招聘信息是本月为 OpenAI 的 Preparedness 安全团队发布的。岗位年薪总包为 25 万至 38 万欧元，招聘对象是“有经验的技术专家，以支持针对递归式自我改进的准备工作”。 招聘信息中写道： “这项工作建立在对那些目前尚不存在、但未来可能出现的问题的思考之上。” “因此，对于这一职位而言，具备审慎且具有战略性的思维方式尤为重要。”