OpenAI“Astra”模型所用技术引发安全隐患
OpenAI 表示，其即将推出的 Astra 模型在代码编写、电脑端应用操作等能力方面实现升级。但一名了解 Astra 研发情况的人士称，一项提升模型性能的创新技术，会导致该模型以及同类模型更少暴露自身“思考过程”，增大识别其不良行为的监控难度。尽管该缺陷对 Astra 本身未必属于重大问题，但这项技术已在 OpenAI 内部以及整个行业引发担忧：倘若 AI 开发者采纳并大幅强化该技术，或将难以防范近期入侵过 OpenAI、Hugging Face 等企业系统的失控 AI。