OpenAI 首席科学家帕乔基(Jakub Pachocki)警告称,人工智能(AI)正在快速演进,越来越难以被人类理解和控制。
帕乔基在一份帖子中预计,出于安全考虑,各 AI 实验室将自愿放缓开发步伐,并希望”自愿减速能成为常态”,直至安全标准建立。
帕乔基认为,开发者可以尝试引导 AI 与人类利益对齐,也可以放缓开发速度。他对机器智能的快速崛起可能带来的后果表示担忧。
帕乔基在一份帖子中预计,出于安全考虑,各 AI 实验室将自愿放缓开发步伐,并希望”自愿减速能成为常态”,直至安全标准建立。
帕乔基认为,开发者可以尝试引导 AI 与人类利益对齐,也可以放缓开发速度。他对机器智能的快速崛起可能带来的后果表示担忧。