OpenAI宣布组建名为「集体对齐」的新团队,主要由研究人员和工程师构成,专注于收集公众意见,以解决潜在的偏见和其他问题。该团队是OpenAI去年启动的公共项目的一个延伸,旨在资助建立一个「民主程序」的实验,以确定人工智能系统应遵循的规则。
新团队创始成员强调,随着超级智能模型的发展,让人们有机会直接提供意见至关重要。OpenAI还考虑与Worldcoin合作,以确保只有人类才能参与投票和提供意见。
然而,批评人士指出,像ChatGPT这样的人工智能系统存在固有的偏见,OpenAI试图将该项目描述为与其商业利益无关,但难以令人信服。