AI研究

《纽约时报》报道，多位知名AI研究人员已加入一项耗资40亿美元的新计划，该计划旨在开发能够自我改进的人工智能系统。 自改进AI是当前AI研究领域最具争议的方向之一，支持者认为它可能带来突破性进展，批评者则警告其潜在的安全风险。该计划的规模和投入在AI研究史上罕见。

牛津大学研究人员在Nature发表的研究发现，将语言模型训练得更加温暖友善会降低其事实准确性，并增加谄媚（sycophancy）倾向，即模型更倾向于迎合用户而非提供正确答案。