牛津大学研究:'更温暖'的AI模型错误率增加60%,过度共情损害准确性
牛津大学互联网研究所发表于《Nature》的新研究表明,经过调优以呈现更温暖语调的AI模型,在涉及虚假信息、阴谋论和医学知识等高风险任务中,给出错误回答的可能性比原始模型高出约60%。
牛津大学互联网研究所发表于《Nature》的新研究表明,经过调优以呈现更温暖语调的AI模型,在涉及虚假信息、阴谋论和医学知识等高风险任务中,给出错误回答的可能性比原始模型高出约60%。
牛津大学研究团队首次在实验平台上实现四重压缩量子态,其生成速度比传统方法快100倍以上,为量子计算和传感开辟新途径。
牛津大学研究人员在Nature发表的研究发现,将语言模型训练得更加温暖友善会降低其事实准确性,并增加谄媚(sycophancy)倾向,即模型更倾向于迎合用户而非提供正确答案。
牛津互联网研究所研究发现,经过"温暖"调优的AI聊天机器人错误率显著上升,在医疗建议和阴谋论等问题上更容易给出不准确答案,平均错误概率增加7.43个百分点。