腾讯AI Lab联合多家学术机构发布大模型幻觉问题评估

9月14日讯，近期，腾讯AI Lab联合国内外多家学术机构发布了面向大模型幻觉工作的综述，对幻觉的评估、溯源、缓解等进行了全面的探讨。

研究者根据大模型幻觉与用户输入、模型生成内容及事实知识的冲突，将其分为三大类。目前研究主要集中在与事实知识冲突的幻觉上，因为这最易对用户产生误导。与传统语言生成任务中幻觉问题不同，大模型幻觉面临数据规模巨大、模型通用性强以及幻觉不易被察觉等新难题。针对大模型幻觉的评估，已提出多种生成式和判别式的基准，以问答、对话等不同任务形式检验模型的幻觉倾向。这些基准各自设计了判定幻觉的指标，但可靠的自动评估仍有待探索。分析认为，海量低质训练数据以及模型对自身能力的高估是导致幻觉的重要原因。（站长之家）