本文是LLM系列文章,针对《Cognitive Mirage: A Review of Hallucinations in Large Language Models》的翻译。
随着大型语言模型在人工智能领域的不断发展,文本生成系统容易受到一种令人担忧的现象的影响,这种现象被称为幻觉。在这项研究中,我们总结了最近对LLM幻觉的令人信服的见解。我们从各种文本生成任务中提出了一种新的幻觉分类,从而提供了理论见解,检测方法和改进方法。在此基础上,提出了今后的研究方向。我们的贡献有三个方面:(1)我们为文本生成任务中出现的幻觉提供了详细而完整的分类;(2)对LLM的幻觉现象进行理论分析,提供现有的检测和改进方法;(3)提出了未来可以发展的几个研究方向。由于幻觉引起了社会的极大关注,我们将继续更新相关的研究进展。