近日，全省智能教育技术与应用重点实验室朱佳教授团队研究成果“RaDIO: Real-Time Hallucination Detection with Contextual Index Optimized Query Formulation for Dynamic Retrieval Augmented Generation”被“The 39th Annual AAAI Conference on Artificial Intelligen （AAAI-2025）”正式接收。会议于2025年2月25日到3月4日在美国费城费城宾夕法尼亚会议中心举行。最近AAAI-25人工智能会议论文集已正式出版，论文正式被谷歌学术索引。论文由本校硕士研究生郭杭辉在朱佳教授指导下联合香港科技大学和意大利蒙西拿大学的学者完成，浙江全省智能教育技术与应用重点实验室和国家重点研发计划：农村地区教师教学能力智能评测与教学精准辅助技术研究(项目号：2022YFC3303600)提供支撑。
会议简介：
AAAI人工智能会议（简称为AAAI）是人工智能领域中最主要的学术会议之一，是CCF推荐A类会议，Core Conference Ranking A*类会议，清华大学THCPL推荐A类会议。
论文概述：
动态检索增强生成范式在大语言模型的文本生成过程中主动决定何时检索以及检索什么。然而，当前的动态检索增强生成方法在两个方面都存在不足：识别激活检索模块的最佳时刻，以及在触发检索后制定适当的查询。针对这一挑战朱佳教授团队引入了RaDIO方法，该方法通过实时幻觉检测和上下文索引优化查询策略，大幅提升了所有任务上的推理准确性，有效减少了幻觉的产生，取得了优异的性能。
论文亮点：
RaDIO提出了一种创新的无监督训练方法，专门用于实时检测文本生成中的幻觉现象。该方法充分利用了大语言模型（LLM）在生成过程中的内部状态信息，使系统能够在幻觉出现的瞬间精准识别并加以解决。这不仅显著提升了生成文本的准确性和可靠性，还有效降低了LLM在生成过程中因内容不确定性带来的风险。此外，RaDIO在文本生成过程中展现出卓越的动态优化能力。它能够根据LLM实时的信息需求，灵活调整检索的时机与内容，确保检索到的信息与生成任务紧密相关且高效有用。这种动态优化机制，使得RaDIO在处理各种复杂的文本生成任务时，都能提供精准且及时的信息支持。RaDIO还具备出色的领域泛化性能，尤其在垂直领域的大模型应用中，如教育领域的专用大模型，它能够显著增强模型的推理能力，为特定领域的知识传播和学习提供更强大的支持。
主要作者简介：
朱佳，浙江师范大学杰出教授，浙江全省智能教育技术与应用重点实验室执行主任，“浙江师范大学—海康威视智能教育联合实验室”技术负责人，ACM/IEEE/CCF高级会员，中国教育技术协会人工智能专委会常务理事。研究兴趣包括智能教育，人工智能和数据库的理论算法等。现已在相关领域发表中科院SCI/SSCI和CCF A/B论文100余篇, 著有《智慧教育技术与应用》一书。主持参与多项国家及省级科研项目和行业项目，涉及经费逾3000万。朱佳博士曾担任多个知名国际期刊和会议的联合主席，程序委员会委员和审稿人，国家自然科学基金评审专家，CCF犀牛鸟中学生计划课程专家及多家知名企业的技术顾问等。
郭杭辉，浙江师范大学计算机科学与技术学院硕士研究生，研究兴趣包括大语言模型，检索增强生成，机器学习等。现已在AAAI, ESWA等顶级会议以及SCI期刊上发表文章。
