何苯、 朱鹏教授谈AI环境下的检索系统与可信情报评估
信息来源:中国人民大学图书馆 发布日期:2026年6月19日
在小说阅读器读本章去阅读在小说阅读器中沉浸阅读FORUM OF LIBRARY
馆员论坛
6月12日下午,图书馆联合信息资源管理学院举办本学期第二次馆员论坛(总第61期)暨吴宝康大讲堂,邀请中国科学院大学何苯教授、南京理工大学朱鹏教授分别作题为“大模型生成内容对检索系统的影响探讨”与“不确定环境下的可信情报评估”的专题讲座,张斌馆长、信息资源管理学院卢小宾教授担任主持。除本馆馆员外,信息资源管理学院贾君枝教授、钱明辉教授及多名师生参与了活动。
何苯教授围绕大语言模型生成内容对信息检索系统的长期影响,重点讨论了在建设增强生成系统(RAG)广泛应用的背景下,大语言模型(LLM)生成文本可能因更易被检索系统偏好而不断占据检索结果前列,进而削弱人类原创内容可见性、降低信息多样性并放大错误信息的“沉默螺旋”现象。通过构建迭代模拟实验框架,展示了LLM生成文本持续进入检索索引后对系统性能、内容来源分布与结果多样性的影响。在此基础上,进一步介绍了效用驱动的多目标优化框架,通过平衡检索效果、生成文本占比、结果多样性与事实正确性等多重算法优化目标,以缓解大模型时代的信息生态失衡问题。
朱鹏教授立足国防情报评估对情报可信度的核心要求,系统探讨了国防情报的智能样本管理方法及可信建模与解释。针对错误标注、主观偏差、模糊样本、过时信息、敌方干扰等情况带来的数据标签偏误问题,采用元学习方法对标签噪声进行识别,以确保样本分类与真实情况的一致性。针对AI模型的可解释性问题,采用可解释人工智能(XAI)方法对模型性能进行多准则评估,并引入标签噪声过滤器以提高模型评估解释质量,有效提升了模型的可信性、可读性与透明性。
交流环节中,与会师生与两位嘉宾就大模型对非人类生成内容偏好的机制验证、大模型生成内容同质化对AI内容识别带来的挑战、军事领域大模型相关资讯的获取途径等问题展开了讨论。讲座作为馆员及学院师生理解大模型与信息检索系统的互动机制、了解国防情报领域的战略价值与发展现状提供了重要启发,为智能信息检索系统、大模型技术影响评价、情报质量评估管理等研究领域提供了重要借鉴。
Copyright ©2016 中国人民大学科学技术发展部 版权所有
地址:北京市海淀区中关村大街59号中国人民大学明德主楼1121B 邮编:100872
电话:010-62513381 传真:010-62514955 电子邮箱: ligongchu@ruc.edu.cn
京公网安备110402430004号