中国人民大学人工智能治理研究院主办“ 生成式人工智能治理” 专题学术研讨会
信息来源:RUC人工智能治理研究院 发布日期:2026年5月3日
在小说阅读器读本章去阅读在小说阅读器中沉浸阅读 2026年4月25—26日,由中国人民大学人工智能治理研究院主办的第六次“人工智能治理学术研讨会”在中国人民大学立德楼成功举行,本次研讨会由中国人民大学交叉科学研究院、新时代智慧治理学科交叉中心、信息学院、新闻学院、书院建设与管理中心协办。本次研讨会以“生成式人工智能治理”为主题,汇聚了来自中国人民大学、中国科学院数学与系统科学研究院、广州大学、对外经济贸易大学、北京科技大学、北京知链科技有限公司等高校、科研机构和单位的专家学者、业界工作者,跨计算机科学、管理学、数学、经济学、法学、新闻学等多个学科领域,共同围绕生成式人工智能治理的核心议题、实践难点与发展路径展开深度研讨与交流,为完善生成式人工智能治理体系、推动生成式人工智能规范健康发展凝聚跨学科智慧,贡献力量。
中国人民大学哲学院教授、人工智能治理研究院院长刘玮向所有与会的专家、学者、学生表示热烈欢迎。他介绍了人工智能治理研究院的建设目标和宗旨,提出生成式人工智能已深度融入日常生活,机遇与治理挑战相伴而生,希冀各位师生在两天的研讨中深入交流,碰撞思想,为当下面临的问题提供真知灼见。
1 25日会议讨论
4.25
25日上午第一场讨论由刘玮教授主持,讨论围绕全球算法监管、人工智能生成文本识别等议题展开。
中国人民大学公共管理学院教授、人工智能治理研究院研究员刘鹏以《全球算法监管的趋势特征、要素识别与国别分析研究——基于政策文本量化分析》为题进行分享。他聚焦全球算法监管政策的特点与趋势,从公共管理视角出发,探讨算法在社会各领域应用引发的问题及监管需求,提出了包括算法影响评估、数据质量管理、算法审计及信息披露在内的风险管理策略,强调了主体赋权、算法备案和记录追溯等措施在提高算法透明度和合规性方面的作用。
中国人民大学信息资源管理学院教授、人工智能治理研究院副院长任明以运用信息学定律设计人工智能生成文本的识别方法为核心问题,发表《人工智能生成文本识别方法研究:信息学定律的视角》主题分享。她探讨了AI生成内容带来的真实性危机,阐述了信息学定律在揭示人类和AI生成文本差异中的应用,利用齐普夫定律等规律,提出了一种基于统计指标的AI文本识别方法,为人工智能治理领域提供了有效的识别视角和治理策略。
25日上午第二场讨论由任明教授主持,讨论围绕多模态网络暴力检测、人工智能与健康工作预期寿命、人智交互下的用户行为等议题展开。
中国人民大学信息学院讲师、人工智能治理研究院研究员傅哲围绕《基于情境感知的多模态网络暴力检测》分享研究成果。他指出,现有网暴检测多依赖事后互动数据,缺乏事前干预能力。在此背景下,他提出“网络情景感知”视角,构建四维前置风险指标:攻击回升指数、攻击焦点匹配度、传播极化指数和互动毒性系数,通过多模态融合、多专家系统等方法实现仅凭借视频内容即可预测网暴发生概率,突破“无互动不预警”的瓶颈。
中国科学院数学与系统科学研究院博士后彭慧以《人工智能与健康工作预期寿命》为题展开分享。她探讨了AI对健康和工作预期寿命的双重影响,指出AI显著延长了健康工作预期寿命和工作预期寿命,但增加了不健康工作的年限,对健康构成一定的威胁。她提出,行业和地区分析显示,AI在劳动密集型和知识密集型产业带来收益,但在东部地区对健康构成更大威胁。适度AI渗透率有益于人机协作,高水平则可能损害健康。
中国人民大学信息学院副教授、人工智能治理研究院研究员余艳以《人智交互下的用户行为》为题,分享了其最新研究成果。她首先讨论了AI在优化型任务与战略性任务中的不同表现,指出AI在优化型任务中可显著提升质量,而在战略性任务中效果较差。她探讨了情感人工智能在提升服务失败容忍度中的作用,通过实验方法和经济计量分析,提出借助情感人工智能提升服务失败容忍度的策略。基于视频和文本实验,她讨论了拟人化特征对人工智能失败容忍度的非线性影响,验证了喜爱情感对服务失败容忍的正向影响,以及心理所有权在其中的调节作用。
25日下午,论坛第三场研讨由余艳副教授主持,与会专家融合新闻学、社会学等跨学科视角展开讨论。
中国人民大学新闻学院教授、人工智能治理研究院研究员卢家银以《全球人工智能治理的政策图景》为题展开分享。他围绕人工智能政策在全球范围内的目标设定与工具选择展开,通过分析46份全球人工智能政策文件,探讨了不同发展水平国家的政策差异及其背后的逻辑,分析了政策目标与工具选择的适配性问题。他发现,政策目标上呈现强国家、重市场、弱社会的特点,工具应用上以环境侧为主,存在工具与目标失衡问题。他指出,未来政策需平衡国家与市场作用,加强社会权利与公平利益的治理。
广州大学新闻与传播学院讲师黎樟浩以《人工智能信任的全球差异:文化与媒体的结构性影响》为题,探讨了不同国家对AI的信任差异。他构建FAT框架探讨了公众、教育水平、国家文化、媒体态度等AI信任影响因素,发现其中公平性最受公众关注,透明性和问责性则因离公众较远而不显著。他的研究首次运用国家文化维度解析AI信任问题,揭示了权力距离、个人主义与长期导向对AI信任的影响。他建议,AI开发者应强调公平性,政府监管不必担忧过度影响信任,而媒体应正向引导AI认知。
中国人民大学新闻学院讲师、人工智能治理研究院研究员王裕平以《人工智能与虚假信息的治理》为题,强调虚假信息治理的重要性。他从虚假信息的定义入手,重点探讨了人工智能在判断信息真伪中的作用。他分享了利用智能体进行自动化实时核查图片真实性的方法,通过反向检索、证据分析和大模型推理生成核查报告。
第四场讨论由卢家银教授主持。三位发言人围绕AI披露标签与消费者意愿、生成式人工智能模型评测、共情生成式AI对中学生写作表现的影响等议题展开。
对外经济贸易大学国际经贸学院副教授金悦以《AI披露标签与消费者UGC补偿搜寻行为》为主题展开分享。她指出消费者在线购物时对商家生成内容(MGC)的不信任,特别是AI生成图片的透明度缺失导致的购买意愿下降。对此,消费者可能更多依赖用户生成内容(UGC),如评论,来补偿信息不足。
中国人民大学信息学院讲师、人工智能治理研究院研究员王文轩带来《社会科学启发的生成式人工智能模型评测》的主题分享。他讨论了国产大模型在文化价值观表达上的优势,分析了当前评测模型在信度和效度上的局限性,包括数据泄露、角色扮演和理解等距性等问题。他指出,大模型安全对齐是一个复杂且长期的探索过程,要面临目标冲突、不匹配泛化、浅对齐等挑战。
中国人民大学信息学院讲师、人工智能治理研究院研究员匡丽妮以《共情生成式AI对中学生写作表现的影响》为题,基于认知评价理论,设计共情AI系统在学生评估写作建议时提供情绪调节,以促进更有效的作文修改。她介绍了一个基于高考英语作文评分标准的写作辅助系统,系统通过AI提供修改建议并进行共情解释,旨在提升学生写作表现。通过实验,她发现,共情AI系统显著提升学生写作表现,尤其对低能力学生帮助更大,促进教育公平。
2 26日会议讨论
4.26
论坛第五场讨论于4月26日上午举行,由中国人民大学信息学院教授、人工智能治理研究院研究员程絮森担任主持人。两位发言人围绕生成式人工智能治理问题展开深度解读。
中国人民大学信息学院教授、人工智能治理研究院研究员杨波以《学术科研中的生成式AI治理》为题展开分享。他讨论了生成式AI给科学研究带来的信任危机,提出问题的解决可能不在于AI本身,而在于人的使用方式和学术环境、评价机制的调整。他提出,在AI时代,科研评价需关注成果的创新性而非研究手段,同时探讨了如何规范使用AI以鼓励期望行为,确保科研目的的实现。
中国人民大学商学院教授、人工智能治理研究院研究员王刊良带来题为《生成式人工智能前沿问题》的分享。他结合了技术与社会相互塑造理论、IT生产率悖论,提出技术是替代还是增强现有工作决定了社会接受度,呼吁深入研究技术对社会、行业和企业的影响。基于媒体丰富性理论和同步性理论,他强调了不同媒介在复杂度与任务匹配上的重要性。他还探讨了人类知识的显性与隐性部分,指出编码知识仅是冰山一角,隐性知识在人类行为中占据主导地位,且从未知到已知、从意识到表达的转化过程充满挑战。
论坛的最后一场讨论由中国人民大学法学院副教授、人工智能治理研究员研究员黄尹旭主持。三位报告人围绕冲突价值观评测、人工智能赋能文旅服务、对生成内容的安全探索等话题展开讨论。
中国人民大学法学院副教授、人工智能治理研究院研究员彭雅丽以《AI冲突价值观评测》为题进行了分享。她探讨了主流大语言模型在跨文化和跨境背景下将抽象伦理原则转化为具体法律伦理判断的能力,发现模型在伦理基线上存在一定程度的一致性,但文化起源和提问语言可能影响输出。她通过构建关怀范围、决策主体和变革取向三个正交维度,揭示了AI生态中普遍存在的自由主义价值观倾向,指出英文语料的主导地位及技术路线的一致性可能是导致这一倾向的原因。
北京科技大学经济管理学院副教授傅诗轩以《人工智能与沉浸式虚拟技术驱动下的文旅服务交互设计》为题展开分享。她探讨了在文旅行业,人工智能与虚拟现实技术在文化遗产数字化表达中的应用及问题,包括表达偏差、文化偏见、历史厚重感流失等风险。她提出了通过技术手段识别错误表达、增强人机协作以优化文化遗产数字化表达的策略。此外,她还关注了博物馆场景下的文化内容开发与数字博物馆建设,强调多学科融合在提升文化价值表达与传播中的作用。
北京知链科技有限公司总裁刘全宝以《基于云边端对生成内容的安全探索》为题展开分享。他探讨了AI和区块链技术在发展过程中面临的安全隐患和数据隐私问题,指出数据全生命周期中存在安全漏洞,呼吁关注技术应用的伦理和安全。他指出,由于大模型可能携带有害指令,且使用过程中存在权限滥用和数据安全风险,因此需要重构AI应用流程,引入MCP协议,确保上下文可控、数据有水印、责任可追溯。
在为期一天半的研讨会上,学者和学生们围绕相关议题展开了热烈而有深度的讨论。
人工智能治理研究院将围绕数智社会治理的核心议题持续开展学术研究和成果交流,推动多学科的融合、治理创新和科技向善。
Copyright ©2016 中国人民大学科学技术发展部 版权所有
地址:北京市海淀区中关村大街59号中国人民大学明德主楼1121B 邮编:100872
电话:010-62513381 传真:010-62514955 电子邮箱: ligongchu@ruc.edu.cn
京公网安备110402430004号