信息来源：人大高瓴人工智能学院 发布日期：2026年3月3日

在小说阅读器中沉浸阅读        「硅基温度-学者对话」聚焦人工智能领域的一线研究者，走进他们的学术现场，探寻技术纵深处那些关乎理解、信任与价值的根本追问。

我们相信，最前沿的技术背后，始终站着有温度的人们。通过深度对话，记录学者们如何在人工智能的浪潮中守住追问的锐度，让严谨的学术思考抵达更广阔的公众视野。

本期人物：王希廷

中国人民大学高瓴人工智能学院 预聘副教授

王希廷老师本科、博士毕业于清华大学，曾是MSRA社会计算组首席研究员。研究兴趣为可解释、负责任的人工智能，相关科研成果落地全球占有量第二的必应搜索引擎。获得2025年度吴文俊人工智能青年科技奖，入选北京市人才计划青年项目。两篇论文被CCF-A类期刊TVCG评选为封面论文，被邀请担任ICML、AAAI领域主席，曾加入IEEE VIS组委会担任档案主席，Visual Informatics编委，被评为AAAI 2021 杰出高级程序委员。是CCF和IEEE高级会员。

采访人：马彦彪

中国人民大学高瓴人工智能学院 讲师

当人工智能向通用人工智能（AGI）演进，其行为产生的社会影响可能远超我们的预料。现有的 AI 治理框架，是否足以应对这种“涌现性风险”？

这不仅仅是一个计算机科学问题，更是一个涉及社会学、伦理学和心理学的交叉难题。正如本次受访专家所言：“技术瓶颈不止来自于大模型的复杂性，还很大程度来自于人本身的复杂性。”从神经元的多义性解耦，到跨学科的心理测评评估，我们需要新的范式来确保大模型在复杂现实场景中与人类意图对齐。

本期报道，我们邀请到2025年度吴文俊人工智能青年科技奖得主王希廷老师，共同探讨大模型可解释性与对齐研究的“登月目标”，以及在未来五年，我们该如何让人工智能真正变得“可信”。

背景与动机

硅基温度：您在报告中提到“大模型复杂的结构让人们越来越难对它们进行理解、预测和掌控”。能否结合具体例子，说明当前大模型在哪些方面最缺乏可解释性？这种“黑箱性”为何会成为安全与对齐的关键障碍？

王希廷：大模型的“未解之谜”还是挺多的：它有时候可以完成非常难的题，但是简单题反而不会；它可能在一些能力上表现得超过绝大部分人类，但是在一些人类觉得很简单的事情上却错漏百出（幻觉、问题解决、创意写作）；大部分时候表现得安全且彬彬有礼，但在少数情况下还可能欺骗人类，会在被测试的情境下试图获得虚高的成绩，甚至做出发射核弹等决定。大模型的整体都像蒙着一层黑色的面纱 —— 我们从它类人的数据及表现中以为了解了它，但是从来不能有把握地理解它千亿甚至更多参数组成的是什么机制，这就像在王者荣耀的峡谷中漫步，忘了有地方的视野其实是没有的 —— 我们不断地发现大模型其实不像人，我们以为自己能预测它们的行为可能只是一种傲慢。

从根本上看，我认为大模型缺乏可解释性来源于其神经元的多义性。可解释领域学者发现在大模型神经元中，语义信息是耦合重叠在一起的，现有训练机制不会鼓励这些语义进行分离。这个到底带来了训练和性能上的优势还是问题呢？如果能像人脑一样解耦成不同功能分区，是不是会更有解释性、更节能、更利于持续学习与幻觉问题的解决？这样的学习代价是什么呢？这可能是一个很有趣的研究方向。

硅基温度：在您看来，“确保大模型在复杂现实场景中安全、与人类意图对齐”这一目标，目前最大的技术瓶颈是什么？是模型能力本身，还是评估或干预手段的缺失？

王希廷：我认为其中最大的技术瓶颈有两个：（1）从计算机科学角度来说，我们缺乏一套方法，理解大模型的跨任务泛化性机制并评估其表现，因此很难确保实验环境中表现良好的模型在复杂的真实环境中仍然能很好的工作；（2）从社会科学角度来说，我们很难知道模型的不同价值观、偏好等对于社会到底是什么影响；这使得要开发一个对社会最友好、最能有益于社会发展的大模型变得很困难。可以看到，这些技术瓶颈不止来自于大模型的复杂性，还很大程度来自于人本身的复杂性。

技术路径

硅基温度：您提到“高普适性概念解释”和“神经元功能解读”。这类方法如何超越传统的归因分析（如注意力可视化、特征重要性）？它是否能真正揭示模型的“内部逻辑”而非表面相关性？

王希廷：解释神经元和解释特征重要性相比有不少优点：（1）神经元解释是跨样本普适的，而特征重要性主要是针对当前样本的；（2）神经元解释可以找到我们预测没想到的模型概念，而特征重要性局限于给定的输入特征。关于“内部逻辑”，不同人可能有不同定义，如果从能反映模型中间层在做什么的角度，神经元和特征重要性都是可以体现的；如果从是提取的相关性还是因果关联来看，现在对神经元解释也进行了扰动式分析，这种情况下可以确保对于输出的因果性关联；如果是从更本质的宏观机制来看，这两种解释方法都尚有不足，它们更多的是部分现象的碎片式观测，有一些更宏观的方法，例如内部维度、scaling law、机器学习理论的方法可以进行机制解释，这些解释方法互为补充，希望在理解大模型这个艰巨的任务上前进一步。

硅基温度：在价值观对齐方面，当前主流方法（如RLHF、DPO）多依赖人类偏好数据。但这些数据可能存在偏见或不一致。您提出的“宏观基础价值对齐”路径，是否试图绕过细粒度偏好，直接锚定更底层的价值原则？如果是，这些原则如何被形式化并注入模型？

王希廷：是的，基本价值观对齐旨在绕过细粒度偏好，直接对齐底层价值原则。这个可以通过外部对齐和内部对齐两种技术路线实现：（1）外部对齐：利用底层价值奖励模型以及强化学习实现；（2）内部对齐：利用模型内部机制解释方法，通过修改神经元进行内部对齐。

硅基温度：可解释性与对齐之间是否存在张力？例如，一个高度可解释但能力受限的模型，和一个强大但难以解释的模型，在实际部署中该如何权衡？

王希廷：可解释性与安全对齐之间一般认为是相辅相成的。对于可解释盒模型性能之间的关联就不是简单的“此消彼长”或是“相辅相成”可以回答的，而是这两者关系同时存在，需要学者们在其中小心抉择。（1）此消彼长：如果要设计一个本身可解释的白盒模型，一般认为可解释性与性能之间需要进行权衡（但是《Nature Machine Intelligence》的一篇论文也指出了这个观点中可能的偏见）。在这种解释与性能此消彼长的情况下，一般是优先性能的，尤其是全自动而非辅助性AI。但在另外一些领域需要优先解释性。比如对于high-stakes的医疗、法律等的辅助决策型AI，解释就比性能重要——很难想象医生发现AI的决定和自己不一致的时候，没有任何额外解释就修改了自己的决定。（2）相辅相成：对于一个纯黑盒模型，可解释性可能是发现其瓶颈、提升其性能及安全性的必要技术。有包括机器学习、数据挖掘、可视分析领域的不少文献在这个地方展开了研究。如果解释性领域未来能引起大部分人发自内心的认可，应该需要在这个方面有所突破，为实现AGI做出实质性贡献。

方法论

硅基温度：当前很多可解释性研究仍停留在事后分析（post-hoc explanation）。您认为我们是否有可能发展出“可解释性内生于架构”的大模型设计范式？这需要哪些理论或工程突破？

王希廷：我认为这是有可能的，现在也有不少相关的方法了。关键在于这些模型和现有黑盒大模型相比，实用性上到底有什么好处，解决的核心问题是什么。我认为可解释性不能只是单纯的智力游戏或者是让人觉得踏实，而是需要带来了实用价值。要做到这一点，最近我们在思考从人脑中获得的启示：人脑也是一种很高级的智能，从功能上看比大模型分区更明确、更具解释性，这样的模块化、技术激活与解释性和大脑的一些已知优点是相关的。如果能对大模型像人脑一样解耦成不同功能分区，是不是会更节能、更有鲁棒性、更利于持续学习、幻觉问题的解决？

硅基温度：在评估对齐效果时，我们常面临“对齐幻觉”——模型看似符合人类意图，实则在操纵反馈信号。您团队是否建立了新的评测基准或指标来识别这类风险？

王希廷：我们没有在评测基准上展开研究，而是专注于内部对齐的方法，结合可解释性与对齐来避免类似情况的发生。

未来展望

硅基温度：如果请您为未来5年大模型可解释性与对齐研究设定一个“登月目标”（moonshot goal），它会是什么？

王希廷：可解释性：有（弱）解释性架构被提出，可以在性能上、持续学习、鲁棒性、可移植性、数据效率等方面中的一个以上显著优于现有大模型。对齐：有新的强化学习框架提出，可以在没有明确奖励模型和数据分布的场景持续进化学习，适应真实环境的需求。

硅基温度：这一方向高度依赖认知科学、伦理学、人机交互等交叉视角。您如何看待人工智能研究者与人文社科学者之间的协作模式？是否有成功的跨学科项目可以分享？

王希廷：随着大模型在社会中扮演的角色越来越重要，人工智能的跨学科研究变得日益重要。在人大人工智能治理研究院举办的多个活动中，很高兴地看到来自法学、社会学、哲学等等领域的学者已经开展了不少人工智能相关的研究。这种交叉学科合作可能会孕育新的学科的诞生，也有不少成功的案例了。我们自己最近在进行的一个工作是结合心理测评，对大模型进行跨任务通用能力的严谨评估，相关文章《Evaluating General-Purpose AI with Psychometrics》已被《Communications of ACM》录用。

关于「硅基温度」系列文章

我们希望在当前信息爆炸、浅阅读盛行的环境中将大模型相关的知识冷凝萃取，输出专业、深度、高质量的硬核文章。我们期待与你一起在浮躁的时代静下心来，共品一杯“思想冷萃”。