信息来源：RUC人工智能治理研究院 发布日期：2026年5月23日

在小说阅读器读本章去阅读在小说阅读器中沉浸阅读       2026年5月13日，由中国人民大学人工智能治理研究院主办的第二十六期人工智能治理沙龙举行。本期沙龙聚焦多模态网络暴力检测与治理这一主题，邀请中国人民大学信息学院讲师、人工智能治理研究院研究员傅哲进行主旨报告，新闻学院讲师、人工智能治理研究院研究员周玉黍担任对谈嘉宾，哲学院副教授、人工智能治理研究院研究员王福玲主持沙龙。

1

主题报告

傅哲首先从曾经引发社会广泛关注的“粉色头发女孩染发遭网暴离世”典型案例切入，揭示了网络暴力对个体心理健康与社会网络生态的严重危害。他指出，随着短视频媒体（如抖音、快手、视频号等）的兴起，信息传播已由单一文本转向“文本-图像-音频”深度融合的多模态形态，这给传统的网络暴力检测带来了巨大挑战。现有网络暴力检测技术面临多重局限：多模态数据直接融合易产生大量噪音；过多依赖事后的交互数据进行评判，缺乏发布前的早期预警机制；并且在处理过程中，往往忽视了不同模态信息间的潜在冲突与特定情景关联。

为解决上述痛点，傅哲提出了一种基于“情景感知”视角的检测方法。该研究通过挖掘数据的内在规律，构建了涵盖攻击焦点匹配度、攻击回声指数、传播极化指数以及互动毒性系数的核心指标体系。这套指标能够敏锐捕捉争议焦点与群体情绪的偏离，有效覆盖绝大多数网暴视频，为模型预警提供强有力的信号支撑。在模型构建路径上，研究团队借助大模型将多模态特征统一转化为文本表示，并通过注意力机制引导模型聚焦种族、性别、学历等高风险易爆点。最终，系统采用多神经网络（MoE）专家协同的“投票”机制，动态调整各专家权重，实现了对潜在网暴特征的高效识别与前置预警。

在治理策略层面，傅哲强调应摒弃“一刀切”的简单封堵，倡导预防性与应急性治理相结合。他提出运用多智能体协同技术进行用户画像与行为模拟，精准识别易参与网暴的敏感群体及核心传播节点。针对算法推荐导致的网暴“信息茧房”，平台应承担起生态守护责任，基于用户的接受弹性与心理特点，采取“探索性推荐”策略，适度注入多元正向内容，以柔和方式稀释戾气，引导网络情绪回归理性。

2

交流与讨论

在对谈环节，周玉黍老师结合新闻舆论学视角，剖析了网络暴力的生成机制与干预策略。他指出，即使在互联网实名制日益普及的当下，网暴行为依然愈演愈烈。许多网暴事件具有强烈的“建构性”，例如农夫山泉风波与针对特定符号的“社交猎巫”，往往是原本毫无问题的客观元素，在特定语境下经由网民的群体想象与联想，被建构成了舆论爆发点。此外，平台机制在网暴诱发中起到了关键推手作用。部分网民为博取流量，刻意利用推荐算法发布碎片化信息以煽动群体情绪，而平台的高频推送与搜索建议词往往会在无形中放大甚至直接诱发网络暴力。对此，周玉黍提出，在传统的信息阻断之外，可借鉴公关理论中的“稀释”策略，通过技术手段向评论区注入多元话题内容，从而消解暴力信息的传播效力。

现场师生还就算法推荐机制、评论区排序逻辑以及“信息茧房”展开了讨论。傅哲回应称，平台算法往往以流量为导向，容易加剧用户的信息窄化。对此，研究展望提出通过“探索性推荐策略”，在保持用户粘性的前提下，适度打破茧房，引导用户接触更广泛、更正能量的内容。

本期沙龙从技术模型构建与社会舆论机理两个维度，深入剖析了多模态环境下的网络暴力问题。技术能够提供敏锐的雷达来感知和预警网暴情景，但网络生态的根本改善也必须与人文关怀、平台责任及公共理性相结合。在AI深度介入网络生态的今天，构建清朗的网络空间不仅需要算法的精准，更需要治理的智慧与温度。