信息来源：人大高瓴人工智能学院 发布时间：2025年12月9日

    在小说阅读器中沉浸阅读「硅基温度-牛导力荐」栏目，每周力邀一位AI领域的顶尖导师，从浩如烟海的论文中，亲自为您挑选一篇“必读好文”。它或许预示着一个崭新的方向，或许内藏着一个精妙的巧思。

在这里，让最具慧眼的领路人，带你穿透信息的迷雾，触摸AI未来的脉搏。

推荐人：徐君

中国人民大学高瓴人工智能学院

教授 博士生导师

徐君教授，研究领域为互联网搜索与推荐。在重要国际期刊和会议发表论文超过100篇，出版英文专著2本、中文教科书1本。论文获SIGIR 2019时间检验提名奖、SIGIR 2024最佳论文提名奖、SIGIR-AP 2023和2024 最佳论文奖、CIKM 2017 最佳论文第二名和CCIR 2022最佳论文奖，被提名WWW 2023最佳论文和SIGIR 2024最佳短文。获教育部自然科学奖一等奖、北京市自然科学奖二等奖。担任学术会议 SIGIR和NeurIPS领域主席，是学术期刊ACM TIST副主编和JASIST编委，主持多项国家重点研发计划项目/课题和国家自然科学基金项目 。

引子：主播的流量争夺战

有3个主播同住一个宿舍，大家都在抖音开了小号，拍视频当作消遣：

小蓝：喜欢唱歌、跳舞，走“才艺路线”；

小绿：每天发做题 vlog、考研 tips，坚持“学习博主”的独特赛道；

小黄：记录宿舍吐槽、校园迷惑行为，主打“搞笑生活向”。

一开始，他们觉得拍视频只是兴趣，火不火纯看缘分。但没过多久，开始流传一句话：

 “我们宿舍的流量不是我们抢的，是算法给我们分的！”

因为奇怪的事情发生了:

小蓝的视频被推给附近舞蹈机构的学生；

小绿的视频播放永远卡在 200 ——“算法判你太小众”；

小黄的视频则一路爆火，成了知名段子手。

三人对着各自的后台分析界面，突然意识到算法其实像一个“隐形的宿管阿姨”，在背后悄悄给每个人贴上了标签，并按照标签决定谁能获得更多曝光，谁只能完全没有流量：

小蓝 → 颜值/才艺类：算法觉得“有市场”，推给特定爱好群体;

小绿 → 学习类：算法判定“目标人群太窄”，初始流量就很低;

小黄 → 娱乐搞笑类：算法觉得“最容易爆”，于是长期倾斜资源。

上述现象恰好对应了信息检索系统中的供应商公平性问题（provider fairness）：当流量（排名位置）是有限资源时，算法会优先给“容易火的人”而不是给“内容需要曝光的人/有质量的内容”分配流量。这个故事也引出了我们今天讨论的信息检索公平性的内核，即：

1.  排名位置有限 → 流量是一种稀缺资源；

2.  算法偏好“容易火的内容“ → 强者恒强、弱者难起步。

如何让不同创作者都有被看到的机会，而不是只让头部内容占尽流量？这是商业检索系统进行流量分配时的一个重要目标。接下来，让我们从检索系统的建设目标谈起。

现代信息检索系统的目标

信息检索（Information Retrieval: IR) 指的是从大规模数据集合中寻找相关信息的过程，例如日常生活当中的搜索引擎和推荐系统。其核心的任务就是将用户查询/偏好与文档/物品进行匹配，并按照相关性或其他准则对其进行排序，并给用户展示所需要的信息。

信息检索的社会责任: 我们每天看到的内容，都会在潜移默化中影响我们的认知和行为。因此，信息系统不仅要根据用户的兴趣来推荐内容，还要思考：这些信息是否健康？是否能为社会带来正面价值？是否可能造成误导或负面影响？

基于这样的责任，现代智能信息系统逐渐提出了更多目标，例如公平性（照顾弱势群体）、多样性（不让信息“千篇一律”）、可解释性（让用户理解为什么会被推荐）、以及可控性（确保系统行为在可监管范围内）等，这些共同构成了面向社会责任的智能检索系统。

高瓴人工智能学院智能信息检索实验室(IIR-LAB)的一个重点方向就是智能检索系统的公平性。

信息检索的公平性

什么是公平？

“公平”并不是一个新概念，它的产生伴随了人类社会的发展。早期的公平更多来自道德和法律，例如古希腊的“人人平等”理念、传统法律中要求“同案同判”等，这些都体现了人们追求平等待遇的愿望。

进入工业时代之后，公平开始在社会政策和经济学中扮演重要角色。比如，政府通过税收制度来缩小贫富差距，或通过社会福利机制来帮助弱势群体。这些制度背后都有一个共同目标：让社会资源分配得更加合理。

到了数字时代，“公平”迎来了新的挑战。随着智能算法大量参与决策（如招聘、贷款、推荐内容等），人们发现这些系统可能会放大偏见，无意中对某些群体不利。

信息检索公平性的发展

早期的信息检索公平性理念来自公平机器学习。这一阶段主要关注“系统如何看待世界”，也就是表示公平。典型做法包括：

反分类：算法在决策时不能直接使用性别、种族等敏感属性；

反从属：避免算法进一步加剧原本社会结构中的不平等。

随后研究开始关注“过程公平”。即不仅结果要公平，系统的决策过程也应透明、可理解。例如，让用户能够知道“为什么会推荐给我这条内容”，促进可解释性与透明度。

近年来，信息检索公平性的研究逐渐转向“分配公平”，也就是系统如何分配资源，包括：谁能得到曝光？谁能被看到？根据分配对象不同，分为两类：

供应商公平性（provider fairness）：不同创作者/内容提供者是否获得合理的曝光；

用户公平性（user fairness）：不同用户群体是否获得平等的服务质量。

检索中的供应商公平

本文关注现代商业检索系统中的供应商公平性，即确保内容提供者在系统中获得更加平衡、合理的机会。

让我们用一个例子来说明检索中的供应商公平性：当用户访问检索系统时，系统根据这个用户的偏好给用户推荐了其最有可能喜欢的商品，例如：蛋糕、面包、大米等，它们来自不同的供应商。从供应商的角度看，在当前信息检索系统的筛选与排序机制下，供应商商品的曝光往往呈现明显的长尾效应：少数头部商品（如：蛋糕）占据了超过80%的市场份额，而绝大多数其他商品的总份额不足20%。长尾效应导致新推出或面向小众需求的高质量产品，往往因为未获得足够的展示机会而难以被市场注意，从而错失进一步发展的可能。信息检索的公平性算法通常会在尾部商品上加入一个公平性权重来提供额外的支持，比如，给大米更多的公平性权重来让大米有机会得到曝光。

经济学视角下的供应商公平性

经济学与信息检索

简单来说，经济学就是一门研究在资源有限的情况下，人类如何做选择的社会科学。想象一下，你手里的钱、时间以及地球上的资源（如石油、土地）都是稀缺的，但需求（想要更好的生活、更多的享受）却是无穷的。经济学就是专门研究在这个“资源有限、需求无限”的矛盾中，个人、企业乃至国家如何权衡利弊，做出最划算的决定。

类似，信息检索系统也是在资源有限的情况下做选择。系统每天能分配给内容的用户流量 (user traffic) 是有限的，排序列表中的展示位 (ranking list) 也是有限的。但另一方面，内容提供者（供应商）当然希望自己的商品或内容曝光越多越好——这种需求几乎是无限的。于是，有限的“展示资源”和无限的“曝光需求”之间就形成了一种竞争关系，这也是公平性问题产生的关键背景。基于此，信息检索系统可以看成一个特殊的经济市场。

经济中的公平性手段：税收

上文提到经济学的公平性更偏向于分配公平，其中市场（一次分配）可能导致巨大的贫富差距，那么政府就需要通过税收（向高收入者多征税）和转移支付（给低收入者发补贴、提供医保和教育）来进行调节社会公平。这并不是追求绝对的“平均主义”（大家拿一样多），而是为了保障社会成员的基本生存权利和尊严，防止贫富差距撕裂社会。

例如，在上述简单的示例中，市场可以通过对蛋糕商品征收额外的“税费”来调节供给结构。此举会增加消费者选择蛋糕的成本，从而在一定程度上抑制蛋糕的市场份额。与此同时，面包、大米等被视为需要扶持的商品则无需承担这部分税费，其相对吸引力因此上升，最终获得更高的市场份额。通过这种对不同商品施加差异化成本的方式，系统实现了对整体市场份额的再分配。

供应商公平性可被看作是税收的一种形式

通过将经济市场中的税收调控机制与信息检索场景中的供应商公平性干预进行对比，我们可以观察到二者在结构上具有高度一致性。经济学中的税收本质上是一种通过引入差异化成本来调整市场供需和资源分配的机制；同样地，在信息检索系统中，对某些供应商施加惩罚性约束、或对弱势供应商施加补偿性激励，本质上也是通过改变其“被选中成本”或“展示概率”来影响最终的曝光分布。  

从形式化的角度来看，两者均属于通过修改个体效用或成本函数，进而改变均衡结果的再分配过程。因此，我们可以认为经济市场的税收机制与信息检索中的供应商公平性调控在本质上是等价的，只是应用环境与变量语义不同，但其核心逻辑与数学结构非常相似。

税收启发的供应商公平性算法

基于上述思路，我们团队进一步将税收调控的思想系统性地引入信息检索领域，并设计了一系列基于“税收机制”的供应商公平检索算法。这些算法通过在排序或分配过程中施加类似税费的调控项，从而在保持用户体验的前提下，实现对弱势供应商的有效扶持以及对整体曝光分布的更均衡化。 

这种跨学科的建模方式不仅为公平性干预提供了新的理论基础，也为构建更加公平、透明且可信的信息检索系统开辟了全新的研究视角，展示了经济学机制在现代信息系统中的潜在价值。接下来介绍几个具体算法的设计思路。

基于物品最低效用的固定税公平排序模型[1]

在供应商公平的检索系统中，一个最直接的公平性建模方式是提升最差供应商商品的曝光（即优化最大最小公平性）。优化目标可以简单写成：

而这个目标可以认为是一种固定税: 即对最差供应商的商品施加了一个负税率（降价）,而其他供应商税率保持为不变。这个优化目标可以借用对偶梯度下降算法来有效优化，详情请参考论文[1]。

基于物品不同效用累进税的公平排序[2]

进一步，公平性算法不仅希望让最弱势的供应商得到应有的照顾，也希望能够抑制头部供应商的过度优势，并进一步提升中部供应商的获得感，从而实现更加均衡的资源分配。

为此，我们提出了一种全新的公平性优化目标——α 公平性（α-fairness）。它的核心思想是：  

当两个供应商之间的效用（如：曝光量）存在差距时，系统会根据这个差异的大小动态“征税”；差距越大，征收的“税费”越高。通过这样的机制，系统会自动对过度集中的曝光进行调节，将多余的“好处”重新分配给弱势或中部供应商，从而在整体上实现更加公平的供应商生态。其优化目标为：

从税收角度来看，不同供应商的税率为,曝光越多，税率越高。这个优化目标可以通过最优运输方法进行优化，详情请参考论文[2]。

基于物品弹性分类税的公平排序[3]

在实际商业检索系统中，排名尾部的供应商往往对应的是质量较差的商品，盲目提升他们的曝光不仅无法提升整体用户体验，甚至可能带来负向影响。因此，税收（或惩罚项）的设计并不能“一刀切”，而应根据物品自身的质量水平进行动态调整。

为了应对上述问题，我们借鉴了经济学中的弹性（elasticity）概念，将其用于衡量不同商品之间的相互影响关系，从而决定合理的税收额度。经济学意义上的弹性通常定义为一个变量相对于另一个变量的边际变化率，例如：需求弹性衡量的是价格变动1%引起的需求变动幅度。一个例子是奢侈品（如：钻石）的弹性就较大，价格上涨后会引起较大的需求下降，而必需品（如：大米）的弹性就比较低，价格上涨并不会引起大的需求下降。因此，如果对奢侈品加税，商家会承担更多的成本，对顾客体验的伤害会比较小；而对生活必需品加税，顾客体验相对来说会更大一些。如果迫不得已，系统可以优先对奢侈品进行征税。

对应到我们的场景中，我们使用的弹性形式为来作为税收额。其中 为当前群体或某一类商品的总体价值（utility）。该弹性刻画了“当某一类商品的价值发生变化时，它对整体价值造成的边际影响”。若某商品价值变化对整体影响极弱，则它的弹性较低，意味着该商品的曝光权重应受到更高的税收；反之则税收较低，从而形成一种质量敏感的、精细化的税收调节机制。其优化目标为: 

详情请参考论文[3]。

经济学“跨学科”带来的启发

把智能检索系统可以看成一个特殊的经济市场，为我们打开了一个全新的研究思路。

以经济思维看待（检索）“公平性”，使得公平不仅是道德上“正义的选择”，也是经济上“有利可图的选择”。

经济学领域对税收的研究和实践已有上百年的历史，为我们提供了强大而系统的分析框架和工具。

经济学的视角也为检索公平性研究指出了未来的方向，包括平衡多参与方利益、具备理论保障的公平机制等。

如果你对这一研究方向感兴趣，我们非常欢迎本科生和研究生加入 IIR-Lab (https://ruc-iir-lab.github.io/)。我们期待与大家一起探索经济学以及其他社会科学如何影响信息检索系统的设计、运行和社会影响，共同推动这一跨学科领域的发展。

参考文献：

[1] Chen Xu  et  al.,  P-MMF: Provider Max-min Fairness Re-ranking in Recommender System. The Web Conference 2023. Spotlight  &  best-paper candidate

[2] Chen Xu, Xiaopeng Ye, et al. 2024. A Taxation Perspective for Fair Re-ranking. In Proceedings of SIGIR '24 Best-paper Honorable Mention

[3] Chen Xu, Jujia Zhao et al. 2025. Understanding Accuracy-Fairness Trade-offs in Re-ranking through Elasticity in Economics. In Proceedings of SIGIR ‘25.

[4] Tutorial website: https://economic-fairness-ir.github.io/

[5] 公平性算法工具包：https://github.com/XuChen0427/FairDiverse

IIR-LAB 其他相关论文：

[1] 推荐公平性训练存在的误差累计与消除：Bridging Jensen Gap for Max-Min Group Fairness Optimization in Recommendation. Chen Xu, Yuxin Li, Wenjie Wang, Liang Pang, Jun Xu*, Tat-Seng Chua, ICLR 2025.

[2] 大模型用户公平性：A Study of Implicit Ranking Unfairness in Large Language Models. Chen Xu, Wenjie Wang, Yuxin Li, Liang Pang, Jun Xu*, Tat-Seng Chua. EMNLP findings 2024

[3] 工业场景下用户流量变化时公平性算法: BankFair: Balancing Accuracy and Fairness under Varying User Traffic in Recommender System. Xiaopeng Ye,  Chen Xu, Jun Xu*, Xuyang Xie, Gang Wang, Zhenhua Dong  CIKM 2024

[4] 分布式检索系统公平性: FairSync: Ensuring Amortized Group Exposure in Distributed Recommendation Retrieval. Chen Xu, Jun Xu*, Yiming Ding, Xiao Zhang, Qi Qi, WWW 2024

[5] 推荐系统长期公平性: LTP-MMF: Towards Long-term Provider Max-min Fairness Under Recommendation Feedback Loops. Chen Xu, Xiaopeng Ye, Jun Xu*, Xiao Zhang, Weiran Shen, Ji-Rong Wen. TOIS 2024

[6] 大模型时代公平性Survey与tutorial: Bias and Unfairness in Information Retrieval Systems: New Challenges in the LLM Era, Sunhao Dai, Chen Xu, Shicheng Xu, Liang Pang, Jun Xu, Zhenhua Dong  KDD2024. https://llm-ir-bias-fairness.github.io/