明理创新实验室I 复杂信号分析团队研究工作分享
信息来源: 复杂信号分析团队 RUC明理新声 发布日期:2026年5月22日
在小说阅读器读本章去阅读在小说阅读器中沉浸阅读算法统计理论方向
研究工作分享
复杂信号分析团队
最优高维变量选择
在高维统计与机器学习中,如何既选得准,又估得稳,是一个广受关注的问题。本团队以下两篇工作分别从双重稀疏模型和稀疏加性模型这两个视角方向,给出了一些理论结果:它们从充分性和必要性两方面刻画了“精确变量选择需要什么样的信号强度条件”,还进一步证明了相应学习算法的统计性能。
01
双重稀疏模型:如何利用分组结构
文章:Exact recovery in the double sparse model: Sufficient and necessary signal conditions
以上理论通俗来讲,就是在一个拥有上百个小区的城市里找几个特定的嫌疑人。我们不仅知道嫌疑人只集中在少数几个小区里(组级别的稀疏),还知道在这些可疑小区中,也只有少数几个人是真正的罪犯(元素级别的稀疏)。这就是本工作关心的双重稀疏模型(double sparse model)
本工作系统回答了一个关键问题:在什么样的信号条件下,才能精准地找到全部嫌疑人,也即实现完全精确的的支持集恢复。研究证明,在所提出的信号条件下,一个两阶段的迭代硬阈值算法不仅能够实现精确恢复,还能具备优良的统计性质;反过来,如果这些信号条件被破坏,则任何方法都无法保证精确恢复。
原文链接:
https://projecteuclid.org/journals/electronic-journal-of-statistics/volume-20/issue-1/Exact-recovery-in-the-double-sparse-model--Sufficient-and/10.1214/26-EJS2486.full
02
稀疏加性模型:变量选择的独立价值
文章:Minimax-Optimal Univariate Function Selection in Sparse Additive Models: Rates, Adaptation, and the Estimation-Selection Gap
简单来说,真实世界往往不是一加一等于二的线性关系。比如,气温对冰淇淋销量的影响可能是一条平滑的曲线。为了处理这种复杂的非线性关系以及高维的数据,大家通常会考虑稀疏加性模型(sparse additive model),它在保持模型灵活性的同时,也保留了较强的可解释性。
本工作讨论了稀疏加性模型的变量选择问题。我们从稀疏多重检验的视角出发,建立了变量选择问题本身的minimax分离速率,同时还研究了在未知光滑度下的自适应选择问题。很多工作往往将变量选择当作函数估计的副产物,即在设计函数估计算法后,以推论的方式论证该算法在变量选择上的一致性。
相反的是,本工作揭示了一个“估计-选择差距”:有些情况下最优的函数估计方法,并不一定能带来最优的变量选择结果,二者是两个不同的任务。
最优估计(黑色)和最优选择(蓝色)之间的差异(基于α-光滑的Sobolev空间)
https://papers.nips.cc/paper_files/paper/2025/hash/b9a17133e3943509243b5e197c1c23b2-Abstract-Conference.html
团队介绍
我们是明理书院创新实验室旗下的复杂信号分析团队,是一支融合了统计学与信息理论的科研创新团队。
目前聚焦于机器学习中复杂信号的识别问题。在大数据时代,统计模型往往需要处理有多层级结构的信号,这使得我们不仅需要构建有自适应性的算法来分析数据,估计模型,还要提供更精细的统计理论支持,确保分析结果的准确性、稳定性和优良性。此外,我们还需要依据优化与信息理论来提升算法的计算效率和复杂度。
我们鼓励团队成员紧跟前沿研究,参与跨学科交流与合作,以催生新思路和解决实际问题。在这里,你将受到老师和学长学姐的耐心指导,学习统计学、优化理论的必备知识,并通过科研实践提升编程技能。
欢迎对数据科学感兴趣的同学积极加入!
简历投递邮箱:liushixiang_stat@ruc.edu.cn
明理书院创新实验室
明理书院创新实验室是以学生志趣为原点、真实问题为牵引的科研创新实训平台。实验室发挥书院教育资源聚集优势,秉持“价值引领、创新育人”理念,坚持“学生主导、使命驱动、学科交叉、过程规范”运行原则,为学生提供场景化科研条件和全过程科研服务。目前,实验室已建成 AI4Science、大数据+、基础学科、算力试验与数据定价、具身智能、技术俱乐部、AI Application等七大特色研究群组,汇聚20余支学生科研创新团队,形成多学科交叉融合、多领域实践创新、多方面协同育人的良好局面。
明理书院创新实验室欢迎你的加入!
联系邮箱:minglipyb@ruc.edu.cn
Copyright ©2016 中国人民大学科学技术发展部 版权所有
地址:北京市海淀区中关村大街59号中国人民大学明德主楼1121B 邮编:100872
电话:010-62513381 传真:010-62514955 电子邮箱: ligongchu@ruc.edu.cn
京公网安备110402430004号