人工智能立法专题暨网络法读书会第52期通知 (附专题文献)
信息来源:RUC人工智能治理研究院 发布日期:2026年5月30日
在小说阅读器读本章去阅读在小说阅读器中沉浸阅读以下文章来源于人大未来法治研究院 ,作者人工智能法研究组
人工智能立法专题
暨网络法读书会第52期通知(附专题文献)
前言
5月26日,中国人民大学法学院人工智能法研究小组发布《人工智能立法学术纲要》,该纲要梳理了涉及人工智能法的五大板块、二十大主题、近二百个难点重点问题。为了真正实现对人工智能立法的学术性理解,中国人民大学法学院人工智能法研究小组将进一步举办系列读书会,对人工智能法所涉及的板块、主题与难点重点问题进行逐一研究,通过学术文献的深入阅读与讨论加深对人工智能立法相关问题的理解。读书会将同时注重前沿性与传统性,既关注人工智能带来的新型前沿法律议题,也特别注重传统法律制度与法学理论在人工智能治理与法治建设中的作用。
读书会将以习近平法治思想为指导,坚持社会主义核心价值观,鼓励参与者对相关文献采取实事求是的学术批判,深化对人工智能立法中相关问题的认识。读书会暂时列举的文献主要以外文文献为基础,但在读书会过程中,读书会将广泛参考与阅读大量中文学术文献。在人工智能法研究中,已经有大量的中文文献做出了前沿而深入的研究,部分研究已经达到世界前沿水准。本读书会列举的文献主要为外文文献,这主要是因为中文文献很多且非常容易获取,而相关外文文献较少为中文学界关注。此外,外文文献所阐述的问题对于人工智能领域的涉外法治建设、参与人工智能国际治理也具有重要参照意义,可以为我国的人工智能法治建设提供正反面镜鉴。
本读书会为开放性的读书小组,我们热烈欢迎老师、同学以及实务部门的朋友参与,欢迎青年学者和同学们报名做文献报告。一如既往,本读书会强调“实质大于形式”, 我们希望读书会能够为人工智能立法提供更为坚实的参考与智慧贡献,同时防止人工智能法学术研究的“浮躁化”“泡沫化”。
人工智能立法专题第1期
主题:人工智能风险规制与发展和安全的平衡
部分指导老师:
周汉华 中国法学会网络与信息法研究会常务副会长兼秘书长、同济大学法学院特聘教授
赵 鹏 中国政法大学法治政府研究院院长、教授
周 辉 中国社科院法学研究所网络与信息法研究室副主任(主持工作)、副研究员
丁晓东 中国人民大学法学院副院长、教授
张吉豫 中国人民大学未来法治研究院执行院长、教授
会议时间:2026年6月3日晚7-9点
线下地点:中国人民大学明德法学楼601
线上参会:腾讯会议 会议号:606-6993-9120
人工智能带来哪些风险?哪些风险需要立法进行应对,哪些风险可以通过市场机制、自我规制解决?就立法而言,人工智能风险规制是否应当进行分类分级规制?如果分类分级应当如何在法律制度上实现?当前不同国家和地区对人工智能风险的认知存在重大差异,这些风险认知哪些是理性的,哪些是非理性的?人工智能的风险认知是否可能受到国情与文化的影响?人工智能风险规制也可能对发展造成影响,如何维持人工智能风险规制中发展与安全的平衡?法律如何设计平衡发展与安全的制度标准?如何赋能人工智能可信发展?如何看待安全评估、影响性评估等制度工具?如何将伦理和法律规则嵌入系统架构设计?人工智能的风险监管的部门职责应当如何进行设计?是否应当按照传统行业和已有的行政监管机制进行监管?不同机构与部门如何协调?
必读文献
参考文献
其他主题与待阅读和讨论文献
人工智能伦理、科技演进
与法律稳定性的平衡
人工智能科技演进日新月异,而法律则具有相对稳定性,人工智能立法有何特殊性,如何避免“一立法就过时”的困境与挑战?人工智能立法可以从过往的新兴科技规制中吸取何种经验?人工智能企业和行业的自我规制是否可以更及时有效回应现实问题,其存在哪些外部性问题需要法律进行强制性规定?法律的强制性规定如何与企业和行业的自我规制相协调?什么是人工智能伦理规范?人工智能伦理审查与现有的个人信息保护委员会审查、医疗等领域的行业性审查的关系如何理解?如何发挥人工智能伦理规范的治理功能?人工智能伦理是否是一种软法,其法律强制力如何设置?如何定位人工智能科技伦理审查制度?为了维持科技变化与法律稳定性平衡,行政规制与司法救济应分别扮演何种角色?行政规制、侵权法等制度工具如何发挥其比较优势,如何进行协调配合?
必读文献
参考文献
人工智能美欧立法比较
与我国涉外法治建设
人工智能的发展与法律规制,美国与欧盟是涉外法治中较为重要的两个国家与地区。如何看待美国人工智能立法的整体性框架与思路,特别是特朗普政府上台以来美国人工智能联邦规制机构在人工智能规制倾向上的微妙变化?如何看待美国科罗拉多州、犹他州、加州等若干州的重要立法?如何看待欧盟的《人工智能法》及其与已有欧盟数字监管法律之间的关系?如何看待欧盟《数字综合法案》在人工智能监管方面的调整?在人工智能立法上,欧盟是否还能发挥所谓的布鲁塞尔效应?如何看待美欧在人工智能法律制度的差异与博弈?相比美国、欧盟以及域外的人工智能立法,我国的人工智能立法应当坚持何种原则,采取何种制度?人工智能背景下,我国的数据跨境等相关制度如何设计?我国的人工智能法律制度如何发挥社会主义制度优越性,如何参与全球人工智能治理?
必读文献
参考文献
生成式人工智能
与内容治理的法治框架
生成式人工智能可能带来侮辱诽谤、虚假信息、谣言、幻觉、网络暴力等一系列问题,如何建构生成式人工智能内容治理的法律框架?生成式人工智能的内容生产如何建构有利于信息流通、人民民主、对外传播的法律制度框架?对于生成式人工智能的供应链上的不同主体与行为,例如数据收集、数据清洗、预训练大模型、大模型调整与优化、大模型发布与系统部署、用户使用,这些不同主体与行为应当分别承担何种义务?人工智能的技术发展是价值中立的吗?不同国家与地区的生成式人工智能采用不同的内容治理框架,如何把握其治理的制度框架与底层逻辑?我国的生成式人工智能内容治理如何体现与融入我国的自主价值观?
必读文献
参考文献
人工智能侵权与避风港规则
人工智能侵权有哪些特殊形态,是否需要设置一般侵权制度之外的特殊规则?人工智能侵权的不同类型,例如个人信息侵权、侮辱诽谤等言论侵权、著作权侵权,不同类型的侵权形态与责任有何不同?人工智能侵权的归责原则应当采取过错责任、过错推定责任还是严格责任?人工智能侵权制度的基本定位应当是过错认定还是威慑预防?人工智能侵权中损害、因果关系都常常存在不确定性,如何认定损害与确定因果关系?人工智能侵权往往具有大规模侵权的特征,传统侵权制度如何适应与应对人工智能侵权的规模问题?人工智能企业的各类免责声明是否可以免除或减轻企业的侵权责任?人工智能侵权是否适用或可以类推适用以“通知删除”为基础的避风港规则?
必读文献
参考文献
自动驾驶与产品类人工智能制度
自动驾驶的法律制度有何特殊性?对于产品类与具身人工智能,其民事法律责任制度应当如何设计?法律是否应当对构成产品的软件与人工智能系统适用产品责任?如何对自动驾驶等产品的人工智能系统本身进行制度设计,提高与维持产品类人工智能的合理安全性?人工智能产品责任中的设计责任、制造责任与警告责任如何设置?如何理解产品责任制度的基本功能与原理?产品责任是否可以激励人工智能企业披露信息,扮演人工智能监管中的信息生产功能?针对人工智能的不断迭代性特征,产品责任是否需要强化上市后持续性监控?产品责任制度在人工智能时代是否需要更新与迭代?如何看待欧盟《产品责任指令》对于人工智能责任的新规定与全球产品责任制度的更新与发展?人工智能时代的产品保险制度应当如何设计?自动驾驶与产品类人工智能责任制度中的侵权、规制与保险制度如何协调?
必读文献
参考文献
智能体、意思表示与数据安全责任
智能体带来了哪些独特的法律问题?智能体所做出的意思表示是否具有法律效力,在何种情形下具有法律效力?法律应当如何设置有关智能体的交易规则?在智能体背景下,如何判断交易主体的真实意思表示与合同是否成立?人工智能时代的合同法与意思表示制度是否需要更新?智能体的行为边界如何通过法律约束,如何防止智能体的各种不当甚至是违法行为?随着“算法消费者”的出现与智能体辅助消费者决策的广泛应用,人工智能时代的用户与消费者权益如何进行保护?端侧智能体存在哪些数据安全风险?在手机等终端设备运行的端侧智能体如何确保个体的隐私与个人信息不受侵害?“龙虾”等智能体调用不同应用程序如何获得用户与消费者等相关主体授权,存在何种不正当竞争问题?法律如何确定其数据安全责任?
必读文献
参考文献
开源人工智能模型
与开源社区的治理规则
人工智能模型的“开源”应当如何界定?应当至少公开模型架构、训练代码、训练数据、模型权重、测试代码、测试数据、评测结果等部分中的哪些内容?人工智能开源许可证应该满足哪些条件?法律基础是什么?对于不同开放程度和开源许可证下的模型,在责任分配与治理规则上有何区别?开源模型在著作权、数据合规、个人信息保护、商业秘密与安全风险方面是否存在哪些特殊问题和规则?开源人工智能的创新价值、社区自治与国家监管之间应当如何协调?如何建立模型提供者、微调者、部署者、平台与社区维护者、行业组织及相关科技工作者群体等多元协同的开源人工智能治理模式?
必读文献
参考文献
人工智能训练数据使用的合法性问题
未经许可使用作品数据训练人工智能,训练者能否主张合理使用或者法定许可的抗辩?当人工智能输出与训练数据存在某种程度相似性,此时人工智能训练是否存在侵权行为?如果认定存在著作权或其他侵权,如何判断人工智能数据供应链上不同主体的相关责任?是否有必要通过修改著作权法来合法化使用作品数据训练人工智能的行为?美国、欧盟等不同法域在人工智能训练数据使用的合法性问题上的立场如何?如何看待非表达性利用、合理学习等人工智能合法利用著作权数据的理论?如何看待利用“文本与数据挖掘”例外规则、“转换性使用”规则,来应对训练数据使用的合法性问题?构建人工智能训练数据的法定许可或者集体管理制度是否具有可行性?训练数据来源披露等透明度制度应当如何构建?对于非著作权类数据,例如商标类数据、专利类数据、个人信息类数据,法律如何设计这类数据训练的法律制度?
必读文献
参考文献
人工智能生成物的知识产权保护
人工智能生成的文本、图像、音乐、代码等内容是否(或者在何种条件下)构成著作权法意义上的作品?人工智能对于著作权制度带来了哪些原理与制度挑战?人工智能时代如何反思“浪漫主义作者观”?在人机协作创作的场景下,如何界定人类贡献与机器贡献的边界,人类贡献达到何种程度方可认定为人类创作?对不构成作品的人工智能生成物,是否存在保护上的空白,是否需要通过邻接权、特别权利或者反不正当竞争法予以保护?如果赋予保护,权利对象、权利内容、保护期限与权利限制应如何设计?人工智能自主生成的技术方案能否获得专利保护,发明人资格应如何认定?人工智能生成物的权利归属应当如何确定——归属于开发者、使用者还是其他主体?内容标识、来源披露、权利声明等配套制度应当如何构建?
必读文献
参考文献
人工智能爬虫的法律边界与数据保护
人工智能开发者利用网络爬虫大规模抓取互联网数据用于模型训练,其行为的法律性质如何界定?互联网公开数据以及不同场景下的人工智能数据的权属属于谁?对网络公开数据,爬取行为是否当然具有合法性,还是应受到平台协议、数据权益以及竞争规则的约束?网站通过robots协议、用户协议或技术措施限制爬虫抓取,在法律上有何效力,违反这类限制是否当然违法,其法律后果如何?当爬取方抓取用户在平台上的数据时,需要获得哪些主体的授权,仅有用户授权可否合法爬取?爬虫抓取行为是否构成对计算机信息系统的非法侵入?大规模自动化爬取是否对数据来源方的服务器资源和正常经营构成侵害?是否有必要区分一般的网络爬虫与人工智能爬虫,在法律上予以差异化规制?是否应当建立数据抓取的合理使用或法定许可机制,以平衡公共利益、数据利用和数据保护?如何协调反不正当竞争法、个人信息保护法、数据安全法、著作权等不同制度在人工智能爬虫场景中的适用?
必读文献
参考文献
人工智能数据与模型的商业秘密保护
人工智能对商业秘密保护提出了哪些新挑战?训练算法、训练数据、数据标注规则、模型架构、模型参数权重、提示词工程策略等是否均可构成商业秘密?当人工智能模型的训练数据来源于公开数据时,其经过筛选、清洗和组合后能否获得秘密性?提供开放模型接口(API)是否构成对商业秘密保密性的破坏?模型蒸馏、反向工程、反复查询获取模型内部信息等行为,是否构成侵犯商业秘密?员工跳槽携带模型训练经验与技术诀窍,如何界定个人技能与企业商业秘密的边界?人工智能商业秘密侵权案件中的举证责任如何分配,损害如何计算?人工智能企业的用户协议经常对用户利用做出限制,这类用户条款是否具有法律效力?
必读文献
参考文献
人工智能决策与可解释性
人工智能的黑箱性与自主学习等特征对法律制度提出了何种挑战?法律是否以及在何种意义上需要保持算法的可解释性、透明性?人类决策在某些情形下也同样具有黑箱性与不透明性,算法决策的黑箱性有何特殊性,法律应当如何设置算法可解释性的相关制度?算法可解释性应当如何通过算法解释权、算法影响评估、算法备案、算法审计等制度实现?法律对于公私场景下的人工智能算法决策是否应当设置不同制度?对于不同场景,算法可解释性是否以及如何进行不同的制度设计?人工智能决策是否必然比人类决策更危险?算法个性化推荐是否可能影响或削弱人类决策中的意思表达与自治?法律是否应当设置拒绝纯粹自动化决策的权利、人工智能决策质疑权或人在环路的相关权利?
必读文献
参考文献
人工智能算法与个人信息保护制度
人工智能对于个人信息保护制度带来了哪些挑战?人工智能处理个人信息是否适用个人信息保护的一般性制度,还是适用特殊性制度?人工智能背景下个人信息的概念与范围如何界定?告知同意制度应当如何设计?合法、正当、必要、诚信、公开透明、信息质量与准确性、责任与安全保障等个人信息处理原则如何理解与适用,例如人工智能利用公开个人信息进行训练是否符合合法、正当、必要原则?人工智能发展是否应当增设为个人信息训练的合法性基础与“正当利益”?人工智能背景下的个人信息被保护权与信息处理者的相关责任将会面临哪些挑战,需要制度进行哪些回应?人工智能监管的相关制度如何与个人信息保护的相关制度相协调?
必读文献
参考文献
人工智能算法与平台责任制度
人工智能算法被广泛适用于平台决策,权利人利用算法发出侵害通知,平台则利用算法回应侵害通知、进行算法个性化推荐、算法过滤。在人工智能算法决策背景下,平台责任制度需要进行何种调整与更新?算法个性化推荐是否增强平台的审查与算法过滤责任?平台是否应当承担侵权与违法内容的一般审查义务与算法过滤,还是仅应当对特定侵权与违法内容承担审查与算法过滤义务?平台与权利人合作的算法协同过滤机制是否合理?平台算法决策如何避免治理不足与治理过度,维持假阳性与假阴性的合理平衡?平台算法的设计本身是否应当嵌入合理使用机制?
必读文献
参考文献
人工智能算法决策
与反不正当竞争和反垄断
人工智能算法决策可能带来哪些不正当竞争?大数据杀熟、大数据杀生是否属于不正当竞争?利用人工智能进行流量截取、干扰网页与产品是否属于不正当竞争?反不正当竞争制度的基本原理与制度功能是什么,判断反不正当竞争的标准是商业道德、市场竞争秩序还是消费者福利?人工智能时代的反不正当竞争制度是否以及应当如何更新?生成式人工智能、大模型等给反垄断带来了哪些新问题?平台利用算法进行自我优待、算法合谋定价在何种情况属于垄断?数据隐私、一级价格歧视等是否应当纳入反垄断法的框架?如何理解反垄断法的基本原理与制度?反垄断法中的制度工具与相关讨论,例如市场界定、市场力量分析、合理规则、纵向一体化、必要设施理论等,如何适用于人工智能场景?
必读文献
参考文献
人工智能与基本权利保护
人工智能背景下公民的基本权利保护呈现出何种特征?如何理解基本权利的制度功能和基本原理?基本权利是否可以适用于人工智能企业等私主体?人工智能时代“数字人权”是否可以成立,呈现何种新型权利特征?欧盟《人工智能法》将基本权利保护作为人工智能规制的重要抓手,如何看待欧盟层面的基本权利保护进路?对于教育录取、医疗健康、劳动者保护、内容资讯推荐、商业营销等不同场景,基本权利保护是否适用?消费者权益保护是否是一种基本权益?针对人工智能带来的相关问题,基本权利保护与私法、行政规制的比较优势与劣势如何理解,相关制度如何协调?
必读文献
参考文献
数字操控、暗黑模式与消费者保护
人工智能背景下数字企业对用户与消费者的控制力增强,甚至可能带来数字操控与暗黑模式,但其与正常商业行为的界限很难区分,如何在法律上对其进行界定?数字企业利用人工智能诱导消费是否属于数字操控与暗黑模式,如何区分数字活动与广告等正常商业行为的界限?人工智能时代的消费者保护法是否需要转型升级?传统消费者保护法提供了很多区分合法与违法商业行为的制度工具,这些制度工具是否可以有效解决人工智能带来的消费者保护问题?在判断数字操控时,如何界定“欺诈”与“不公平商业行为”概念,如何分析“一般消费者”与“消费者合理预期”标准?
必读文献
参考文献
人工智能、反歧视
与弱势群体权益保护
人工智能对劳动者权益保护产生何种影响?如何避免劳动者“困在算法系统里”?人工智能的算法决策对未成年保护提出了哪些挑战,未成年保护制度应如何设计?人工智能可能带来种族、性别等各类歧视,如何设计人工智能的反歧视制度?如何理解反歧视制度的基本原理与基本制度?如何看待市场机制与法律机制在劳动者、未成年等弱势群体权益保护中的作用与功能?反歧视是否等于去除身份或身份中立,其应当以个体还是以群体为基础?反歧视与平等保护的关系如何理解?如何在法律上界定与理解弱势群体权益保护,“数字弱势群体”的概念是否能够在法律上成立?如何看待我国与美国、欧盟等域外国家和地区的反歧视制度的异同?我国在人工智能领域的反歧视、平等保护与弱势群体权益保护应当采取何种制度设计?
必读文献
参考文献
工智能辅助司法、行政自动化决策
与正当程序
人工智能是否可能以及如何辅助司法审判和行政自动化决策?其机制与法律制度应当如何设计,如何避免人工智能辅助决策的异化与各种问题,例如决策错误、缺乏亲历性?人工智能的司法结论和行政自动化决策的结果是否仅仅是参照,还是必须纳入法官决策的参考?如何理解人工智能对于法治基本原则带来的挑战,例如其对于刚性规则、弹性标准适用的影响?人工智能决策是否可能实现“个性化的法”,即对不同主体适用不同制度?“个性化的法”是否更符合法治的基本精神,还是可能陷入完美执法的幻觉?如何理解正当程序的基本原理与制度?正当程序是为了保护个体尊严、个案公正,还是为了促进整体决策公正、生产信息?传统正当程序在人工智能时代面临何种挑战,是否需要迭代更新?个体是否具有针对人工智能辅助司法与行政决策的复核权,此种权利应当如何设计?如何平衡人工智能自动化决策带来的效率提升、系统化规模化处理统一性与个体尊严、个案正义之间的平衡?人工智能也可能在前端就已经嵌入各类数据库、各类司法与行政系统,因此在前端就可能已经影响司法和执法,法律应当如何进行应对与规制?
必读文献
参考文献
Copyright ©2016 中国人民大学科学技术发展部 版权所有
地址:北京市海淀区中关村大街59号中国人民大学明德主楼1121B 邮编:100872
电话:010-62513381 传真:010-62514955 电子邮箱: ligongchu@ruc.edu.cn
京公网安备110402430004号