数据法译丛|《剑桥算法法律手册》数智化时代，既是挑战法治的新对象，也是赋能法治的新工具

总主编：时建中

数据法译丛

《剑桥算法法律手册》

图书信息

《剑桥算法法律手册》

主编：［美］伍德罗·巴菲尔德（Woodrow Barfield）

主译：郝俊淇童肖安图

ISBN：978-7-5764-1662-6

定价：139 元

中国政法大学出版社2024年10月

总序

我国《数据安全法》第三条规定，“本法所称数据，是指任何以电子或者其他方式对信息的记录。”基于此，可以将数据分为电子数据与非电子数据或者传统数据。传统数据，即非电子数据，古已有之。然而，受制于载体形式、处理技术、处理方式等限制，非电子数据只能止于信息的载体，无法成为生产要素。电子数据，作为新型的信息载体，是现代信息通信技术的产物。数据之间蕴含的相关性，使之具有了成为新兴生产要素的可能性、必要性和可行性，亦是经济发展、社会治理和政府服务得以进一步数字化、网络化、智能化的基础。数据已经融入生产、分配、流通、消费和社会服务管理等各个环节，深刻改变着生产方式、生活方式和社会治理方式。

数据可以作为文字、声音、绘画、档案、影像胶片、设计图纸、实验记录、地理环境、行星轨迹以及人的样貌、行为、信用、健康状况、社会关系乃至情绪变化、思维状态等任何信息的载体。随着ICT技术的蓬勃发展，数据的数字化、结构化、海量化、高速化、实时化、智能化、要素化、价值化，使人类社会呈现出数据驱动、技术介导、软件定义、网络协同、平台支撑、人机交互、跨界融合、虚实同构、群智开放等新特征。

“数化万物、万物皆数”的数字社会之所以可能，乃至成为现实，这与人类社会“技术安装基础”的重大变革密不可分。几十年前，充当人类社会“技术安装基础”的关键要素是电力、电话、电脑、手机、PC互联网等技术。当下，大数据、人工智能、云计算、超级计算、区块链、物联网以及量子计算等数字技术日新月异，不仅重构了人类社会的“技术安装基础”，而且拖拽着人类以不可逆转之态势在数字化时空中加速驰骋。“技术奇点”降临后，如果人类没有被其他异族智能体降维吞噬，或者技术悲观主义者所预言的那些反乌托邦式的社会场景没有实现，那么可以预见，在当下以及未来，人类将继续利用“数据驱动”及一系列数字技术来拓展自身的可能性边界，并且会愈加普遍地深嵌于这种以数据及数字技术为介导或引擎的社会，简称“数据及技术介导型社会”或“数据及技术驱动型社会”。

这样的社会有着人们并不陌生的特点：消费者贡献其身份数据、行为数据、关系数据等各类数据，进而在移动互联网（数字平台）、动态定价算法、搜索优化算法、智能语音助手等数字技术的介导下，高效便捷地获取出行、购物、支付、娱乐、旅游、内容等服务；企业将用户提供的数据、观察获取的数据、推断派生的数据以及抓取、共享、授权、交易所得数据，与大数据、云计算、区块链、人工智能等数字技术紧密结合在一起，再造业务流程体系、提升生产力和竞争力，催生出日益繁荣的数字商业生态，带动产业结构和经济体系转型升级；诸多国家（政府）不仅明确将数据定位为生产要素，制定促进数据开发利用、培育壮大数据要素市场的基础政策和制度，而且明确将发展人工智能、传感网、脑联网、量子计算、生物计算、基因编辑等尖端科技作为核心战略，使它们共同作用于数字经济、数字政府等数字社会（广义）的建设，乃至共同作用于军事力量和国防安全的建设。

显然，数据和数字技术之间存在着相辅相成、共生互促的关系。无论是人工智能、区块链还是云计算、物联网等数字技术，它们本质上都属于“数据饥渴型技术”。也就是说，这些技术作用的发挥，以及其对人类生产生活和社会治理的赋能，根本上须以数据作为核心投入要素和底层驱动力量。如果脱离了数据，无论数字技术多么先进和尖端，它都会陷入“无源之水、无本之木”的困境。同时也应当看到，数字技术在社会各系统中的广泛嵌入和融合运用，让数据的可用性达到前所未有的规模，使数据的存储成本大幅下降，让数据整理、挖掘、分析、应用的能力今非昔比。质言之，数字社会的建设过程，也是社会数据化、社会数字化的泛化和深化过程。

但是，在期待“数据驱动”及数字技术进一步拓展人类可能性边界、造福人类生产生活和社会治理的同时，也应当清醒地意识到，利益之所在、风险之所在，它们在传播正能量的时候，也可能在释放负能量，因而可能会给传统的社会治理制度特别是法律制度带来挑战。一些基础性的法律问题包括但不限于：

1.数字技术的部署越广、嵌入越深、效益越高，其对数据的“饥渴”程度就越强，对数据高效流通（开发利用）的需求也就越迫切，但当前用于促进和保障数据流通的相关制度安排，如数据访问制度、数据共享制度、数据开放制度、数据产权和交易制度等，是否足够健全完善以满足这种需求？

2.数据流通的需求应当与数据权益特别是个人信息权益保护的需求相平衡，因为技术对数据越“饥渴”，其在收集、存储、使用、加工、传输、提供、公开数据过程中，侵犯个人信息和隐私信息的风险就越高，这促使我们不得不反思，以知情同意原则为基础所构造的个人信息保护制度是否存在重大局限？诸如匿名化、假名化、合成数据、机密计算、联邦学习、同态加密等隐私增强技术在克服上述难题中又能发挥多大作用？

3.“数据驱动”及数字技术可能会将效益（效率）的价值渐次放大，甚至将其推向极端，传统上以公平、安全、秩序、自由、人本等价值为基石的法律，如何平衡其与上述效益（效率）价值之间的冲突，在“数据驱动”过程以及数字技术系统中导入传统法律价值又具有多大程度的可能性？

4.将“数据驱动”及数字技术应用于解决所有社会问题的诱惑似乎越来越大，但这种“数据万能主义”或“技术解决主义”如何与传统上作为社会制度基础设施的“法律”相协调，它们又是否会在解决小问题的过程中带来诸如隐私侵犯、泄密、僵化、偏见、歧视等更多更大的问题，乃至导致社会中的部分弱势群体不得不长期生存于制度的裂缝之中？

5.“数据驱动”及数字技术往往依赖于统计方法来挖掘数据中的特征、模式和规律，然而当采取这种统计视角来看待公平正义时，如果底层数据集存在代表性不足、代表性过度或者代表性错误等问题，那么这是否意味着它们仅仅是在武断剪裁公平正义的概念，同时仅仅是在肆意创建无限不公正的世界画像？

6.随着“数据驱动”范式的扩张，以及数字技术所主导系统的自主性程度越来越高，甚至单独决定人们的交易价格、信贷额度、住房申请、医疗方案、行政裁决、假释条件、再犯风险等，法律应在多大程度上保障人类对它们的干预和导正，即是否应要求人类必须参与回路（human in the loop, HITL），还是应要求人类监控回路（human on the loop, HOTL），抑或应要求人类指挥回路（human in command the loop, HICL）?

7.干预和导正“数据驱动”过程及智能系统的前提，是人类能够检查其运作机理，如对算法的源代码、底层数据集进行测试或审计，然而由于它们经常受到商业秘密、国家机密或保密协议的保护而免于披露，因此是否应当重新优化相关制度安排，以平衡秘密（机密）保护与源代码、数据集透明度之间的关系，同时更好地实现源代码、数据集专有性与可问责性之间的协调？

8.此外，“数据驱动”及数字技术所引发的具体法律问题还有很多，包括数据类型划分、数据权利配置、数据收益分配、数据（数字）人权保障、数据（数字）鸿沟消解、数据跨境流动规范以及大数据杀熟、算法共谋、算法操纵、算法可专利性、人工智能的法律人格地位、人工智能致害的侵权责任、人工智能生成作品的著作权等相关法律问题。

就目前我国以及一些发达国家和地区的情况看，科学、技术、市场都已初步就位，但是，法律制度及相应的实施机制在很大程度上却未跟上步伐。毫无疑问，“数据驱动”范式的日益推广和人类社会“技术安装基础”的重大变革，迫切需要社会系统中的“知识基础设施”“机构基础设施”“制度基础设施”及时转型，做出有针对性的调适，否则，我们就难以充分把握并有效应对“数据驱动”及数字技术带来的机遇和挑战。中国政法大学积极致力于融入这一进程并做出贡献：2016年，学校将数据大规模开发利用以及数字技术引发的法律问题研究确定为科研战略，产生了一大批科研成果、科研项目；2019年，学校将“数据法学”作为新兴交叉学科进行培育建设；2020年，学校设置“数据法学”为法学目录外二级学科，获教育部备案；2021年3月，引入了16位国际专家的“数据法治学科创新引智基地（111计划）”获教育部、科技部批准；2021年5月，学校与中国司法大数据研究院签署协议共建“智慧法治联合实验室”；2021年6月，为高质量建设数据法学学科，学校批准成立“数据法治研究院”；2021年11月，“中国政法大学数据法治实验室”入选首批教育部哲学社会科学实验室，成为支撑数据法学研究、数据法治建设、引领法学创新的重要机制和重要平台；2023年2月，最高人民检察院数字检察研究基地落户中国政法大学，成为创新和发展“数字检察”相关理论的重要阵地；2024年6月，北京市教育委员会批准“数字时代首都新兴领域法治创新中心”立项建设。

依托于教育部哲学社会科学实验室——中国政法大学数据法治实验室、中国政法大学数据法治研究院、数据法治学科创新引智基地（111计划）等的支持，我们发起了“数据法译丛”项目，旨在精选域外数据法学领域的优秀作品，通过知识引进来助力我国数字化进程中“知识基础设施”的建设，以期推动数字中国的战略部署、建设实践与数据法学的知识体系、学科体系、学术体系、话语体系的构建，同频共振、相得益彰。当然，翻译作品和引进知识本身不是目的，而是希望立足中国、放眼世界，通过对域外相关理论、制度、经验的比较、反思和借鉴，为我国数据法学理论的高质量发展和数据立法、司法、执法、守法等数据法治的高质量建设，提供更充分更有益的养分。在此，我们期待并欢迎更多有志之士，特别是热爱数据法学、关心数据法治的青年才俊，加入到“数据法译丛”项目。

在数智化时代，数据和数智技术既是挑战法治的新对象，也是赋能法治的新工具，法学研究应该从容地直面现实、观照中国、拥抱未来。让我们以繁荣发展数据法学的学术方式和贡献，助力高水平的数据法治与高质量的数字中国有机结合、良性互动！

时建中

中国政法大学副校长、教授

中国政法大学数据法治研究院院长

教育部哲学社会科学实验室——中国政法大学数据法治实验室主任

可上下滑动查看

内容简介

信息通信技术（特别是人工智能技术）更迭无止境，“算法法律”发展无止境。《剑桥算法法律手册》针对算法与透明度、算法与问责、算法与代理、算法与隐私、算法与损害、算法与共谋、算法与金融信用、算法与社会信用、算法与商业秘密、算法与公共行政、算法与刑事裁决、算法与自驱式法律、算法与言论自由、算法与社会区隔、算法与精神操控等现实问题，展开了全面深刻的理论剖析和制度建构，是一部把脉社会发展、回应时代关切的力作。

主编简介

伍德罗·巴菲尔德（Woodrow Barfield）拥有工程学博士（PhD in engineering）、法律博士（JD）、法学硕士（LLM）学位。巴菲尔德博士是美国国家科学基金会总统青年研究者奖的获得者，也是《可穿戴计算机和增强现实的基础》（Fundamentals of Wearable Computers and Augmented Reality）的主编，同时还是《人工智能法律研究手册》（Research Handbook on Law of Artificial Intelligence）的联合主编。他目前是《虚拟现实杂志》（Virtual Reality Journal）的副主编，《人工智能前沿》（Frontiers in Artificial Intelligence）的审稿编辑，以及《德尔菲：新兴技术跨学科评论》（Delphi: Interdisciplinary Review of Emerging Technologies）的编委会成员。

主译简介

郝俊淇中国社会科学院法学研究所助理研究员，中国政法大学经济法学博士。主要从事竞争法、数据法、经济法研究，出版专著1部，发表论文20余篇，主持国家社科基金项目、市场监管总局项目等课题，曾获中国法学会经济法学研究会青年优秀论文一等奖曾赴美国乔治梅森大学、芬兰赫尔辛基大学、挪威奥斯陆大学、香港中文大学等机构交流或访学。

童肖安图华南理工大学法治经济与法治社会研究中心助理研究员，中国政法大学经济法学博士，华南理工大学法学院博士后。主要从事竞争法、数据法、经济法研究，在核心期刊发表学术论文多篇，作为核心参与人参与国家重点研发计划项目、高等学校学科创新引智计划项目、国家社会科学基金西部项目等国家级课题多项。

译者序

算法是现代信息和通信技术的核心构件，其在开发设计和部署利用中产生的各类问题,受到域内外理论和实务界的广泛关注。自2022年以来，大型基础模型、生成式人工智能等AI技术和应用的突破式发展，让“算法”一跃成为足以标榜时代的热词。一个人要是没听说过算法、不懂一点算法的常识，似乎就有被“算法时代”抛弃的风险。简单来说，算法是解决特定问题或完成给定任务的清晰、有限的步骤或指令。然而，在算法控制的智能系统越发普遍的社会情势下，当我们谈论算法时，也许不仅仅是在谈论算法这一类技术，而是在谈论庞大的技术族群或复杂的技术有机体。如果把算法比作人类的大脑，它本身虽然称得上足智多谋，但如果没有作为信息记忆和过滤的数据存储和处理技术的支撑，没有作为血液和氧气的计算技术和算力资源的辅助，没有作为神经系统和肌肉的传感器和执行器技术的加持，那么算法“才智”的全面发挥就会受到限制。事实上，在人工智能时代，对算法歧视、算法黑箱、算法操纵、算法共谋、算法言论、算法自动化决策等算法法律问题的探讨，必然涉及对一系列与算法互补的技术的关注。因此，所谓算法法律问题，在很多情况下也涵盖了数据法律问题、计算法律问题、物联网法律问题、传感器法律问题、互操作法律问题，等等。

《剑桥算法法律手册》由伍德罗·巴菲尔德（Woodrow Barfield）教授主编，来自美国、欧盟等多个国家和地区的学者共同撰写。本书着眼于算法广泛“嵌入”当今社会的现实及其所带来的一系列法律挑战，就算法法律体系的改进、变革、开发和构建展开了全面深入、鞭辟入里的分析探讨。毋庸讳言，《剑桥算法法律手册》是一部紧跟时代潮流、把握发展脉搏、回应社会关切的力作。概括来看，本书具有以下亮点：

一是宏观和微观兼备，内容体系全面。算法技术的进步和广泛应用，深刻改变人类生产生活和社会治理方式，带来前所未有的引擎动力和赋能利益，同时也导致技术运用风险迅速扩散和急剧增生。《剑桥算法法律手册》深刻洞察算法的技术特性及其给传统法律制度带来的挑战和机遇，一方面从整体层面呼吁加大“算法法律”（law of algorithms）的开发构建力度，其宏大所指包括“算法法律”的背景依赖、概念内涵、理念追求、核心制度等；另一方面从局部层面阐发“算法法律”的具体实现路径，其微观探求涵盖算法与合同法、侵权法、知识产权法、数据法、竞争法、网络法、科技法、行政法、刑法、国际法、人权法、言论自由法、宪法等诸部门法中的算法法律问题。

二是问题意识鲜明，理论构建有力。“算法法律”的理论和制度构建绝非空穴来风、无病呻吟，其导源于一系列基础性算法法律问题——这些问题在根本上导源于“旧的”法律理论、制度与“新的”算法社会现实、情事的冲突或不一致。《剑桥算法法律手册》深刻把握旧理论、旧制度与新现实、新情事之间的张力，针对算法与可问责性、算法与透明度、算法与协议及代理、算法与隐私、算法与歧视、算法与损害、算法与共谋、算法与精神操控、算法与金融信用、算法与社会信用、算法与商业秘密、算法与社会区隔、算法与公共管理、算法与行政决策、算法与刑事裁决、算法与知识产权、算法与人权、算法与言论自由、算法与思想自由等法律现象，有意识地对它们进行问题化的理论处理和构建，以夯实“算法法律”的理论基础，拓展“算法法律”的研究视域，助力“算法法律”的制度建设。

三是追踪技术前沿，绘制“未来算法法律”。算法是对解决问题方案的准确而完整的描述，它是一系列解决问题的清晰指令，这些指令能够指导人们或者计算机按照特定的步骤去解决问题，从而得到所期望的输出结果。尽管上述关于算法的定义是简洁明了的，但作为技术（数字技术）的算法并非亘古不变。从数学算法、计算机算法到人工智能算法，算法技术更迭无止境，“算法法律”发展无止境。当下以及未来，算法最显著的特征莫过于它是人工智能的核心要素乃至“根本要素”。《剑桥算法法律手册》紧跟算法特别是人工智能算法技术的演进趋势，聚焦一系列人工智能算法技术的前沿应用场景，针对可信赖的人工智能、合乎伦理道德的人工智能、法律世界的算法化、具备计算机意识的立法、蕴含环境智能技术的“自驱式法律”、基于算法嵌入的人类和机器人交互、商用脑机接口等有关“未来算法法律”问题展开了富有启示的前瞻性探讨。

《剑桥算法法律手册》的主译者为中国社会科学院法学研究所郝俊淇助理研究员和华南理工大学法学院童肖安图助理研究员。郝俊淇助理研究员负责本书贡献者、前言、序、致谢、缩写词、索引和第1、3、5、7、9、11、13、15、17、19、21、23、25、27、29、31、33、35章的翻译。童肖安图助理研究员负责本书第2、4、6、8、10、12、14、16、18、20、22、24、26、28、30、32、34章的翻译。中国政法大学数据法治研究院博士研究生刘思洁、中国政法大学民商经济法学院博士研究生李奇修、中国人民大学法学院博士研究生谭逍遥、中国人民大学法学院博士研究生赵栩、中国法学会法治研究所研究实习员陈宇航、中共中央党校(国家行政学院) 博士研究生李晨、南京大学商学院博士研究生程果，协助郝俊淇助理研究员对相关章节作了初步翻译，在此一并致谢。感谢中国政法大学出版社艾文婷、李美琦等诸位编辑老师的辛勤劳动和细致编审，她们的工作使本书增色不少。当然，还必须感谢教育部哲学社会科学实验室——中国政法大学数据法治实验室、中国政法大学数据法治研究院对本书出版的慷慨资助，特别感谢中国政法大学副校长、数据法治实验室主任、数据法治研究院院长时建中教授，以及中国政法大学外国语学院苏桂梅教授、中国政法大学数据法治实验室和数据法治研究院诸位老师对本书翻译的指导和帮助。作为学识有限、资历尚浅的年轻学者，有缘参与“数据法译丛”项目并承担本书翻译工作，是我们求学路上莫大的幸运和荣幸！

可以预见，随着算法特别是人工智能算法日益广泛且深入地融入并影响我们的生产生活和社会治理，无论是作为一项理论或理念，还是作为一种制度或实践，“算法法律”的重要性只会与日俱增。用《剑桥算法法律手册》主编伍德罗·巴菲尔德教授的话来说，本书提出的一个根本性的重要问题是：“随着越来越多的人工智能和算法技术融入社会，我们到底想要创造一个怎样的社会，以及法律在创造一个公正和平等的技术先进社会方面应该发挥什么作用？”当下，我国数字经济、数字政府、数字社会的建设方兴未艾，我们希望本书的出版能为法治轨道上“数字中国”的构建，提供更清晰的坐标方位、更彻底的问题意识、更有益的理论和制度借鉴。虽然译者的态度是比较诚恳的，但由于才疏学浅、能力局限，译文中的错误纰漏、逻辑矛盾、符号伤疤恐怕在所难免。敬请各位读者多加包涵、不吝指正，我们不胜感谢！

郝俊淇童肖安图

2024年8月4日

可上下滑动查看