查找:                      转第 显示法宝之窗 隐藏相关资料 下载下载 收藏收藏 打印打印 转发转发 小字 小字 大字 大字
【期刊名称】 《现代法学》
人工智能的法律规制路径:一个框架性讨论
【英文标题】 Legal Regulation Approach for Artificial Intelligence: The Discussion of a Framework
【作者】 汪庆华【作者单位】 北京师范大学法学院{教授,法学博士}
【分类】 人工智能【中文关键词】 人工智能;算法;法律规制;自动化决策
【英文关键词】 artificial intelligence; algorithm; legal regulation; automatic decision-making
【文章编码】 1001-2397(2019)02-0054-10
【文献标识码】 A DOI:10.3969/j.issn.1001-2397.2019.02.04
【期刊年份】 2019年【期号】 2
【页码】 54
【摘要】

中国、美国和欧盟在人工智能的法律规制上初步呈现出自身的特点。面对人工智能技术的发展,中国通过分散式的立法对它在电子商务、新闻内容推荐以及智能投顾等领域的应用进行了回应,算法公开透明是贯穿于这些层级各异的立法的共同要求。美国则是通过司法判例对算法的法律性质进行了明确,在搜索引擎算法的案例中,它被看成言论,刑事辅助审判系统中的算法则被认定为是商业秘密。与中国、美国的个别化进路形成鲜明对比的是,欧盟通过对个人数据权利的严格保护,形成了对人工智能的源头规制模式。在数字经济成为经济发展的新动力的背景下,这三种模式体现了在数据权利保护和人工智能产业发展平衡问题上的不同侧重。

【英文摘要】

China, U.S.and European Union have taken different approaches toward artificial intelligence regulation. China responded with sporadic legislation to the use of AI in e-commerce, algorithms in news production and Robo-advisors. U.S.uses case law to determine the legal status of algorithms. Algorithm of search engine has been defined as speech, while algorithm in criminal sentence system as commercial secrets. Compared to the individual approach by China and U.S., European Union adopted the strictest personal data protection rule, which consisted the source regulation of artificial intelligence. These three different approaches will have various effects on the development of artificial intelligence industry. Besides the legal regulation of artificial intelligence, this article focuses on the transformation of legislation, judicial system and law enforcement in the age of artificial intelligence.

【全文】法宝引证码CLI.A.1255297    
  
  人工智能[1]和法律的遭遇会在两个层面呈现出来。在享受人工智能带来的技术红利的同时,需要对它可能带来的风险和挑战进行回应,这意味着需要对人工智能进行法律规制。但同时大数据技术、云计算、人工智能的发展又为现有的法律提供动力,立法、司法和法律执行将会以一种从来没有过的方式借助算法而实现变革。大数据和人工智能技术不仅会带来社会生产力的变革,同时也带来了社会生产关系的变化。在讨论人工智能法律规制的时候,需要厘清的重点在于理解现有的法律概念、法律规则和法律体系的力量何在。弗兰克·伊斯特布鲁克法官的《赛博空间和马的法律》{1}一文深刻揭示了这样的道理。正如不需要专门的关于马的立法,其实也并不需要专门就互联网、人工智能技术来进行专门的立法。这种观念当然和美国的普通法传统有关,无论时代怎么变迁,从封闭的农业社会到信息化、智能化社会,普通法规则得以延续下来,保持着它们的生命力。在大陆法系国家,法的安定性则是原有法律规则和法律体系适用到科技前沿领域的基础性考量。[2]但是在一些方面,现有的法律框架无法涵盖人工智能在具体领域应用中所带来的一系列问题,这意味着在一定程度上需要反思现有法律框架。人工智能技术的发展将改变人们对法律的认知,重塑法律的规则形态,乃至法律的价值导向{2}。人工智能时代法律制度的设计必须要考虑风险社会的现实,并兼容一定程度的不确定性{3}。
  法律一般不对实践中没有定型的经验、社会中没有成熟的关系进行调整。目前,人工智能的技术也只是局限在具体领域,并没有形成通用人工智能。就人工智能发展的阶段而言,一般认为存在着弱人工智能、强人工智能和超人工智能三个阶段。弱人工智能又称为专门人工智能,指不能真正实现推理和解决问题的智能机器,它们并没有真正的智能,只能实现单一任务,比如语音识别、自动驾驶、图像识别等等;强人工智能具人类所有认知能力,它有知觉和意识,可以由同一个智能系统执行不同的认知任务;超人工智能在所有领域超过人类,所有认知功能超过人类。目前人工智能的发展仍然处于弱人工智能阶段,因此当前并不能够制定出关于人工智能的完整的法律制度。人工智能在过去的二十年中,在机器学习、知识图谱、自然语言处理、计算机视觉、人机交互、生物特征识别等相关技术方面取得了突破,并表现出技术平台开源化、专用人工智能向通用人工智能发展以及从感知智能向认知智能迈进的趋势。人工智能技术和行业领域的深度融合在制造、金融、医疗[3]、交通、商业等传统行业带来了突破性变革[4]。
  人工智能的法律规制需要和具体的领域结合起来,并不存在对人工智能的一般化的法律规制。就人工智能技术发展水平及其当下应用而言,采取“传统法律修正”的模式是一种可行的进路。算法往往和应用场景、商业模式相结合。在每一个细分领域里,存在着不同的规制方法、进路和手段。法律对人工智能的规制需要具体化和场景化,以避免在人工智能这一宽泛的表述之下的各说各话。人工智能在电子商务、精准医疗[5]和自动驾驶等领域有着广泛的应用和实践,而法律在这些领域的规制的方法、手段、强度和密度应该存在差异[6]。电子商务将互联网的技术运用于商业领域,形成各种平台和共享经济。在这个领域中,政府监管的重要目的在于促进竞争和反垄断,保护消费者权利,维护市场秩序。人工智能广泛运用于医疗领域,智能辅助手术、机器人护士、机器人看护,医疗成本的增加和老龄化社会的到来将会进一步推动对智能医疗的需求。互联网医疗因为涉及个人的生命健康、医疗及其相关数据往往属于个人敏感数据。政府在设计监管模式的时候,必然采取高准入、严许可的进路,比如美国的《健康保险可携带和责任法》(Health and Insurance Portability and Accountability Act)制定了一系列安全和隐私标准,就保险公司、医疗服务提供者如何用电子的方式传输、访问和存储受保护的健康信息做了详细而严格的规定。
  目前,欧洲和美国在自动驾驶领域都已经有比较成熟的立法。德国在2017年新修订了《道路交通法》,为高度和全自动驾驶提供法律依据[7]。该法明确了高度自动驾驶和全自动驾驶车辆的法律含义,它指带有为完成驾驶任务而能供控制车辆的技术设备,而且驾驶员可随时解除自动驾驶功能或切换到人工驾驶模式。在法律责任分配方面,立法者追求简约化的规则,寻求自动驾驶问题和传统的道路交通法兼容,在自动驾驶的规制中沿用传统道路交通法的规则。基于法的安定性考量,车辆所有人原则上承担无过错责任,这一归责方式为新版《道路交通法》所延续。相较于责任分配问题的守成,德国新《道路交通法》中关于数据处理的条款尤其值得关注。该法第63条规定,当车辆控制模式从人工向技术系统切换或者技术系统向人工系统切换时,必须记载位置和时间信息。当系统要求驾驶员接管对车辆的控制或者系统出现技术故障时,也应保存相应信息。平台向主管机关传输保存的数据的义务也是其中的亮点。遗憾的是,该法并没有去处理自动驾驶碰撞可能会带来的伦理困境问题[8]。
  美国加州则在2012年通过了州的立法,即SB1298 Vehicles: Autonomous Vehicles: Performance and Safety Requirement,确立了促进和保障无人驾驶汽车安全的立法理念,对自动技术、自动驾驶汽车进行了定义和规制。欧美在自动驾驶领域的立法为差别化、场景化的人工智能监管提供了具体的例证。
  一、人工智能规制的立法进路及其趋势
  就人工智能的法律应对而言,我国目前更多的是从产业政策促进、扶持和发展的角度对人工智能提供行政指导。2017年国务院发布的《新一代人工智能发展规划》突出地反映了这一思路。人工智能技术被定位为国家战略。此后各部委和各地方政府也结合当地实际出台了规章性质的人工智能产业发展规划。工信部出台了《促进新一代人工智能产业发展三年行动计划(2018-2020年)》推动人工智能的科技研发和产业化发展。浙江省人民政府出台了《新一代人工智能发展规划》,涉及智能医疗、智能金融、智能商务等领域,提出加快人工智能技术攻关和深度应用。
  在监管层面上,目前对人工智能的法律规制在电子商务、数据安全和智能投顾领域的立法中已经有个别条款分别涉及。《电子商务法》规定,电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其推销商品或服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。这是在法律层面对大数据/算法杀熟的回应。大数据杀熟作为差别化定价,是企业经营者利用机器学习算法,对每个消费者的消费偏好、消费习惯和消费能力等信息进行分析,构建定价模型,对同样的商品或服务实行不同的定价。借助大数据技术,企业获得了关于消费者的完整信息,从而能够对消费者进行画像,最大程度地获得消费者剩余。此外,《电子商务法》第40条规定,对于竞价排名的商品或服务,应当显著标明“竞价”。这对算法提出了信息披露义务,保障消费者的知情权、自主性和选择权。
  就我国目前的人工智能法律规制而言,《电子商务法》属于法律渊源中法律层级的,另外还有规章层级的《数据安全管理办法》(征求意见稿)也对算法进行了相应的规制。《办法》规定,“网络运营者利用大数据和人工智能等技术,通过算法自动合成的新闻信息、博文、帖子、评论等,应当以显著方式表明‘合成’字样。”网络运营者利用算法进行新闻推送,被课加了披露义务以促进算法透明。在移动互联网时代,算法新闻业蓬勃发展,算法内容生成日益成熟。在互联网内容市场上,用户内容生产、机器内容生产、混合内容生产交相辉映,形成了海量的内容信息。从内容生产到内容推荐,算法在新闻业扮演着越来越重要的角色。对于算法推荐的规制,除了披露义务之外,规范信息流程、报备模型参数、违规行为惩处等长效机制都是法律制度设计需要考量的要素{4}。
  2018年3月28日,中国人民银行、银保监会、证监会、外汇局联合发布《关于规范金融机构资产管理业务的指导意见》(以下简称“指导意见”)。该指导意见对人工智能在金融领域的应用进行了规制,从胜任性要求、投资者适当性以及透明披露方面对智能投顾中的算法进行穿透式监管。美国证监会在2017年2月发布的《智能投顾监管指引》中将“智能投顾”定义为基于网络算法的程序,利用创新技术为用户提供全权委托的账户管理服务的注册投资顾问。智能投顾依托于互联网,具有委托的特殊性,它为用户提供全权委托的账户管理服务,即在客户和运营者签署全权委托协议的前提下,允许受托人未经客户同意买卖证券{5}。爬数据可耻
  《指导意见》明确,运用人工智能技术开展投资顾问业务应当取得投资顾问资质。金融机构运用人工智能技术开展资产管理业务除了要遵守投资者适当性、投资范围、信息披露、风险隔离等一般性规定外,还应当向金融监督管理部门报备人工智能模型的主要参数以及资产配置的主要逻辑,为投资者单独设立智能管理账户,充分提示人工智能算法的固有缺陷和使用风险,明晰交易流程,强化留痕管理,严格监控智能管理账户的交易头寸、风险限额、交易种类、价格权限等。这意味着智能投顾必须要取得行政许可,这是由金融业的专业性和高风险性决定的。此外,报备智能投顾模型的主要参数意味着算法黑箱的打开,算法透明得到了一定程度的贯彻。
  《指导意见》还规定了运用智能投顾的金融机构的披露义务。金融机构应当根据智能投顾的业务特点,建立合理的投资策略和算法模型,充分提示智能投顾算法的固有缺陷和使用风险,为投资者单设智能投顾账户,明晰交易流程,强化留痕管理,严格监控智能投顾的交易头寸、风险限额、交易种类、价格权限等。《指导意见》更强调在智能模型缺陷或者羊群效应的背景下,金融机构必须进行人工介入。金融机构委托外部机构开发智能投顾算法,应当要求开发机构根据不同产品投资策略研发对应的智能投顾算法,避免算法同质化加剧投资行为的顺周期性。金融机构应当针对由此引发的市场波动风险制定应对预案。因算法同质化、编程设计错误、对数据利用深度不够等人工智能算法模型缺陷或者系统异常,导致羊群效应、影响金融市场稳定运行的,金融机构应当采取人工干预措施,强制调整或者终止智能投顾业务。
  在监管手段上,金融监管部门对智能投顾的法律规制采取了组合拳的方式,这可以为我们讨论其他领域的法律监管提供有益的思考。智能投顾是没有法律人格地位的智能机器人为投资人提供咨询意见,这对以往以金融从业者为监管对象的监管模式产生了挑战,需要重构义务体系。智能投资顾问是投资咨询机构业务的延伸,投资咨询机构应当被识别为受托人,承担信义义务和合规义务。智能投资顾问模式下应当要穿透算法设定法律义务,一方面要避免算法黑箱逃避责任,另一方面应当为人工智能在投顾行业的发展保留充分空间{6}。
  在监管方式上,金融监管部门运用监管科技应对金融科技的兴起{7}。英国金融监管局在2015年最新提出Reg Tech的概念,并将它定义成利用最新技术手段,促进金融机构更有效达到监管要求。金融机构在利用智能投顾开展资产管理业务的时候,必须要获得行政许可、获得资质;报备模型参数、实现算法透明和算法可解释性;制定预案、适时人工干预。
  我国目前对人工智能的法律规制以分散式立法的方式分布在不同层级的法律规范中,对精确营销、算法新闻和智能投顾进行了相应的规制。智能投顾中对算法的穿透式监管对将来人工智能的法律规制具有重大的启示意义,在行政许可准入、算法透明化要求和主体责任承担等方面为人工智能法律规制框架的构建提供了参考。
  二、人工智能的司法规制及其法律定位
  无论是人工智能还是机器人,如果去掉附着在它们身上的拟人化想象,它是基于算法通过数据自主学习的一套计算机制,本质在于算法和数据{8}。本文在讨论人工智能规制的时候,将不去区分人工智能和算法之间的区别,将它们作为同一概念处理。美国联邦法院和州法院在判例中对算法的性质、人工智能辅助量刑算法的合宪性、新技术条件下的个人隐私保护进行了回应,延续了其一贯的普通法的传统,通过司法对人工智能的应用予以合法性的认肯,对其中隐含的风险予以规制,并将隐私保护扩张到手机位置信息。司法判例或者将算法定性成商业秘密,或者在关于搜索引擎算法的判决中,将它看成是言论{9}。将搜索引擎的算法当作言论的主张在学者中激起了广泛的争论。
  (一)算法作为言论自由
  2003年的Search King V. Google Tech., Inc.,堪称搜索引擎领域算法第一案。该案中,Google对搜索王的网页排名进行了降序乃至于删除,搜索王将Google告到了法院。俄克拉荷玛州法院

  ······

法宝用户,请登录后查看全部内容。
还不是用户?点击单篇购买;单位用户可在线填写“申请试用表”申请试用或直接致电400-810-8266成为法宝付费用户。
【注释】                                                                                                     
【参考文献】

{1} Frank Easterbrook.Cyberspace and the Law of Horse[J]. University of Chicago Legal Forum,1996:207-216.

{2}李晟.略论人工智能语境下的法律转型[J].法学评论,2018(1):106.

{3} Anjanete H. Raymond. Information and the Regulatory Landscape: A Growing Need to Reconsider Existing Legal Frameworks[J]. Washington and Lee Journal of Civil Rights and Social Justice ,2018,24(2).

{4}方师师.算法如何重塑新闻业:现状、问题与规制[J].新闻与写作,2018(9):11-19.

{5}吴烨,叶林.“智能投顾”的本质及规制路径[J].法学杂志,2018(5):22.

{6}高丝敏.智能投顾模式中的主体识别和义务设定[J].法学研究,2018(5):40-57.

{7}张家林.监管科技(Reg Tech)发展及其应用研究——以智能投顾为例[J].金融监管研究,2018(6):76-93.

{8}胡凌.人工智能的法律想象[J].文化纵横,2017(4):108-116.

{9}左亦鲁.算法与言论——美国的理论与实践[J].环球法律评论,2018(5):122-139.谁敢欺负我的人

{10} Veenu Goswami.Algorithms, Expression and the Charter[J]. A Way Forward For Canadian Courts.Western Journal of Legal Studies ,2017,1(1):3-17.

{11}李本.美国司法实践中的人工智能:问题与挑战[J].中国法律评论,2018(2):54-55.

{12}Anupam Chander. The Racist Algorithm [J]. Michigan Law Review ,2017,115(6):1027.

{13}Dianelle Keats Citron & Frank Pasquale. The Scored Society: Due Process for Automated Predictions[J]. Washington Law Review ,2014,89:1.

{14} Danielle Keats Citron. Technological Due Process[J]. Washington University Law Review,2008,85(6):1249.

{15}郑戈.算法的法律与法律的算法,[J].中国法律评论,2018(2):75.

{16} Paul Ohm, Blake Reid. Regulating Software When Everything Has Software[J]. George Washington Law Review ,2016,84(6):1672-1702.

{17}吴习彧.司法裁判人工智能化的可能性及问题[J].浙江社会科学,2017(4):51-56.

{18} Pauline T. Kim. Auditing Algorithms for Discrimination [J]. University of Pennsylvania Law Review Online ,2017,166:189.

{19}查云飞.人工智能时代全自动具体行政行为研究[J].比较法研究,2018(5):167-179.

{20}季卫东.人工智能时代的司法权之变[J].东方法学,2018(1):133.

{21}李文莉,杨玥捷.智能投顾的法律风险及监管建议[J].法学,2017(8):17.

©北大法宝:(www.pkulaw.cn)专业提供法律信息、法学知识和法律软件领域各类解决方案。北大法宝为您提供丰富的参考资料,正式引用法规条文时请与标准文本核对
欢迎查看所有产品和服务。法宝快讯:如何快速找到您需要的检索结果?    法宝V5有何新特色?
扫码阅读
本篇【法宝引证码CLI.A.1255297      关注法宝动态:  

法宝联想
【相似文献】
【作者其他文献】

热门视频更多