法律如何应对人工智能挑战

　　人工智能是当今社会的热点。从年初“阿法狗”横扫世界顶级棋手，到近期“阿法元”100比0全胜“阿法狗”，再到近日世界首位机器人公民的诞生，人工智能以迅猛的发展势头不断冲击着人们的日常生活，也给法律带来了全新的挑战。面对全新的问题与挑战，法律是否能提供妥当的解决方案？近日，北京大学法学院刑事法治研究中心主办题为“法律如何应对人工智能”沙龙，来自学界、司法界、企业界的专家、学者就此进行了探讨。

　　上海交通大学凯原法学院教授郑戈：

　　法律要智能地

　　应对人工智能

　　人工智能是现代工业文明发展的必然产物，其发展进程始终与工业文明的发展相伴而行。与人工智能的飞速发展相对照的，是发端于农业社会的、以具有有限理性的人为规制对象的法律体系所天然具有的滞后性。

　　当人工智能极大地强化了人类能力时，现有的法律制度就会呈现出其局限性。以美国的电子取证、诉讼管理、合同起草和审核为例，人工智能目前在法律职业中的应用，说明此类技术被全面推广以后，大量的法律职业将被人工智能取代，人工智能甚至可能导致法律思维和法律应用方式的根本性变革。

　　但人工智能对法律更根本的冲击在于人工智能会导致极化社会。人工智能使法律滞后于技术和经济的发展，使把握先机的人获得巨大的边际回报。并且，由于数据是人工智能时代最重要的资源，这将导致个人隐私和自由变得非常脆弱。同时，掌握了大量公民数据的企业可以利用这些信息对公民进行隐秘诱导，由此导致人们都“自愿服从”于某种看不见的力量。最后，一旦人工智能被应用于充满不确定性的金融市场，还可能带来各种灾难性后果。

　　面对这一系列困局，一种应对思路是为人工智能赋予法律人格。但是，无论机器人以何种方式承担责任，最终的责任承担者都是人，这使得它的法律人格显得毫无必要。

　　而在自动驾驶汽车领域，人工智能和法律的冲突则更为明显。为此，德国和美国提出了两种截然相反的应对方案：德国侧重于自上而下的规则设计，美国则采取了一种“行业自治+政府把关”的公法模式。此外，第三种规制思路是对算法设计者提出伦理性约束，要求其始终将人的生命放在首位。

　　法律如何更加“智能”地应对人工智能？

　　首先，法律人士应当学习人工智能知识，使人工智能的基础操作系统符合人类伦理和法律。其次，政府应当加大对人工智能的投入，吸收更多人工智能人才参与立法、行政和司法工作。第三，相比上述德国模式，美国模式更值得提倡的，即相应的技术标准、安全标准和个人数据保护标准应该是对行业自身发展出的标准与公共利益、个人权利保护原则的综合考量。最后，应当制定相关规则约束算法设计者的行为，倡导和强化算法伦理。

　　最高法院司改办规划处处长何帆：

　　人工智能短期内

　　不可能淘汰法律人

　　必须承认的是，尽管人工智能目前的确已开始取代一部分低端的法律职业，但是，囿于人工智能广泛运用的诸多前提要求，人工智能在短期内不可能淘汰法律人。

　　目前，部分法院已经开始以语音识别、图像识别、证据指引、知识图谱为媒介，对人工智能进行初步运用。但这一过程也面临各种制约和障碍，例如，部分法官对人工智能的深度运用仍存疑虑，认为人工智能并未减轻其工作负担；人工智能的深度应用要求打通公检法办案平台，但平台搭建需要强化统筹；人工智能的类案推送功能未来可能导致部分办案人员产生说理懈怠，或者过度依赖机器，等等。

　　法律人应当积极参与到技术研发中，为人工智能的深度应用提供场景、提炼规则，制作各种证据指引和知识图谱，推进机器深度学习。总之，投入多大人工，就会有多大智能。

　　京东集团法务部高级总监丁道勤：

　　人工智能的法律实践

　　仍处于起步阶段

　　人工智能的应用领域是十分广阔的，图像识别和语音识别仅是其中很小的一个分支。

　　人工智能的三个核心要素是场景、数据和算力，但人工智能不一定意味着大数据。以鹦鹉模式和乌鸦模式为例，相比于只会模仿的鹦鹉，能自主感知、推理、学习、执行的乌鸦式人工智能才是更值得推崇的。

　　目前，人工智能已经开始被运用于法律领域，但相较商业领域，人工智能的法律实践仍处于起步阶段。人工智能的法律影响主要体现在主体论即机器人的法律主体资格问题，以及应用论包括知识产权保护、侵权责任、隐私保护、劳动法和伦理问题等两大方面。

　　腾讯研究院法律研究中心副主任蔡雄山：

　　人工智能可能带来

　　五方面法律问题

　　人工智能带来了下一波产业浪潮，基础研究领域的进步使全球互联网企业都在积极进行战略转变。从产业界的视角出发，人工智能可能带来如下法律问题：

　　其一，个人数据保护问题。在人工智能时代，数据具有巨大商业价值，因此如何对数据进行保护、是否要赋予数据所有权，就是值得思考的。

　　其二，算法歧视问题。例如，当运用大数据对个人征信进行评估时，由于系统设计的主观性和数据本身的不全面性，得出的结论可能不够客观。

　　其三，监管以及由此引发的责任分配问题。一个典型的例子就是自动驾驶汽车发生事故后的归责问题，尤其是在加入机器学习之后，这一困境将更加凸显。

　　其四，人工智能作品的知识产权归属问题。这个问题已在中国出现。

　　其五，机器人的法律人格问题。这既关涉法律，更关涉伦理。

　　面对人工智能带来的这一系列问题，中国和西方现在正站在同一起跑线上。如何在这一特殊的历史阶段作出我们独特的贡献，是当下有必要深入探讨的。

　　华宇元典公司副总经理黄琳娜：

　　法律知识工程师

　　可能是新就业方向

　　人工智能处理民间借贷案件中的“签名伪造抗辩”可能遇到的语言识别障碍，说明法律AI不能复制围棋的成功。“阿法狗”成功的原因在于围棋边界封闭、规则明晰，这使得机器可以自造数据。但法律世界包罗万象、复杂混沌，常常没有明确的对错之分，且法律实践必须纳入人类知识，法律AI不可能摆脱人类经验积累数据。并且，在法律中存在着诸如“数额较大”与“数额巨大”、“抢劫”与“抢夺”等文本非常相似但法律含义有明确区别的概念，以及诸如“时效”等基于特定目的而由人类拟制的概念和制度，这给机器的无监督学习带来了巨大困难。

　　目前研发中探索出的方式是通过专业法律人积累带标签数据，并且将监督学习与强化学习相结合，使机器先通过较小规模的训练样本得到初步模型，再在法律人的不断反馈下扩张样本规模，通过数据循环最终得到较优的模型。在这个过程中，法律人进行的数据标注是非常重要的。

　　人工智能的发展不会导致法律人失业，但可能会使法律人的工作形态发生转化。未来，法律知识工程师可能成为一个新的就业方向。法律知识工程师的工作是制作法律知识图谱，将人类知识转化为机器可以理解的形态。与围棋不同，法律人工智能行业是一个强人工干预的知识驱动行业，因此必须探索一条独特的发展路径。

　　北京大学法学院副教授车浩：

　　人工智能带来

　　三个现实法律问题

　　人工智能可能带来三个现实的法律问题：

　　一是自动驾驶问题。自动驾驶汽车的出现将导致以人为中心所建立的各种法律规则和概念体系逐渐消亡。当自动驾驶汽车进入市场后，自动驾驶汽车和非自动驾驶汽车在一定时期内将并存于交通领域，这将给交通领域注意义务的设置和过失责任的认定带来挑战。并且，注意义务规则的提炼和自动驾驶汽车应当遵循的原则必须与当地的实际交通状况相适应，这就意味着自动驾驶领域的法律和技术必须本土化，而不能一味地移植借鉴。而等到自动驾驶全面普及、交通领域完全被人工智能支配的那一天，法律将不得不限制、禁止人的驾驶，以保证人工智能始终能作出正确判断。这时，统治交通领域的将不再是规则，而是算法。人类生活的基本领域将被机器所侵蚀。

　　二是人工智能的人格问题。这是基于立法与学术研究角度生发出的思考。通常而言，法律规制的对象是社会一般理性成年人；对于达不到这一理性标准的儿童、精神病人等群体，法律会另行设定规则，对其进行特殊保护。但是，当人工智能开始普及，当社会上出现能力高于一般理性成年人的“超人”时，传统的法律制度和规范将捉襟见肘。有必要考虑为这类人设定专门的法律规则。

　　三是人的退化问题。当人把脑力活动都交给机器，当人类生活的各个领域都被机器所取代，人类的智力必然会因为用进废退而发生退化。到了那时，法律或许也就可有可无。

　　北大英华科技有限公司总经理赵晓海：

　　人工智能

　　推动法学教育转型

　　人工智能不仅会影响法律职业，同时还会推动法学教育的转型。比起传授知识，创新、实践能力和判断力的塑造才是未来法学院的主要培养方向。今后法学院应当建立人工智能研究院，以理智和积极的态度应对人工智能以及它带来的新挑战。