人工智能机器人的法律属性与监管完善

　　倪楠

　　□  法律既是技术也是科学，法律产生的基础是社会关系。法律的发展和创设不可能建立在假设和虚幻上。因此，我们需要理性的看待人工智能机器人涉及的基本法律问题，以便更好地对人工智能产品进行认知和监管。

　　□  当人工智能机器人被法律定义为一种智能产品，关于它的法律责任就简单清晰了。人工智能和自动学习系统所带来的损害，如果是产品本身的不合格问题，《民法典》就能解决；如果涉及经营者欺诈问题，《消费者权益保护法》就能解决；如果涉及侵权问题，《产品质量法》就能解决。

　　□  面对人工智能机器人带来的监管挑战，应建立人工智能技术标准，实现标准化管理。按照研发过程，需要建立的人工智能技术标准规定包括：信息采集技术标准、算法技术标准、人工智能机器人产品标准、道德评价标准。

　　人工智能机器人是一种通过使用人工智能技术，能够模拟人类智能，从而自主执行任务的智能机器，并且至少需要具备三个要素：感觉要素、反应要素和思考要素。人工智能机器人通过传感器、摄像头等设备获取周围环境的信息，并通过语音识别、自然语言处理等技术与人类进行交流，根据收集到的信息和预设的规则做出合理的决策，并执行相应的动作。近年来，人工智能呈现出深度学习、跨界融合、人机协同、群智开放和自主操作的能力，并逐步迈向类脑智能、自主智能、混合智能以及群体智能的新发展阶段，“无人驾驶汽车”“机器人手术医生”“智能教师”“消防援救机器人”“智能客服”等都是人工智能的体现。2023年，全球人工智能服务器市场规模突破500亿美元，同比增长96%。我国人工智能核心产业规模达6000亿人民币。马斯克甚至预计，2026年人形机器人将商业化，到2040年世界上将有至少100亿个人形机器人投入使用。显而易见的是，人工智能已成为工业化、信息化后世界经济的新引擎，也是国际竞争的新焦点。

　　理性看待人工智能机器人涉及的基本法律问题

　　从1956年达特茅斯会议首次定义“人工智能”开始，人工智能技术按照其发挥作用的程度划分，共经历了两个发展阶段：初步发展阶段与学习阶段。当下，正处在人工智能发展的第二阶段，这与科幻电影里的“终结者”并不完全一样。现有的人工智能实际是一种“半自动化”人工智能或高度自动化的“类人化”高科技产品，法律对它的规定也很明确，使用《民法》《侵权责任法》和《产品质量法》就能解决相关的法律问题和纠纷。这是基于人工智能目前只是一门技术或者更准确地说它只是执行操作者的指令，并未产生自我意识或摆脱人的控制而形成独立的行为。人们对于人工智能的认知，也仅限于它是人类的一种产品，尚处于对人类的模仿阶段。

　　但自2016年起，人工智能借助强大的自我学习能力，正在逐步形成类脑智能、自主智能和混合智能，高速进入以“机器与人类相互对接”或“超人类发展”为代表的第三个发展阶段。但任何一项技术的发展都不可能游离于法律之外，有学者提出应给予人工智能机器人相应的法律地位，也有学者表示反对。沙特阿拉伯在2017年授予了机器人索菲亚公民身份，同年日本东京的涩谷区通过微软发布了一份声明，授予机器人Shibuya Mirai在日本的一个“居住权”，虽然其中宣示性的象征意义居多，并不等同于承认人工智能机器人拥有法律地位，但却引发了人们对人工智能机器人一系列的思考和假设。

　　在现有法律体系中，法律主体地位通常会赋予自然人和法人。《民法典》将法人被定义为具有民事权利能力和民事行为能力，依法独立享有民事权利和承担民事义务的组织。法人成为享有权利、负担义务的民事主体。也就是说，现有法律可以授予一个组织与自然人同样具有民事权利能力。如果按照这样理解，似乎授予人工智能机器人法律地位，正好与自然人相对应，也不存在明显的障碍。人工智能机器人在自我觉醒意识下被授予“机器人”这个法律地位，在这种假设下，“机器”和“自然”正好是人产生的两种状态。由此，人工智能机器人也会相应的产生民事责任、刑事责任和行政责任，“机器人”同样可以借债、侵权等等，相应的拥有财产权和人身权也是一种必然结果。但如果发展到这样的阶段，不仅是整个法律界将面临挑战，全人类也将面临和“机器人”共存的问题。

　　法律既是技术也是科学，法律产生的基础是社会关系。法律的发展和创设不可能建立在假设和虚幻上。即使我们万般希望拥有自主觉醒意识的机器人，也依然要等待基础科学的发展，要考虑人类的情感和需求，人类不可能创造出自身的敌人或是毁灭者。同时，纵观世界科学技术的发展史，没有一项科学技术不是在法律的框架下进行研究和发展的，任何科学技术的出现都必将推动相关法律的不断完善，只有更好地规范科学技术研发和应用的全过程，才能更好地确保科学技术为人类造福。因此，我们需要理性的看待人工智能机器人涉及的基本法律问题，以便更好地对人工智能产品进行认知和监管。

　　人工智能机器人的法律属性界定

　　目前，现有法律并没有对人工智能机器人给出相应的界定，也没有对其内涵和外延展开研究。然而，在法律上对人工智能机器人的界定极为重要，只有清晰地界定了人工智能机器人到底是什么，才能真正解决人工智能机器人的法律地位问题。

　　人工智能机器人从一开始，就是在人工智能技术支撑下，以辅助和协助人类完成各种工作的高科技工具。在人工智能机器人高速发展的今天，无论它多么“类人化”，即使日后能够独立思考和判断，它始终是在设计者预先设定好的数据采集方式和范围下，有选择地采集之后通过固有算法进行研发并形成产品，那么无论人工智能最终以什么样的产品样态呈现，都仅体现了设计者的预先设计，它并不是自主地产生某种意识而是在事先设计好的范围内在预先设定的行为中做出选择。因此，人工智能机器人归根到底只是一种工具。只要在法律中将人工智能机器人定义为“对人类智能进行模拟的工具”，那么就不会对现有法律体系中的法律主体产生任何影响和冲击。更何况，生产人工智能机器人目的是为了更好地服务人类，而不是取代人类或摧毁人类。

　　人工智能机器人产品的法律责任

　　当人工智能机器人被法律定义为一种智能产品，关于它的法律责任就简单清晰了。

　　作为消费者，如果在购买、使用人工智能机器人时受到损害，可以向销售者要求赔偿。销售者赔偿后，属于生产者的责任或者属于向销售者提供商品的其他销售者的责任的，销售者有权向生产者或者其他销售者追偿，这种责任属于合同责任。如果消费者或其他受害人因人工智能机器人缺陷造成人身、财产损害的，这种缺陷指的是人工智能机器人有造成人身、财产伤害的不合理危险。消费者可以向销售者要求赔偿，也可以向生产者要求赔偿。属于生产者责任的，销售者赔偿后，有权向生产者追偿。属于销售者责任的，生产者赔偿后，有权向销售者追偿。

　　因人工智能机器人存在缺陷造成受害人人身伤害的，侵害人应当赔偿医疗费、治疗期间的护理费、因误工减少的收入等费用；造成残疾的，还应当支付残疾者生活自助具费、生活补助费、残疾赔偿金以及由其扶养的人所必需的生活费等费用；造成受害人死亡的，并应当支付丧葬费、死亡赔偿金以及由死者生前扶养的人所必需的生活费等费用。因产品存在缺陷造成受害人财产损失的，侵害人应当恢复原状或者折价赔偿。受害人因此遭受其他重大损失的，侵害人应当赔偿损失。因此，当人工智能机器人系统出现错误决策时，即便事后难以复盘，但只要抓住其中基本的法律关系就能够确定相关法律的适用。人工智能和自动学习系统所带来的损害，如果是产品本身的不合格问题，《民法典》就能解决；如果涉及经营者欺诈问题，《消费者权益保护法》就能解决；如果涉及侵权问题，《产品质量法》就能解决。

　　唯一比较特殊的是，当机器人自我思考后产生刑事责任。但事实上，这样的“思考”又犯了假设性错误，机器人再智能也是在算法的支撑下进行运行，机器人造成伤害跟其他智能产品造成伤害没有差别，依然是追究经营者或者生产者的相关责任。

　　人工智能机器人带来的挑战与监管

　　人工智能机器人的广泛应用，在社会领域会引起伦理问题；在生活领域，对人的安全会产生一定的影响，甚至在人的操纵下会形成对其他人巨大的安全危害；还有一些专家提出，机器人的使用会产生更大的贫富差距，激化社会矛盾，也可能会产生人们对机器的依赖，对社会感情的疏离与冷漠。因此，应建立人工智能技术标准，实现标准化管理。构建一套在统一监管体系下依职权分环节对人工智能进行监管，不同监管主体在职权范围内制定相应的监管制度对人工智能进行具体管理。支撑不同监管制度而进行监管的就是依人工智能不同流程而设立的不同技术标准。按照研发过程，我们将人工智能技术标准规定为以下几种：

　　首先，信息采集技术标准。互联网作为公众平台，任意地采集信息必将导致个人信息的滥用和个人隐私的泄露，应通过技术手段为信息的采集设置红线，更好地保障公民个人信息安全。

　　其次，算法技术标准。在人工智能的研发过程中，依据同样的数据，不同的算法得出的结论必然是不同的。在研发过程中要设定和研究算法标准，防止经过算法计算后得出危害人类的潜在技术缺陷和漏洞，最终导致人工智能产品做出违法行为。

　　再次，人工智能机器人产品标准。人工智能机器人只是一套具有人形的技术程序，为了更好地保障产品质量安全，有效监管产品质量，应着手对人工智能应用领域进行细分，分别制定相应的技术标准，以保障产品合理运行，这也有利于责任的落实和召回。

　　第四，建立道德评价标准。由于人工智能是“类人化”的，它一开始就具有倾向性和目标性，这在很多领域就会出现伦理道德问题，例如现阶段一些生活聊天机器人，已形成了对老人多年的陪伴，很多老人对其产生了个人情感。人工智能所涉及的道德问题，经常是双向的，既有人工智能本身的也有人类自己的。因此，在某种人工智能项目进行立项审批阶段，就应对其进行道德评价，确定其研发的目的是否符合社会发展需求，是否符合人类道德标准，避免其存在暴力、低俗等潜在的威胁。

　　（作者系西北政法大学经济法学院院长、教授、博导，陕西省法学会市场监管法治研究会会长。）