□《上海市智能网联汽车示范运营实施细则（试行）》近日公开征求意见。开发和实施智能网联汽车的目的是通过运输更安全、行使更方便来造福整个社会。因此，必须对智能网联汽车的算法进行必要的伦理规制。

□政府应要求所有车辆符合某些算法伦理标准，来避免个体利益和社会公共利益的冲突。车辆算法伦理规划的监管类似于排放等其他安全标准的监管，通过实施限制来保护社会公共利益。

□《征求意见稿》应要求智能网联汽车自动编程和智能算法当出现不得已可能出现事故的情况下，以伤害车辆内部或外部的人员之前首先损坏包括车辆在内的财产为原则。

2018年以来，上海深入贯彻国家智能化发展战略，大力推进智能网联汽车发展。兵马未动，粮草先行。智能网联汽车的发展离不开伦理的规制。日前，上海市交通委发布了《上海市智能网联汽车示范运营实施细则（试行）》  （征求意见稿），现就该《征求意见稿》中涉及的智能网联汽车算法伦理问题提出针对性和建设性的意见和建议。

嵌入算法伦理规制条款的背景

智能网联汽车测试应用分为道路测试、示范应用、示范运营、商业化运营等4个阶段。  《征求意见稿》中涉及的法律规范聚焦于智能网联汽车“示范运营”阶段的相关法律问题，从测试流程来说已经进入了第三个阶段。这个阶段完成之后，将进入商业化运营阶段。这意味着上海的智能网联汽车测试从2018年开始已经完成了大半的测试工作。目前上海智能网联汽车测试的参与企业、测试车辆、测试场景和示范应用规模均位居全国前列，并取得了显著的成果：

在场景布局上，创新形成“四全一融合”的自动驾驶测试场景布局，累计开放近1300公里测试道路；在示范应用上，6家企业、299辆汽车在嘉定开展载人示范应用；智能重卡在临港实现规模化示范运营，完成约9.6万TEU运输量；多家企业在智能公交、智能清扫、智能配送、智能零售等新业态加速布局；在法律保障和政策引导上，相继出台《上海市智能网联汽车测试与示范实施办法》等法律法规，为智能网联汽车道路测试和示范应用提供了法律制度保障和政策指引。

可以说，上海市智能网联汽车的测试正在如火如荼地展开。开发和实施智能网联汽车的目的是通过运输更安全、行使更方便来造福整个社会。因此，必须对智能网联汽车的算法进行必要的伦理规制。

以算法伦理规制确保公共安全

在全球范围内，一些发达国家的公共道路上已经有很多智能网联汽车在行驶，并且已经发生了涉及智能网联汽车的事故和交通违规事件。特斯拉自从2015年推出智能网联汽车以来，在美国境内发生了多起涉及智能网联汽车的车祸并导致多人死亡。如2018年3月，自动驾驶优步汽车在亚利桑那州撞死行人；2019年5月，佛罗里达州一位特斯拉Model 3司机正在使用自动驾驶仪过程中因发生车祸而丧生。数据显示，美国从2021年7月20日到2022年5月21日，共发生392起涉及使用智能网联汽车的碰撞事故，其中特斯拉智能网联汽车占70%。可见，尽管共识认为智能网联汽车将显著减少机动车死亡和事故的数量，但实际上智能网联汽车发生碰撞和事故（包括人员伤亡）仍然是不可避免的。

毫无疑问，在智能网联汽车的发生碰撞和事故不可避免的情况下，如何在驾驶者个体利益和社会公共安全利益之间进行选择，成为智能网联汽车时代的一种社会困境。这种社会困境的“关键特征是个体利益和社会公共利益之间的张力”。这是智能网联汽车在安全性方面是一个难题。

智能网联汽车被设定了一套安全规则，构建这些规则相互冲突的场景并不难。假设智能网联汽车要么撞到行人，要么突然转向导致撞车并伤害乘客。应该指示它做什么？发表在《科学》杂志上的一篇“自动驾驶汽车的社会困境”论文显示，由麻省理工学院教授进行的一项研究表明，人们更喜欢在极端危险情况下能够减少人员伤亡的自动驾驶汽车。这意味着，大多数人都希望生活在一个汽车将伤亡人数降至最低的世界。但每个人都希望自己的汽车不惜一切代价保护自己。结果，在这种困境中，人们最终可能会通过为自己的利益行事，输出危险与危害，从而使社会其他人的环境变得不那么安全。如果每个人都这样做，那么社会最终会陷入悲剧，智能网联汽车不会最大限度地减少伤亡。

为此，政府需要在立法中嵌入智能网联汽车的算法伦理规范，从而有助于确保最大限度地提高智能网联汽车的安全潜力，并确保制造商不会将智能算法设置为驾驶者个体安全高于社会公共安全。为避免这种个体利益和社会公共利益的冲突，政府应要求所有车辆符合某些算法伦理标准。车辆算法伦理规划的监管类似于排放等其他安全标准的监管，通过实施限制来保护社会公共利益，以确保智能网联汽车尽可能地真正造福于社会大众。

德国相关立法经验借鉴

在智能网联汽车的算法伦理规范方面，德国走在全球的前面，相关做法值得我们予以关注。2017年以来德国自动驾驶道德委员会制定了《自动化和互联化机动车交通伦理准则》，以协调智能网联汽车驾驶员的自主权和责任以及与汽车制造商、保险公司和数据处理系统的优势和利益。2021年7月，德国颁布《自动驾驶法案》，强化了智能网联汽车的法律规制。

就智能网联汽车的算法伦理规范问题，德国建立了一个由法律学者、伦理学教授、智能网联汽车编程专家、汽车制造商和交通安全专家组成的伦理委员会来制定智能网联汽车的算法伦理规范准则。专家根据收集到的代表公众观点的数据，提出关于智能网联汽车道德监管的建议。伦理委员会专家从大样本量中进行多样化的调查，并使用这些调查数据来制定算法伦理算法必须遵守的原则。德国政府认为，通过采用算法伦理规制智能网联汽车对于为实现大多数人安全这一更大的社会目标是必要的。

建议增补算法伦理规制条款

为此，建议上海应该参照德国的《自动驾驶法案》和《自动化和互联化机动车交通伦理准则》的立法精神，在《上海市智能网联汽车示范运营实施细则（试行）》  （征求意见稿）中体现算法伦理规范要求，嵌入算法伦理规制条款。因此，上述《征求意见稿》第三章示范运营申请与确认，其中第七条（申请主体要求）中应该增补一款有关智能网联汽车的算法伦理规范方面的要求。

上海应通过地方立法来规范智能网联汽车的算法伦理规划。立法中有关智能网联汽车自动编程和智能算法的基本原则应该首先强化智能网联汽车的目的：提高安全性并减少与智能网联汽车相关的死亡人数。为确保社会变得更安全，有必要为算法伦理标准的实施建立社会安全和公共安全原则。该《征求意见稿》应要求智能网联汽车自动编程和智能算法当出现不得已可能出现事故的情况下，以伤害车辆内部或外部的人员之前首先损坏包括车辆在内的财产为原则。通过在上海智能网联汽车地方立法中嵌入算法伦理规制条款，寻求整个社会公共利益的最大化，从而实现最大安全性的目标。

【作者系上海交通大学凯原法学院教授、博导。本文系上海市社科规划一般课题《监管科技：金融监管创新法律问题及上海的实践研究》  （项目编号2018BFX004）的阶段性研究成果。】