如何为人工智能发展上把“安全锁”？

　　□法治报记者  王川

近日，一款人工智能产品“变脸软件”风靡朋友圈，正当网友玩得不亦乐乎时，不少律师提出质疑，并泼来“冷水”，指出软件提供方过度获取公民个人信息和授权权限，存在极大的法律风险。

人工智能离我们的生活有多远？涉人工智能案件情况如何？如何让人工智能为法治进步提供助力？而法治又该如何为人工智能的发展加上一把“安全锁”？2019世界人工智能大会虽然已经落下帷幕，但人工智能留给人们的思考却不会停歇。

在8月30日举行的2019世界人工智能大会法治论坛上，《世界人工智能法治蓝皮书（2019）》首发，对上述问题进行了全面解答，同时来自中、英、美、荷等多个国家的11位专家学者分享了人工智能与法治的研究成果。

涉人工智能案件增多，首发“法治蓝皮书”

2019年8月30日，由世界人工智能大会组委会主办，上海市法学会和中国司法大数据研究院承办的2019世界人工智能大会法治论坛在沪举办。

论坛主题为“共建未来法治，共享智能福祉”，旨在推动产业发展和相关制度的跟进，更好服务保障AI国家战略大局，向世界展现人工智能治理的中国方案，为国际合作打造重要的沟通平台和桥梁，推动人工智能全球治理和健康发展。

人工智能离我们有多远？用《世界人工智能法治蓝皮书（2019）》中的一句话回答就是“人工智能技术早已渗透到民众的社会生活中”。

除了一开始提到的“变脸”软件存在法律风险外，其实早在2008年，涉人工智能及其相关技术的案件就已经出现，在“上海步升大风音乐文化传播有限公司诉北京友播世纪信息技术有限公司侵犯录音制作者权纠纷案”中，就涉及到音乐作品的信息网络传播、“信息存储空间提供者”与“网络内容服务提供者”的定性，以及网络重新定向技术对于证据保全的干扰等诸多问题。

2008年以来，涉人工智能案件总体呈逐年增多趋势。其中，2015年及之后上升最快，到2018年达到高峰。从案件所涉类型来看，涉及到数据类案件占比过半，达到人工智能案件的56%；涉区块链案件比重次之，占24%；涉算法案件比重占19%，位列第三；涉智能合约案件最少，仅为1%。

法律专家认为，因人工智能及其相关技术仍处于不断进步之中，随着人工智能及其相关技术应用领域的不断拓宽，所涉及的法律问题会更多地显现出来，涉人工智能的相关司法案件也将呈现不断增加态势。

为推动人工智能法治建设，推进人工智能法学研究，更好的服务人工智能国家战略实施，上海市法学会、浙江清华长三角研究院共同组织编写了  《世界人工智能法治蓝皮书（2019）》，并在此次论坛上首发。

《蓝皮书》聚焦当前世界人工智能法治发展、人工智能法学研究领域最新成果，搜集汇总了中国乃至世界有关人工智能法治发展、人工智能法学研究方面的战略、政策、法律、重大理论研究和实际项目应用等资料。旨在通过《蓝皮书》促进人工智能法治建设，繁荣人工智能法学研究，为构建人工智能法治体系，营造人工智能法治生态，推动人工智能立法规范、法律体系、政策体系和伦理规范的建立，保障人工智能安全、可靠、可控、健康、持续发展发挥积极作用。

人工智能助力司法审判、智慧法院建设

人工智能的发展惠及到社会的方方面面，其中，在司法审判领域的应用已经有所展现。

论坛上，上海市法学会党组书记、会长崔亚东以《人工智能辅助庭审：让正义以看得见的方式实现》为题进行了演讲。他指出，人工智能时代的来临，法律人应主动拥抱新科技，抓住机遇，积极推动人工智能与法治的深度融合，让法治插上科技的翅膀，更好的维护社会公平与正义。

据介绍，在人工智能的背景下，上海刑事智能辅助办案系统（即206系统）应运而生，开创了人工智能在司法领域应用的先河。2017年7月，该系统在全国司法体制改革推进会上首次亮相，即引起了社会各界的高度关注。

那么经过两年的发展，该系统目前进展如何？有无生命力？崔亚东介绍，2018年底，上海206系统3.0版本上线运行，全市刑事案件办理实现了立案、侦查、批捕、审查、起诉、庭审、判决等均在系统中运行，即公安侦查阶段到法院审判阶段的全程运用。

据统计，截至2019年8月底，上海公安机关累计录入案件72485件。这意味着，上海全市公安机关办理的98%以上的刑事案件录入了206系统，上海刑事办案至此真正实现了全覆盖。

“证据标准、证据规则指引功能”是206系统的核心功能，也是世界首创，该功能的应用有效避免了冤假错案的发生。同时，206系统建立了统一网络运行平台，实现了办案流程再造，真正实现了公检法办案，均在网上运行数据共享，整个刑事诉讼活动全程可视、全程可控、全程留痕、全程监督，更好的体现了分工负责、刑事配合、互相制约的刑事诉讼原则。目前206系统已在安徽、山西、云南、新疆建设兵团、贵州等省市成功试点应用。

实际上，206系统也是中国智慧法院建设的一个组成部分。最高人民法院信息中心主任、中国司法大数据研究院院长许建峰在“以智能化为重点加快智慧法院建设”的主题演讲中指出，智慧法院不仅仅是一个信息系统，更是整个人民法院的组织建设、运营和管理的形态。随着中国法院近年来大力推进，智慧法院建设已经取得初步成效，并在审判、执行，文书的智能化生成、送达等方面实际应用。

据介绍，最高法院建成的人民法院大数据管理和服务平台，实时收集全国法院收结案数据，每5分钟自动更新一次，每日大约汇聚7万至8万个案件数据。截至目前，该平台已汇集全国法院1.4亿个案件数据，成为全世界最大的审判信息资源库。该数据库的建成，将为今后法院的各类系统，特别是智能化系统建设提供数据支撑。

许建峰表示，下一步，中国法院将以智能化建设为重点来加快智慧法院的建设。其总体要求就是要让智能化的应用能够服务于所有的用户，其中既包括人民群众，也包括法院的法官、干警等。此外，法院的管理者，也将从系统中获得大量智能化的支持。

据悉，2018年6月，全国第一家智慧法院实践基地已在上海海事法院正式挂牌成立。

全国人大拟立法为人工智能加把“安全锁”

人工智能的发展为经济社会发展注入了新动力，然而也必须注意到当前的人工智能发展还处于初期阶段，还存在诸多的不充分、不完善之处。

法律专家认为，人工智能是一把“双刃剑”，在赋能人类社会的同时，其发展的不确定性及可能会产生的风险和挑战在法律、安全、就业、道德伦理、政府治理、经济发展、社会稳定乃至全球治理等方面将带来极大影响，这已经引起人类的极大关注，并越来越受到各国政府的高度重视。

在此背景下，人工智能法治研究应运而生，为人工智能健康发展保驾护航。

此次论坛上除了发布《蓝皮书》之外，还发布了《人工智能安全与法治导则（2019）》。《导则》共分五部分内容，分别从人工智能算法安全、人工智能数据安全、人工智能知识产权问题、人工智能社会就业问题和人工智能法律责任问题几方面进行了规范导引。

此外，论坛还特别设置了面向全球大学生的“人工智能法治青年论坛”专场，发出《人工智能时代的青年责任》倡议性文件，希望借此提升全球青年大学生群体对人工智能法治的认知，更好地履行人工智能时代的青年责任。

据悉，目前中国正拟立法规范人工智能发展。今年3月4日，十三届全国人大二次会议在人民大会堂新闻发布厅举行新闻发布会，大会发言人张业遂就我国拟立法规范人工智能发展相关问题在答记者问中指出：人工智能是引领新一轮科技革命和产业变革的战略性技术，一些国家已将人工智能上升为国家重大发展战略。

全国人大常委会已将一些与人工智能密切相关的立法项目，如数字安全法、个人信息保护法和修改科学技术进步法等，列入本届五年的立法规划。同时把人工智能方面立法列入抓紧研究项目，围绕相关法律问题进行深入的调查论证，努力使人工智能创新发展，努力为人工智能的创新发展提供有力的法治保障。

SourcePh" style="display:none">