2024世界人工智能大会法治论坛在沪举办

探讨人形机器人的法治与伦理

上海法治报 2024年07月10日 徐慧

  □  记者  徐慧

  7月6日上午,以“人形机器人的法治与伦理”为主题的2024世界人工智能大会法治论坛在上海世博中心蓝厅成功举办。论坛由世界人工智能大会组委会办公室指导,上海市法学会主办,复旦大学、上海交通大学、浙江大学、南京大学、中国科技大学、浙江清华长三角研究院、华东政法大学、上海政法学院、西南政法大学、腾讯公司、京东集团等院校和机构协办。

  把握数字时代法律变革的总体趋势

  最高人民法院副院长茅仲华表示,人民法院主动作为下好“先手棋”,设立互联网法院、互联网法庭,推进数字法院建设,妥善审理涉互联网前沿案件,培育数据权益保护典型案例,积极应对人形机器人在研发、训练、应用过程中的法律适用问题。今后将不断推动完善新技术应用的法律治理框架,为数字中国建设提供有力法治支撑。

  最高人民检察院检察委员会副部级专职委员苗生明认为,要重点加强对人工智能等新业态新领域知识产权司法保护,维护创新主体合法权益,服务未来产业健康发展。开展“检察护企”,依法惩治侵犯关键核心技术犯罪,加强科技创新综合保护,继续加强案例指导,统筹指导提升办案质效。充分运用法治力量服务数字经济建设,推动新质生产力加快发展。

  中国法学会副会长甘藏春表示,人形机器人发展当中遇到的法律问题、伦理问题,本质上仍然是数字时代法律变革遇到的问题。必须把握数字时代法律变革的总体趋势,努力找寻智能向善的伦理原则与法律结合的合理区间,推进人权、公权力、技术权利三维模式的新法治模式,综合运用法治的各项实施机制,对冲法律与数字技术发展之间的时差,促进数字法治的国际合作。

  上海市高级人民法院院长贾宇、上海市人民检察院检察长陈勇等出席论坛。上海市法学会会长姜平主持论坛开幕式。论坛发布《人形机器人治理导则》、《世界人工智能法治蓝皮书(2024)》、“数据流通合规云平台”等研究成果。

  加快构建推动人工智能发展的制度特区

  中国政法大学副校长时建中教授以《加快构建推动人工智能发展的制度特区》为题发表主题演讲。他提出,在推动人工智能领域向强发展时,数据、算法与算力等三个要素不可或缺,并分别涉及产业政策与监管法制的问题;还应坚持通过“促进”让人工智能向上发展,通过“规范”让人工智能向善发展。据此,一个合理的人工智能发展的制度特区应确保实训练数据的易获取性、促使公共数据的有效利用、保护知识产权的合理使用、鼓励算力算法的充分合作、坚持预训练内容的差异化监管、实现人工智能责任的合理分配,即应采取分类思维,根据不同阶段采取不同制度,这不仅是对技术的合理态度,也是对未来负责任的体现。

  人形机器人的伦理挑战及应对

  联合国人工智能高级别咨询机构成员、中国政法大学数据法治研究院张凌寒教授以《人形机器人的伦理挑战及应对》为题作主旨演讲。她认为,人形机器人的本质是AIGC与物理形态的结合,“有趣的灵魂”加上“好看的皮囊”让人形机器人从科幻作品成为生活中触手可及的技术产品:首先,人形机器人需要全方位收集个人信息与环境数据,隐私保护问题更加迫在眉睫,本地与云端的合作调用能力和数据处理机制也使得个人信息保护制度受到挑战;其次,人形形态与AIGC的结合容易造成拟人交互的沉迷风险;最后,AIGC的新型人机交互模式,使得人工智能知识高于人类,极易造成依赖形成操作的伦理风险。对此的回应,应坚持科技发展以人为本,始终在法律制度设计中坚持人类的主体地位;其次,必须形成全球治理合作机制对人工智能的风险予以积极回应。