□法治报记者  陈颖婷

上周末，2022世界人工智能大会在上海落下了帷幕。元宇宙、自动驾驶、生物医疗、国产AI芯片、智慧物流、智能客服、人脸识别等悉数亮相，人工智能技术已经渗透千行百业，人工智能事业方兴未艾。与此同时，新的数字安全和治理挑战不可避免地出现，如何构筑面向未来的数字空间规则，促进元宇宙相关产业健康持续发展，成为需要思考的问题。会上，  《浦东新区人工智能企业数据安全和算法合规指引（试行）》  （以下简称《指引》）作为创新成果之一首次公布，并从发布之日起试行。

人工智能引领浦东硬核产业

在浦东六大“硬核”产业中，  “智能造”“数据港”就占有两席之地，两者无疑成为驱动浦东经济社会高质量发展的重要引擎。

相关数据显示，截至2021年底，浦东规上信息传输、软件和信息技术服务业营收达3411亿元，产业规模约占全区服务业的30%，32家企业进入上海市信息服务业高收入百强，13家企业在科创板成功上市。全市下载量超过2000万的移动互联网程序中有108个运营地在浦东，占到全市一半以上。从产业构成看，浦东已经形成基础元器件、网络平台、内容生产直至增值服务的全产业链条。从产业类型看，浦东在网络文学、网络资讯、网络视听、网络游戏、电子商务、人工智能、网络安全、云服务等领域均诞生了一批代表性企业，有些已成长为细分领域“独角兽”，有的在国际上都具备一定知名度和影响力。

而伴随着信息数据产业的蓬勃发展，由于法律意识的淡薄、企业合规工作的不规范，导致一些新兴企业在不经意间就踏上了“法律红线”。

检察介入让科技企业走出“低谷期”

如今为保护申城居民健康、为防疫工作作出巨大贡献的“数字哨兵”，它的开发企业就曾因为违法而面临生死存亡。

一年多前，因为经营管理中犯下的错误，当公司负责人涉案的消息传开后，作为行业龙头企业的公司股价暴跌、市值蒸发一半，这家员工超过1000人的上市公司遭遇到了一次深刻危机。而浦东新区人民检察院牵头启动的涉案企业合规工作，成为了该公司起死回生的关键。

“这是一家具有良好市场前景和较高社会责任感的上市企业，并且正处于快速发展阶段。”该公司案案发后，浦东检察院检察官夏静第一时间提前介入，这是她接触涉案企业后的第一感受。该公司拥有200多项专利和软件产品著作权，已经成为行业内头部公司，多次荣获上海名牌企业、高新技术企业等荣誉称号。该公司在疫情期间向学校、红十字会捐赠价值50余万元的防护服、口罩，在贫困地区设立专项奖学金，社会评价也很高。

有了真切直观的了解后，检察官决定用企业合规给涉案企业一次重启发展的机会。涉案企业自身也表现出强烈的积极整改的意愿。2021年8月，公司主动向检察机关递交企业合规申请书，  “我们请求检察机关对公司开展合规考察监督，希望通过合规建立来完善公司内控管理和刑事风险预防体系”。

经过全面社会调查，2021年10月，浦东检察院正式启动涉案企业合规考察，同时向公司制发合规检察建议书。收到检察建议书后，公司立即聘请合规团队，成立独立、专职的合规部门，制定合规计划和整改措施。与此同时，浦东检察院商请第三方监督评估机制管委会成立了由7名专家组成的第三方组织。

在启动合规考察的过程中，浦东检察院发现公司在数据安全等其他方面亦有潜在风险点，在与第三方组织研商后，决定将公司的合规考察从“以反商业贿赂合规为重点”转变为“以反商业贿赂合规与人工智能大数据合规两方面为重点”，提出反商业贿赂、反不正当竞争政策、网络安全与信息保护3个重点合规领域。经过修改，一系列专项合规制度出炉，包括设立以首席合规官为首的层级合规组织架构，利用人工智能的优势将合规流程嵌入公司流程审批系统，建立合规咨询、举报、调查通道等。

有了企业合规工作的支持，也让公司放下包袱，有了再次出发的底气。作为一家以AI和大数据驱动行业数字化的上市科技公司，合规整改后的公司充分发挥自身人工智能和大数据研发优势，研发出的智能产品开始在疫情防控中显现作用，之后被陆续投放在全市各个公共场所，为上海本轮疫情防控作出了重大贡献。公司收入也比前一年同期上涨160%，市值增长60%左右。

企业合规改革推进引领区建设

记者了解到，早在2020年3月，最高人民检察院便启动了企业合规改革的试点工作。浦东检察院作为全国首批试点单位，成为这项改革试点工作的“先行者”之一，担起证明这项改革的合理性和可行性、探索可以辐射全国的创新性制度机制的重担。党组书记、检察长曾国东表示，将“企业合规改革”嵌入服务保障浦东打造社会主义现代化建设引领区的工作中着力推进，是今后要重点思考的问题。

为此，浦东检察院牵头，与浦东新区工商联、人工智能行业指导部门、行业协会以及专业机构共同编制《指引》，其出台是为了进一步推动人工智能企业加强数据安全和算法合规管理，规范企业数据处理活动和算法研发应用，有效惩治和预防数据违法犯罪，营造法治化营商环境，助力浦东新区实施重点产业高质量发展行动计划，加快打造人工智能世界级产业集群，更好服务保障浦东引领区建设。

《指引》包含了企业数据合规组织机构建设、数据安全制度建设、数据全生命周期安全管理、算法合规制度建设、数据合规评估体系等内容，适用于上海市浦东新区人工智能企业，以及其他从事数据收集、处理和算法研发应用的相关企业。

浦东检察院检察官夏静介绍，  《指引》具有三大方面特色。第一，首次将算法合规纳入到数据合规体系，进一步完善了数据合规的管理体系。  《指引》对人工智能企业的算法公开、算法评估、反垄断和反不正当竞争、防范算法歧视等方面均作出规定。  《指引》还提倡企业应强化责任意识，对算法应用产生的结果负主体责任，提供算法推荐服务具有舆论属性或社会动员能力的应当进行互联网信息服务算法备案。

第二，进一步扩大了数据保护的范围。以往的数据合规指引往往侧重于个人信息保护，  《指引》则将保护范围由公民个人信息拓展到其他领域的重要信息与核心信息，更为注重数据合规的完整性。

第三，  《指引》创新性地引入数据合规的评价体系。通过外部评估与自评估两种方式相结合，帮助人工智能企业更好地发现数据合规管理中存在的问题，从而预防数据合规风险。

此外，  《指引》还提倡，数据处理者应当确保数据全生命周期（即数据收集、存储、加工、传输、提供、公开、销毁、出镜、转移、委托处理的全过程）内持续处于有效保护和合法利用的状态，保障数据免遭泄露、窃取、篡改、毁损、丢失、非法使用，并针对每个环节提出具体指引建议。

作为《指引》编制的主要牵头人之一，浦东检察院检委会专职委员严忠华认为，具有可操作性也是《指引》的一大优势，  “人工智能企业可以结合实际，对照《指引》制定相应的数据安全合规管理体系，降低企业合规风险和合规成本，增强数据合规管理的针对性和有效性。”

下阶段，浦东检察院将以《指引》发布为契机，继续加强与人工智能行业指导部门、行业协会和有关专业机构的通力协作，引导人工智能企业加强数据安全和算法合规管理，提高企业抵御合规风险能力，为推动浦东六大“硬核”产业迭代升级、打造人工智能产业集群、更好服务保障浦东引领区建设作出新的更大贡献。