朱福勇

□《互联网信息服务深度合成管理规定（征求意见稿）》通过明定与民法典、刑法的衔接，减少深度合成技术的趋利性而脱离人本初衷的风险，防范深度合成的技术异化风险，与《个人信息保护法》等形成合力，防范信息失真与泄露风险，助力民众跨越“数字鸿沟”。

□在技术深度合成中，特别是数据与个人信息保护，需要从数据与个人信息的认知、数据与个人信息感知和评价，以及技术深度合成利益的合理分配三个方面进行考量，合理平衡好深度合成服务提供者与使用者、数据与个人信息私益之间利益。

□可以结合实际，完善有关深度合成服务版权、传播权、侵权赔偿和版税等相关问题的规定，明确相应处罚后果，以提高技术滥用的违法成本，减少技术滥用风险，制止违法犯罪行为。

深度合成技术离不开对数据与个人信息的利用。《互联网信息服务深度合成管理规定（征求意见稿）》  （以下简称《意见稿》）遵循十九大“建立网络综合治理体系，营造清朗的网络空间”的要求，以互联网信息深度合成服务管理为主要内容，吸收了《网络信息内容生态治理规定》《网络音视频信息服务管理规定》等有关内容，与《个人信息保护法》等共同构建深度合成服务管理体系，有效规范深度合成服务提供者的行为，强化对服务提供者的监管，以从源头上预防和治理对深度合成行业的不法行为；

同时，通过细化服务提供者显著标识的义务等，让民众能够知晓和识别深度合成产品，减少非法服务存在空间，并要求服务商提供申诉、投诉入口，便于监督，并苛以严厉的法律责任，对数据与个人信息的切实维护具有重要意义。

数据与个人信息保护的原则、措施及实现方式

1.保护原则。  《意见稿》在细化《个人信息保护法》  《数据安全法》等规定基础上，开宗明义地表明了对数据与个人信息保护原则，以促进深度合成技术有序发展。其中，第6条特别指出，任何组织和个人不得利用深度合成服务从事侵犯他人合法权益等法律法规禁止的活动，不得制作、复制、发布、传播含有侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益等法律法规禁止内容的信息。

之所以如此规定，原因在于，近年来，随着Deepfake一词的出现，深度合成技术所产生的信息泥沙俱下，如在《意见稿》第2条所确定的范围中，在文本、图像、音频、视屏等场景中使用深度合成所形成的信息，容易混淆视听，导致人们对该信息真实性的误读，以至于出现损及个人名誉权、隐私权等现象。

2.保护措施。一是规范提供者的管理责任。  《意见稿》要求深度合成服务提供者加强行业自律，完善行业组织规范，落实信息安全主体责任，实施“与新技术新应用发展相适应的安全可控的技术保障措施”，以显著方式提示服务使用者的信息安全义务，确保用户信息安全；同时，还要求深度合成服务提供者“设置便捷有效的用户申诉和公众投诉、举报入口”，对提供服务的算法进行备案；对于具有舆论属性或者社会动员能力的新产品、新应用、新功能的，依规“开展安全评估”。通过建立服务提供者自律、服务互联网商店上架审核、鼓励公众监督的安全体系，保障用户以及个人权益。

二是完善特别提示与保障。相较于《网络音视频信息服务管理规定》中“以显著方式予以标识”规定，  《意见稿》细化了对显著标识的规定。即第十四条规定显著标识的作用，  “向社会公众有效提示信息内容的合成情况”，为不同种类的深度合成服务产品提供了位置、语音说明、图像和视频信息内容的明显位置、虚拟场景信息内容的明显位置等；第十五条对未依法标识的深度合成服务的，规定“应当立即停止传输该信息，按照规定作出显著标识后，方可继续传输”；第十二条对训练数据管理的，规定“包含涉及个人信息数据的，还应当遵守个人信息保护有关规定，不得非法处理个人信息”，与《个人信息保护法》相衔接，强化对数据与个人信息安全的保护；在进行生物识别信息编辑时，要求“依法告知并取得被编辑的个人信息主体的单独同意”，深度合成服务使用者应当进行“真实身份验证”，以此达至规制深度合成服务提供者行为之目的。

3.实现路径。  《意见稿》从深度合成服务提供者与使用者角度考量构建信息安全体系，以防止技术深度合成沦为“深度伪造”。即通过明定以及与民法典、刑法的衔接，减少深度合成技术的趋利性而脱离人本初衷的风险，防范深度合成的技术异化风险，与《个人信息保护法》等形成合力，防范信息失真与泄露风险，助力民众跨越“数字鸿沟”。

由于深度合成技术撷取的信息数据往往更为私密，如“ZAO”等“AI换脸”技术的使用，是通过搜集拟合成对象的脸部神态、声音强调等个性化信息结合运用产生，其中包含大量公众敏感信息，具有严重的安全威胁性。显著标识让民众区分深度合成技术的产出结果与原始数据，从而了解事实真相，缓解因信息公信力问题产生的信任危机。

数据与个人信息安全体系的构建与完善

由上述内容可以发现，  《意见稿》对数据与个人信息保护体现在两个方面：一方面，从数据收集与提取角度进行规范，获得原始数据主体的同意，保留对原始数据的留存与备案；另一方面，从合成转换输出结果的角度进行规范，通过显著标识，帮助民众区分深度合成产品与原始数据，减少信息风险。通过在深度合成过程中的数据收集提取与输出结果两个阶段进行规制，再辅以互联网商店审核等其它手段，完善数据与个人信息安全体系的构建，保障公众知情权，加强公众信任。由此仍需要思考如下问题：

1.深度合成技术合法合规的界定。深度合成技术犹如一柄双刃剑，为了发挥趋利避害的效用，笔者认为，技术深度合成中需遵循合法、合规、正当和必要原则，以达至既定的规范、约束和指引的功效。特别是对法律法规未规定的，需要细化深度合成技术的行业规范。因为较于法律规定而言，行业内部规范更加适应深度合成技术行业发展需要以及变化。同时，作为立法的补充，行业规范也为后续立法提供参考经验，并能够增强行业内部公司间的相互信任合作，推动行业良性发展。

在此基础上，尚需考量该技术是否具有为公众内心所信服、行动所接受的属性，是否符合技术规范或客观标准等。因此，深度合成公司技术和行业可从正当性、监管、技术安全和可靠、信息安全与隐私保护、法律责任等方面细化规范，给出相应干预措施或指导意见，重视技术深度合成行业伦理规范的功效。

在数据与信息收集与提取方面，需要深度合成服务提供者公开数据编辑日志、防篡改记录等供有关部门，甚至公众查询，让提供者的数据提取与数据合成过程受到监管，在“阳光”下运行，确保数据与个人信息提取的合法合规，并提高对数据使用者的溯源追踪能力，保证用户身份信息及数据信息的真实和不可篡改。这要求服务提供者在显著位置注明原始信息来源，必要时附带原信息链接。

在合成转换输出结果方面，在进一步采取双重显著标识的基础上，细分输出结果敏感安全性，实行分类监管。深度合成输出结果由诸如视频、图片、音频等多种表现形式，可以根据其中涉及的敏感信息程度予以分级分类，使监管更具科学化和实效性。不仅在深度合成输出产品上需要显著标识，在原始视频等原始信息上亦添加“数字水印”，从源头与产出两方面进行标识，溯源防伪，助于民众分辨真假信息，确保各阶段信息的真实度辨析。

2.诸方利益衡量方法的适用。法律法规并非一味偏袒权利人或社会公众，而是在利益衡平的前提下，尽可能刺激更多深度合成产品的产出。而技术深度合成较为复杂，必将牵扯多方利益，其中社会公益和数据与个人信息私益的平衡是基本出发点。

在技术深度合成中，特别是数据与个人信息保护，需要从数据与个人信息的认知、数据与个人信息感知和评价，以及技术深度合成利益的合理分配三个方面进行考量，合理平衡好深度合成服务提供者与使用者、数据与个人信息私益之间利益，避免技术深度合成对个人信息和社会公益造成损伤。

3.与《民法典》的有效衔接。结合《民法典》人格权编中肖像权、名誉权等规定，  《意见稿》作出了相应规定，但就深度合成技术发展带来的“灰色地带”、有关版权、传播权等，以及相关处罚的规定仍需要进一步明确。

对此，笔者认为，可以结合实际，完善有关深度合成服务版权、传播权、侵权赔偿和版税等相关问题的规定，明确相应处罚后果，以提高技术滥用的违法成本，减少技术滥用风险，制止违法犯罪行为。同时，还可以通过具化互联网商店的审核内容、明确版权、传播权等，不断完善公众监督体系，进而健全深度合成技术的数据和个人信息安全体系。

技术中立而行为可控。深度合成技术让“伪造物”具有高度的真实性，通过AI算法与面部映射软件结合，并加入声音等身份信息，产出具有高度的相似性。故而需要对深度合成技术行为加以限制与规范，以预防和减少深度合成技术的不当，甚至是滥用行为，消磨民众对深度合成技术“深度伪造”的刻板印象，促推深度合成技术行业内的合法、合规和有序竞争，通过技术的不断推陈出新，满足用户需求，并创造更多的社会财富，以彰显深度合成技术向上向善的正向价值目标。

（作者系西南政法大学人工智能法学院教授、博导）