“AI换脸”技术使用风险需警惕

编者按：

每有引人关注的社会事件、法律问题发生，律师往往能在第一时间给出提示、提供服务。我们为读者采集律师对这些身边事的法律解析，让您不用出家门就可享受“律师服务”。

据《广州日报》报道，近日有网友点开多个电商直播间，发现正在卖货的竟然是“迪丽热巴”“杨幂”等当红明星，背后其实是直播间的主播利用“AI换脸”，将自己的脸变得神似某位明星。

连日来，记者在抖音、快手、视频号等直播间浏览，暂未见到有“AI换脸”的直播。

记者在小红书上搜索“AI换脸”，当前，有不少博主通过视频拆解AI换脸诈骗的案例，并提醒大家要注意网聊风险。

“AI换脸”难度降低

“AI换脸”技术陆续出现在大众视野，被不少网友拿来“玩梗”。

今年初电视剧《狂飙》走红时，有网友把剧中多位男主角样子“换到”了经典歌曲《流星雨》的MV中，戏称为“狂飙F4”。

此外，有博主利用AI换脸，将特斯拉创始人马斯克的脸换到不同背景的照片中，戏称“马斯克卖烧烤”“马斯克摆摊”……目的是为了吸引网友们的眼球，带来更多的流量。

对此，深度科技研究院院长张孝荣表示，当前的AI换脸属于深度伪造的AI技术衍生应用。这种技术在影视和广告行业由来已久，现在有了AI技术，这种换脸软件开始大范围普及。

随着生成式AI的发展，使用难度进一步降低，新兴的App和主流的视频软件都增加了类似功能，如此一来，线上的“李逵”和“李鬼”日益增多，而且更加真假难辨。

“随着深度伪造技术、扩散模型、生成对抗网络和AI大模型等AI技术的日渐成熟，伪造相关视频、音频、图像等技术门槛大幅降低。”

天使投资人、资深人工智能专家郭涛表示，与此同时，大批提供相关服务的第三方应用软件问世，应用门槛进一步降低，哪怕是“AI技术小白”几分钟也能轻松学会AI换脸等操作。

“直播换脸软件，有的收费有的免费，收费的从几百到几千上万元不等，成本各有不同。”张孝荣直言。

换脸直播将遭断播

AI换脸技术带来的风险令大众担忧。对于最近直播平台AI换脸诈骗的情况，抖音方面对记者表示，目前抖音直播不允许换脸直播，一旦发现平台会直接断播。平台目前也在跟进换脸带货的情况，除了断播、限制橱窗购物车等带货功能，还会对侵权商家进行扣除信用分的处置。对断播后仍换脸直播的账户，将限制其直播权限。

据了解，5月9日《抖音关于人工智能生成内容的平台规范暨行业倡议》发布，要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，遵循相关规范，其中包括发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；虚拟人需在平台进行注册，虚拟人技术使用者需实名认证等。

今年4月，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》（以下简称《管理办法》），这也是国家首次针对生成式AI产业发布规范性政策。《管理办法》提及，利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。

AI诈骗须警惕

“AI换脸恶搞他人、冒充明星带货，佯装‘熟人’实施诈骗等上述滥用行为已经涉嫌侵权，甚至是刑事诈骗。”广东南方福瑞德律师事务所律师梁宇麒接受记者采访时表示。需要注意的是，《民法典》正式实施后，确定是否侵犯肖像权不再以使用是否以赢利为目的，也就是说，使用他人肖像前，须经过他人同意，否则将涉嫌构成侵权。

那么，该如何警惕和防范AI换脸技术带来的风险？梁宇麒建议，首先，政府部门加强AI换脸技术监管力度，并制定相应的法律法规，明确软件开发商、平台运营商以及使用人的责任边界以及处罚标准。其次，软件开发商和平台运营商应自身加强对AI换脸技术的内部监管，设定审核机制，规范使用行为。

最后也是最重要的，提高个人防范意识。大家在使用AI换脸软件或者小程序时，警惕被软件收集人脸、声音等个人敏感信息，如非必要，是可以拒绝收集的。以后面对关于涉及财物交易的事宜，建议通过个人联系电话、单位联系电话，甚至是面对面等多渠道确认后，再进行交易。

张孝荣表示，要像防范电信诈骗一样防范AI诈骗。提高警惕，保护个人隐私资料，避免泄露；不要轻信各种App传来的视频、电话或短信；建立财务信息防火墙，不要给陌生人转账。  （文静  张露）

SourcePh" style="display:none">