首页
□ 首席记者 季张颖
本报讯 记者昨天从上海市网信办获悉，本年度，上海市网信办联合市市场监督管理局及相关行业主管部门继续开展“亮剑浦江·2025”个人信息权益保护专项执法行动，近期“回头看”巡查发现，在未通过安全评估、未采取必要安全防护措施等情况下，被要求下线的3家企业自行重新上线存在安全风险的生成式人工智能功能。市网信办对此依法约谈企业，进行严肃批评，要求全面整改，并依法对涉事企业进行立案查处。
此前，上海市网信办在专项行动中发现，部分对外提供生成式人工智能服务功能的网站，未按法律要求开展安全评估工作、未采取必要的安全措施防范违规信息生成、未采取限制措施防止生成式人工智能功能被滥用，导致相关生成功能侵犯个人信息权益、产出“开盒”“洗钱”等违法违规内容、生成色情低俗图片等信息内容，存在较大安全风险。上海市网信办督促企业自行下线相关功能，在通过安全评估后方可重新上线。
近期“回头看”巡查中发现存在典型问题：生成侵害他人个人信息权益的违规信息。个别企业未按《个人信息保护法》《互联网信息服务深度合成管理规定》等法律法规要求，提示用户在编辑他人生物识别信息时，应依法告知被编辑个人并取得其单独同意。如某网站在未取得被编辑个人同意的情况下，克隆其声纹信息并进行语音合成提供其他用户使用。
此外还生成色情、暴力等法律法规禁止的违规信息。个别企业未按照《网络安全法》《生成式人工智能服务管理暂行办法》等法律法规要求，在出现违法违规内容时及时采取停止生成、停止传播、消除等措施。如某网站依据输入信息，可生成色情、暴力等有害图片；某网站根据需求，可生成具有明显“性暗示”的文字信息。
放大
上一版
