首页
如今，生成式AI广泛应用，给生活带来了不小的改变。技术普及大幅降低了生成式AI的使用门槛，从AI视频生成到AI聊天陪伴，丰富大众生活的同时，个别商家也以此为牟利工具，背弃技术伦理与法律底线，借生成式AI大模型，行违法“造黄”之举，污染网络空间、败坏社会风气。
按照消费者举报的线索，记者在多个互联网平台上进行了检索，不少平台上有人在公开兜售“利用AI技术制作色情擦边视频”的教程，号称仅凭一张图片，甚至几句话就可自行“手搓”“让自己满意的大尺度视频”。
一些教程为了兜售自己的产品，还刻意引导用户如何规避监管，比如使用境外图生视频AI软件、将程序部署在本地电脑离线运行等。
记者以9.9元和9.8元的价格，分别在“万象小店”和“楠楠素材库”下单，购买了两组提示词。点开商家发来的文件，记者看到提示词描述十分详细，从发型、服饰、身材，到姿势、表情甚至腰部、胯部扭动的幅度，提示词都做了极其细致的刻画。重要的是，商家还将一些敏感词汇翻译成英文，以此来规避网络上的监管。
记者对用户使用较多的10款AI应用进行了实测。在测试过程中，记者发现，如果输入的提示词表述较为“露骨”，多数AI应用会触发审核机制并拒绝生成内容。然而，这条防线却很脆弱。只要将提示词修改得更加隐晦，便有可能绕过限制。
如何界定软件开发者、创作者等主体在涉黄过程中的法律责任？上海曼昆律师事务所资深律师邵诗巍表示，从此次披露的事实可以看出，AI“造黄”已经形成一条工具、内容、渠道、技术、流量环环相扣的违法产业链。从刑事法律主体的角度，至少可以拆分为五类责任主体，且均不同程度地落入现行刑法与行政法规的规制范围。
邵诗巍表示，有的社交平台大量承载教程帖和下载链接，如该类平台未尽审核义务而致违法内容大规模扩散的，可能承担拒不履行信息网络安全管理义务罪的刑事责任；对于提供VPN加速器、“一键换脸”底层技术的服务商与开发者，在明知下游用途仍提供技术支撑的，同样存在构成共同犯罪或帮信罪的空间。
（来源：央视财经等）
放大
上一版
