生成内容涉黄，哩布哩布AI道歉

　　□  记者  陈颖婷

　　近日，央视曝光多款AI应用存在涉黄生成漏洞，其中哩布哩布AI应用被点名。昨天，“哩布哩布AI”微信公号发布致歉说明，并称已完成技术修复并封堵风险路径。这一事件不仅暴露出部分AI平台内容安全防线脆弱，更将AI技术滥用带来的伦理与法律挑战推至台前。对此，市人大代表从平台整治与司法护航角度，开出了系统性的“治理药方”。

　　平台认错：“内容安全是底线”

　　日前，央视曝光哩布哩布AI存在涉黄生成漏洞。记者输入在网上购买的提示词后，仅仅几分钟，这个AI平台就生成了一个半裸身体的女性跳舞视频。在整个生成过程中，没有触发平台任何限制机制，违规视频顺利生成。

　　昨天，哩布哩布AI微信公号发布了关于加强内容安全管理的相关说明。哩布哩布AI表示，近期媒体对AI生成内容安全问题的讨论，公司已关注并高度重视。第一时间启动内部专项排查，对平台生成能力及审核机制进行了全面自查。经排查发现，在个别复杂提示词组合及规避表达的边界场景下，平台存在生成不符合规范内容的情况。对此，公司深表歉意。本次问题也为公司敲响了警钟，使公司清醒认识到在内容安全边界识别与机制完善方面仍存在不足，未达到应有标准。相关问题已第一时间完成技术修复，并对风险路径进行全面封堵。同时，公司已同步加强攻防演练与审核机制升级，持续提升识别能力与处置效率，从源头降低风险发生。公司也已启动内部责任复盘机制，进一步完善相关管理与审核流程。

　　据悉，哩布哩布AI所属公司为北京奇点星宇科技有限公司，成立于2023年5月，注册资本100万元，含人工智能应用软件开发、人工智能基础软件开发、信息系统集成服务等业务。该公司现有三家对外投资公司，其唯一一家分支机构位于上海，目前已注销。

　　人大代表：构建具有上海特色人工智能全域治理体系

　　市人大代表詹婷婷认为，AI技术大幅降低了不良内容与虚假信息的制作门槛，容易引发社会认知混乱。“生成内容生态恶化，伦理风险与认知战交织叠加。”詹婷婷指出，国内已出现利用AI“一键生成”淫秽物品并在暗网低价流通的现象。为此，詹婷婷建议加快构建具有上海特色的人工智能全域治理体系。她提出强化技术攻关，依托上海市数据交易所共建“市级AI内容安全检测中心”，在张江、西岸等AI企业集聚区试点“AI安全沙盒”监管机制，推动技术防护从“被动阻断”向“主动防御”转变。

　　在法治规范方面，詹婷婷建议实行严格的“实名制+全留痕”管理，建立“黑名单”制度，“对反复违规、利用技术漏洞破坏水印标识的平台，依法从严查处，直至吊销经营许可”。

　　市人大代表沈铱则指出，利用AI技术实施制作淫秽物品等犯罪活动，“呈现出隐蔽化、跨域化、高科技化特征，传统侦查打击手段面临瓶颈。”在她看来，“司法层面上，规则供给滞后于技术迭代、风险研判前瞻性不足、跨部门协同治理机制尚未完全理顺。”

　　为此，沈铱建议由相关政法单位牵头，联合高校科研力量与领军科技企业，组建跨学科研究团队，设立“新兴技术司法应用与风险研判”专项课题，优先研究“AI生成物侵权认定标准”“算法自动化决策的司法审查”等紧迫问题。她还建议建立重大疑难案件的“技术+法律”审理机制，探索“技术调查官+专家陪审员+资深法官”的合议庭模式，并重点培育一批具有规则引领意义的典型案例。“例如我们可以借鉴‘李某利用AI换脸制作淫秽视频案’的审理经验，明确深度伪造技术滥用的刑事责任边界。”沈铱希望就AI领域输出具有国际影响力的“上海规则”。