全国人大代表许忠
全国政协委员吕红兵
□ 记者 陈颖婷 胡蝶飞
全球首款通用AI智能体“Manus”一夜爆红，生成式人工智能（GAI）应用DeepSeek用户破亿，AI作曲工具让普通人秒变“音乐家”……2025年春天，人工智能技术以更迅猛的姿态渗透进社会生活。然而，当大模型生成的“周杰伦新歌”席卷短视频平台，当自动驾驶汽车事故责任认定陷入争议，当AI诈骗利用名人的声像实施精准犯罪，技术的狂飙突进正给法律体系带来前所未有的挑战。在今年全国两会上，人工智能立法成为全国人大代表和全国政协委员热议的焦点。代表和委员们不约而同提交建议提案，围绕技术伦理、版权归属、司法革新等议题展开讨论，共同勾勒人工智能治理的“中国方案”。
音乐版权成AI侵权“重灾区”
“AI翻唱一秒模仿周杰伦，侵权责任谁来担？”全国人大代表、上海歌剧院院长许忠将矛头指向音乐版权保护乱象。他指出，今年世界知识产权日的主题是“知识产权和音乐：感受知识产权的节拍”，这一主题深刻揭示了知识产权在音乐产业中的重要性。
“以2023年为例，上海检察机关成功办理了一批制售盗版车载音乐U盘、光盘的刑事案件，涉案金额高达2027万元。这些案件涉及浦东、静安、宝山、松江等多个区域，被告人未经著作权人授权，非法复制音乐作品并通过电商平台销售，严重侵犯了音乐著作权。”许忠担忧地说，“当下，音乐产业蓬勃发展，2023年全球音乐版权收入已超过全球电影票房收入，显示出音乐市场的巨大潜力。然而，AI技术的兴起为音乐创作带来了新机遇，但也引发了复杂的版权保护难题。”
许忠的担心已经成为了现实，索尼音乐最新披露，公司已对AI生成的假冒音乐展开大规模打击行动，迄今已下架超过7.5万条涉及哈里·斯泰尔斯、皇后乐队和碧昂丝等旗下明星的AI伪造内容。索尼表示，流媒体平台上的AI伪造录音已经对合法音乐人的商业利益造成直接损害。音乐行业高管指出，目前被发现的AI伪造音乐可能只是冰山一角。由于识别和下架这些内容仍主要依赖人工筛查，真正流入市场的AI生成音乐远远不止已删除的部分。
在许忠看来，AI时代，技术的进步在为音乐创作带来效率提升的同时，也催生了新的侵权形式。司法机关应明确AI生成内容的版权归属，对侵害音乐创作的侵权犯罪不枉不纵，保护音乐创作者的合法权益，激励音乐家的创新精神，推动音乐产业的持续繁荣。
“希望相关部门能够重视这一问题，共同为音乐产业的健康发展提供有力保障。”许忠建议检察机关等司法机关继续深挖音乐领域的黑灰产业，通过加大执法力度、完善跨部门协作机制，探索音乐作品刑事附带民事诉讼机制，用好数字技术完善数字版权法律监督体系，切实保护音乐创作者的权益，维护音乐市场的公平竞争环境。“保护创作者就是保护创新火种，绝不能纵容AI沦为侵权工具。”许忠说。
GAI引发“失控焦虑”立法明确“技术红线”
“注册用户超7亿、上线大模型超300个，但每一条聊天记录都可能成为侵权的导火索。”全国政协委员、中华全国律师协会监事长吕红兵列举数据，直指生成式人工智能的治理紧迫性。今年以来，从“逝者数字复活”侵犯肖像权，到AI“深度伪造”语音诈骗案件频发，再到未成年人遭遇“暴力对话”诱导，GAI技术的“双刃剑”效应日益凸显。据中国裁判文书网数据，2021年至2024年期间，全国法院共审理涉人工智能纠纷案件1659件，绝大部分系生成式人工智能相关案件，涉及版权争议、“换脸”诈骗、虚假信息等。
吕红兵坦言，传统立法模式在AI领域面临三重挑战：“技术迭代带来调整对象的不确定性，产业爆发导致社会关系的复杂性，风险种类和程度的高度不可预见性。”他指出，去年3月，欧盟完成《人工智能法案》立法流程，出台全球首部关于AI的全面立法。在我国，国务院2023年度立法规划已将人工智能法草案列入其中。相对于专用AI而言，GAI具有可以执行不特定任务、具有庞大数据训练量等重要特征。“因此，我们普遍认为的AI立法，很难精准规范GAI的特殊内容。”吕红兵指出，制定一部既要解决当下问题，又能充分考虑长远的人工智能法难度极大。因此，吕红兵建议，在加紧研究、充分借鉴、尽力推进的同时，可以选择生成式人工智能这一社会最关心、最直接、最现实的“切口”，尽快推进“小、快、灵”立法，尽早出台行政法规。
在他看来，立法可以聚焦生成式AI这一“牛鼻子”，对GAI技术开发者、服务提供者、使用者、监管者以及社会公众，分门别类明确各自权利和义务、职能与责任。“著作权保护是个核心又敏感的问题。”吕红兵特别指出，应明确服务提供者履行民法典规定的“网络服务提供者”“信息处理者”义务。依法对生成内容进行标识；发现违法内容及时处置、整改并报告；对使用者的输入信息和使用记录依法保护；履行用户管理义务，采取未成年人防沉迷措施，建立健全投诉、举报机制。
同时，按照民法典有关“网络用户”“个人信息权利人”的权利、义务和责任规定，细化对使用者的权益维护与使用规范，对生成内容涉嫌“深度伪造”可能构成侵权的，则应建立并完善精准的检测标准。
为技术创新、产业创新提供更宽松政策环境
全国人大代表、东方财富信息股份有限公司董事长其实认为，AI大模型的广泛应用带来了一系列现实挑战：AI大模型训练数据的版权归属、生成内容的权责认定、自动驾驶事故的归责机制……他建议加快推进人工智能立法，秉持包容审慎的理念，以促进发展为导向，为技术创新、产业创新提供更加宽松的政策环境。
其实还建议加强人工智能在司法实践中的运用，推动数字赋能从线上化、信息化向智能化转变，提高司法质效；推动司法审判从“经验驱动”向“数据驱动”转型，推动适法统一。
“数据显示，2013年一名法官的年平均办案量只有65件，而到2024年这一数字上升为350余件。”其实认为，面对日益突出的人少案多矛盾，有必要进一步强化人工智能技术的应用。人工智能还可以助力推动司法统一，“比如刚刚上线满一周年的人民法院案例库可以成为法官审理案件的重要参考。2024年全国法院超18万个案件在裁判中参考了入库案例。”其实希望未来可以进一步深化人工智能大模型的应用，探索建设审判智能体的功能。在其实看来，真正的公平正义应当具有穿透表象智慧，它既需要尊重法条程序正义的规则框架，更需要从动态的视角审视每个行为产生是否有恶意诉讼的嫌疑，而人工智能在其中能发挥作用。
吕红兵表示，人工智能的立法牵涉到方方面面，目前的监管由国家网信办、工信部、公安部、科技部等多个部门共同主导，未来可以尝试对相关的行政职能“提取公因数”“合并同类项”，建立一个专业、权威、综合性的部门，从而提高监管的专业性与效率。