首页
□ 首席记者 季张颖
本报讯 近日，上海市徐汇区人民检察院与上海市公安局徐汇分局联合发布《生成式人工智能刑事案件电子数据取证与审查指引》，记者获悉，这也是上海司法机关首次针对生成式人工智能犯罪领域系统构建的电子数据取证与审查规范，标志着人工智能犯罪治理迈入标准化、体系化新阶段。
随着生成式人工智能技术迅猛发展，大语言模型、图像生成、音频合成等技术在赋能生产生活的同时，也被不法分子用于实施诈骗、伪造、侵害知识产权等新型犯罪。此类案件中的电子数据贯穿模型开发、服务提供与技术使用全链条，呈现出“取证难、专业性强、逻辑复杂”等特征。
“生成式人工智能的运行机制往往是‘黑箱’，其算法逻辑不透明、模型迭代频繁，给司法实践中因果关系的构建与证据链的完整性带来巨大挑战。”徐汇区检察院人工智能综合履职团队成员陆倩慧表示。
《指引》共4章42条，形成了从基础规范到取证指引、审查标准到协作机制的完整体系，同时对各个环节进行分解细化，力争对具体工作有较强的针对性、指导性和可操作性。《指引》第一章总则明确了指引的基本遵循；第二章针对四类生成式人工智能刑事案件，分别以技术开发者、服务提供者、技术使用者为主体，明确取证重点和方法，并就侦查实验和技术鉴定提出取证方向；第三章明确了检察机关审查电子数据的标准和方法，强调全面审查电子数据与案件事实多元关联，避免孤立判断；第四章协作配合指出生成式人工智能刑事犯罪打击和安全风险防控，均需公检机关间建立长效协作机制。
针对“算法黑箱”难以溯源的问题，《指引》创新提出通过变量对比、环境模拟、同一性校验等实验方法，还原数据生成路径，为司法实践提供可操作的取证路径。
为确保《指引》的科学性与适用性，徐汇区人民检察院组织召开专家论证会，邀请来自上海市检察机关、公安机关及中国政法大学、华东政法大学等高校的专家学者共同“把脉会诊”，参与制度校准。
市公安局法制总队副总队长税兵表示，《指引》是从实操经验与实务案例中提炼总结而来的，对侦查办案具有很大的意义和价值。一是针对性强，《指引》对生成式人工智能刑事案件表现形式进行了深入研究、归纳总结，为审查工作开展了有效探索。二是可操作性强，《指引》结合侦查实验和检验鉴定两个重点方面，制作了全面详细的审核要点清单，明确了证据采信和不采信的具体情形，为公安内部审核工作提供了标准化清单。
上海市人民检察院第一检察部副主任徐亚之表示，《指引》的发布是打击生成式人工智能犯罪、维护数字安全的重要一步，希望作为一个开放式的指引体系，能根据涌现的新类型问题不断更新迭代，确保对案件指导的及时性，也促进整个指引与时俱进。同时，希望通过细化规则与创新机制，确保人工智能安全、可靠、可控。
放大
上一版
