别让AI的“聪明”误了你的官司

　　□  记者  胡蝶飞

　　本报讯  “我把所有的材料都输入给DeepSeek了，为什么他给的判决结果跟你判的不一样？”“请问您在诉状中引用的这一法律条文，是从哪里来的？”近日，记者从不同渠道了解到，AI时代的“数字幻觉”正在“入侵”司法审判环节，影响正常司法秩序，亟待引起重视并予以积极应对。

　　在上个月审理的一起劳动合同纠纷案件中，上海市第二中级人民法院民事审判庭法官陈樱收到一份特殊的上诉状。

　　案件当事人李某曾在上海一教育公司从事高级管理工作，因离职后与公司存在劳动纠纷，不服一审判决上诉至上海二中院。

　　初看之下，这一上诉状从五个角度展开，写得头头是道。其中引用的一个2025年3月颁布的《关于审理社会保险纠纷案件适用法律若干问题的解释（二）》，引起了陈樱的“警觉”。

　　“我多方查证，甚至还向行政庭资深法官进一步核实，最终确认完全属于虚构。此外，诉状里引用的《民法典》第一千一百五十六条，这实际上与该案中的过错责任毫无关系。”陈樱告诉记者，把假的当作真实的加以引用，高度符合“AI幻觉”的特征。

　　法院第一时间找到当事人核实，李某先是含糊其辞“我给你找一找，我忘了”，最后索性保持沉默。

　　这样的情形并非个例。上海多家法院法官透露，在其审理的各类案件中，已出现当事人直接使用“豆包”“DeepSeek”等生成式人工智能工具拟写上诉状、援引虚构法律依据及案例，甚至将人工智能生成的答复作为证据提交的情形。

　　在另一起案件中，法院已基于重复起诉理由裁定驳回起诉，且裁判文书已作充分说理。但当事人刘某仍偏信AI提供的答案，拒绝信任司法机关裁判，并将人工智能生成的答复作为书证提交。

　　不仅当事人，律师竟也“效仿”。北京市通州区人民法院近日披露的一起案件中，原告代理人为了佐证其观点，在向法庭提交的书面意见中，援引了名为最高法院的某案例及上海一中院的（2022）沪01民终12345号案件，初看之下极具参考价值。但经法庭核查，这两起所谓的案例实为AI杜撰生成。

　　“有的当事人因缺乏法律专业知识，容易被形式上的专业性误导，而AI生成的内容具有隐蔽性，给传统审查方式带来冲击。”法官们普遍认为，这一日益凸显的现象不仅干扰正常司法审判秩序，也可能对当事人自身权益造成损害，甚至损害司法公信力，亟待引起重视并予以引导规范。

　　法官们建议，引导人工智能服务平台加强内容审核，建立分层治理体系，对标注“法律专用”等标签的模型实施更严格的内容真实性审核与用户提示义务。

　　“建议在诉讼服务环节，明确人工智能使用规范。”陈樱认为，可以加强诉讼指引与来源标注管理。对提交疑似AI生成文书的当事人进行必要释明与风险告知，提示当事人在提交材料中标注人工智能辅助生成情况。同时，构建专项智能核查司法治理场景，自动识别虚构法条、案例及典型AI生成痕迹，并向承办法官提示风险，提升审查质效。

　　■  专家评论详见A4