◆深度伪造依托人工智能算法，技术痕迹比传统剪辑更加隐蔽，显著提高了证据真实性审查的技术门槛和证明成本，容易导致司法人员在证据审查和事实认定中出现偏差。
◆当前诉讼实务中出现了一个值得警惕的倾向：诉讼中处于不利地位的当事人，以视频或录音系AI伪造为由，对真实电子证据提出抗辩。这使得诉讼成本大幅上升，司法效率大幅降低。
◆面对新技术冲击，司法工作人员不应再“头痛医头、脚痛医脚”。专家建议，要建立阶梯式分类审查机制和全链条证据审查模式。细化证据审查规则和追责体系，是抵御虚假证据流入司法程序的最后一道防线。
2025年年底，上海市杨浦区一家餐饮店老板收到了顾客杨某发来的诊断证明和呕吐物照片，说自己因在店内就餐患上了急性肠胃炎，索赔“医药费”2000元。
店家赔了钱，可直到公安机关找上门才得知，那张诊断证明和逼真的呕吐物照片，是杨某伪造的。杨某在AI软件中输入几行文字，只需几秒钟，“诊断”就生成了。
案件虽小，却提出了一个时代的新命题：在生成式人工智能普及的当下，伪造证据的成本低到可以忽略不计。从专业人士“操刀”到人人均可一键生成，造假的门槛大大降低。
当银行回单用代码就可凭空捏造，当监控录像里的人物面容被算法重新拼凑，当律师提交的参考案例不过是大语言模型的一次“幻觉输出”，司法运行所赖以维系的真实证据，在AI时代正被悄然侵蚀。
在此种情形下，司法机关如何守好公平正义的底线？
深度伪造误导证据判定
2025年年底，杨某在多家餐饮店堂食或购买外卖后，利用AI软件生成急性肠胃炎诊断证明和逼真的呕吐物照片。随后，他以向市场监管部门投诉、在消费平台写差评为要挟，向多家餐饮店索要“医药费”。
今年6月，杨浦区检察院对杨某利用AI技术伪造就医材料、恶意投诉、敲诈勒索商家的案件依法提起公诉，法院审理后以敲诈勒索罪判处杨某拘役四个月，缓刑四个月，并处罚金2000元。
“如果不是和医院出具的诊断证明进行认真比对，很难发现这是AI生成的。”杨浦区检察院检察官钱文告诉记者。
“前几年，人们还在调侃AI‘智障’，现在，它已经是不折不扣的AI‘画师’，生成内容的精细度足以以假乱真。”钱文坦言，这给司法工作人员审查证据带来不小的挑战。
挑战，不只出现在刑事领域。在一起房屋租赁纠纷案件中，承租人韩某向一审法院提交了数份格式规范、印章清晰的银行快捷支付电子回单，用以证明已经支付了租金，一审法院对此予以采信。然而，对方上诉后，情况却发生颠覆性转变。二审法院法官通过调取银行账户交易流水，发现韩某提供的转账记录竟系利用AI技术伪造。其后，二审法院对该案进行改判。
“过去鉴定视听资料真伪，主要关注是否存在剪辑、拼接等传统处理痕迹，此类手段通常会留下可识别的技术特征。”最高人民检察院检察技术信息研究中心的一名技术人员指出，深度伪造依托人工智能算法，技术痕迹比传统剪辑更加隐蔽，显著提高了证据真实性审查的技术门槛和证明成本。
上述技术人员同时指出，当事人可利用AI技术，根据诉讼需要“量身”伪造证据，甚至构建完整的虚假证据链条。由于伪造的证据可能与其他证据形成看似“合理”的相互印证，很容易导致司法人员在证据审查和事实认定中出现偏差。
中国政法大学证据科学研究院教授郑飞指出，深度伪造的证据材料一旦被作为定案依据，将会直接影响法官对案件事实的判断，进而诱发错案，损害司法公信力。
传统证据审查方法面临空前挑战
比“证伪难”更棘手的是，这种信任危机正在催生一种反向的诉讼投机。
郑飞向记者透露，当前诉讼实务中出现了一个值得警惕的倾向：诉讼中处于不利地位的当事人，以视频或录音系AI伪造为由，对真实电子证据提出抗辩。正所谓“撒谎一张嘴，辟谣跑断腿”，这使得诉讼成本大幅上升，司法效率大幅降低。
深度伪造带来的困扰，有时并非来自当事人的恶意，也可能源于法律从业者的无心之失。
2025年，北京市通州区法院审理了一起由代持股引发的民事纠纷。原告代理律师在庭后提交了一份书面代理意见，附带两个“完美佐证”其观点的参考案例。法官郑吉喆在阅卷时隐约觉得，案例内容过于契合案情，核查后发现，两个案例的内容与相应案号对应的真实案件完全不符。经询问，原告代理律师承认，这两个案例系其向某AI提问后获得，未经核实即写入代理意见。
由于民事诉讼法规定的可予以处罚的伪造行为主要针对证据本身，而代理意见中的参考案例不属于法定证据种类，该代理律师仅受到批评教育。而这一事件，无疑为法律从业者敲响了警钟——AI工具辅助作用的边界在哪里？专业责任的底线又在何处？
记者采访了解到，大部分律师认为，AI工具在日常工作中能够有效提升工作效率，利大于弊。在被问到如何对待AI生成内容时，炜衡律师事务所律师刘妍妍坦言，她会谨慎对待AI生成的内容，“比如在案例检索方面，会让AI提供具体的案号，然后逐一进行人工核实。这应当是律师的执业自觉”。
在司法实践中，图像、音视频一直被视作真实性强、可靠性高的客观性证据。然而，当算法可凭空生成任何一段录像、录音时，证据真实性从源头上即陷入不确定性。
“这就宣告了传统的‘观察—经验式审查方法’基本失效。”西南政法大学法学院教授潘金贵表示。
如何应对AI深度伪造
面对新技术冲击，司法工作人员不应再“头痛医头、脚痛医脚”。
郑飞建议，要建立阶梯式分类审查机制：第一步“看层级”，越是AI生成的高层级证据，越要调用原始电子数据这类底层证据来交叉验证；第二步“判难度”，对于简单证据进行常规审查即可，复杂的则需借助技术手段辅助判断，对于辨不清真假的，宁可排除也不能让存疑证据进入定案环节；第三步“做实质审查”，结合大模型算法的可检验性、生成逻辑的合理性等，对证据开展更深层次的关联性、真实性与合法性审查。
例如，2024年，王某某利用互联网下载的音视频资料，杜撰合肥三只羊网络科技有限公司(下称“三只羊公司”)创始人卢某某酒后言论脚本，并通过AI工具训练生成假冒音频。公安机关接到三只羊公司报案后，第一时间封存电子数据原始载体，并在王某某的电脑、手机和制作AI音频的网站中发现了伪造音视频的证据，为后续案件办理和定性起到了关键作用。
潘金贵从操作流程层面建议，构建“形式筛查—实质验证—综合印证—专家辅助”的全链条证据审查模式。他特别强调，要通过至少两种不同的技术手段对证据进行交叉验证，并且要将电子证据置于全案证据体系中，审查其与言词证据、物证、书证乃至第三方客观数据能否相互印证。
刘妍妍也认为，专家辅助具有重要作用。她建议司法机关借鉴在知识产权案件中配备技术调查官的做法，聘请具备人工智能、计算机技术等专业背景的技术人员，从立案到庭审全流程提供专业支持。
然而，技术手段的引入也伴随着新的隐忧。
潘金贵指出，当司法机关对证据审查形成“技术依赖”时，相关技术机构的判断可能在实质上取代司法机关的法律判断，导致证据审查判断及事实认定的司法权力实际上部分让渡于掌握算法与数据优势的技术服务者。
此前，北京互联网法院审理了一起短视频著作权案。该案中，三家权威机构对同一段人工智能生成视频进行鉴定，分别得出了“人工创作”“算法生成”和“无法判定”的鉴定意见。从中可见，技术鉴定体系自身的公信力和标准统一问题已不容回避。
此种情形下，若是对技术鉴定意见“盲目相信”，进而“盲目采信”，司法审查的独立性与公正性，难免存在潜在风险。
司法机关正在积极行动
技术问题需要技术解决，但仅靠技术远远不够。细化证据审查规则和追责体系，才是抵御虚假证据流入司法程序的最后一道防线。
刘妍妍建议，针对AI深度伪造证据的审查，司法机关应出台专门的证据审查指南，强化对办案人员的操作指引。
事实上，在这方面，相关标准制定已在路上。2025年，经公安部鉴定中心、最高检检察技术信息研究中心、司法鉴定科学研究院等单位参与起草，《法庭科学 伪造人像 深度伪造检验》的国家标准由国家市场监督管理总局、国家标准化管理委员会正式对外发布，该标准详细规定了深度伪造检验设备、检验步骤和鉴定意见判断依据，为深度伪造视频图像检验提供了统一的技术规范。
地方司法机关也进行了积极探索。2025年，上海市徐汇区检察院、上海市公安局徐汇分局联合发布了《生成式人工智能刑事案件电子数据取证与审查指引》，形成基础规范、取证指引、审查标准和协作机制的完整体系。
制度建设的另一关键在于追责。值得关注的是，今年9月7日，最高人民法院发布《关于依法审理涉人工智能纠纷案件的意见》(下称《意见》)，其中特别强调，依法规制利用人工智能不当取证等妨害司法秩序的行为。
《意见》明确规定，诉讼参与人或者其他人利用人工智能伪造证据，妨碍人民法院审理案件的，依据民事诉讼法第一百一十四条规定处理。诉讼参与人提交诉讼文书、案例检索报告等材料如系使用人工智能生成，在提交法庭前应当认真核实相关法律、司法解释、案例等内容的真实性、准确性，在提交法庭时对使用人工智能辅助情况作出说明，并对有关内容的真实性、准确性依法承担责任。
AI对司法带来的冲击，本质上是技术进步与制度演进之间的“时差”问题。从国家标准到办案指引，再到《意见》出台，在应对与挑战的博弈中，司法机关正在积极行动，寻求实现AI时代证据审查能力的升级、迭代。