每个人都希望被害人与自己毫无共通之处，距离自己居住的世界愈遥远就愈放心。——清水洁，《桶川跟踪狂杀人事件》
——上面的做法是不对的。不想变成被害人，就不能不了解那个世界。
我在办理案件时，常常见到一些或令人发笑、或叫人叹为观止的诈骗手法——广义的，不是刑法上的——以至于逢年过节，我总是给亲友科普奇特的诈骗手法，当作茶余饭后谈资的同时，多少也算是普法。随着人工智能工具逐渐普及，造假方式又推陈出新，花样百出。
年前，中国刑事警察学院发了一篇文章《AI技术伪造电子扫描档案的鉴别与防范》，介绍了几种人工智能电子扫描档案伪造手段。该文章的背景是档案工作，材料审查并不十分严格；而我在律师执业中，竟也看到不少人试图用类似的手法 hack 司法系统，可谓无法无天。
鉴于多数人误以为 AI 造假不过是“高级 Photoshop”，我决定也动动笔，从那些通常关起门来讲的内容中，挑一些适合科普的，浅谈人工智能生成证据的识别与防范。
伪造签字：意想不到的生成式人工智能滥用
人工智能造假业务范围广泛，从录音、电话、照片到视频，几乎什么都可以生成。不过，相较这些比较容易上新闻的内容，法律工作中更常见的，还是伪造材料的一小部分，但往往“一字千金”：伪造签字。不难理解，毕竟人工智能生成的东西多多少少有一些破绽，如果提交照片或视频，风险实在太大，造假者不如“把钱花在刀刃上”，在签字上甩小聪明。
我曾经办理一个仲裁案件，其中四张纸上的签名总感觉有些违和（真实签名的主人已经作古）。仲裁秘书检查后拿不定主意，因为四个签名看上去都是手写的，并未像那些低级 PS 造假者一样，弄出一堆连半个像素点都不差的签名。但我还是注意到几个签名太过于相似，遂将几张纸叠在一起，对着太阳光。结果，一个小举动就识破了诡计：原来，四个签名几乎完全重合，只是粗细和撇、捺、悬针竖等笔画的末端长度有些许差异，但是，签名毕竟是人写出来的，不是打印机打出来的，不可能每个字的结构和字与字之间的间隔都完全一样，否则大概率是造假。庭后沟通后，对方似也自知理亏，撤回了申请。
这带我们来到了人工智能造假的一个重要特点：大同小异。四个签名看上去似乎不完全一样，有的好像是坐下来慢慢写的，有的则是信笔一挥，但它们骨架子完全一样。对方应当是使用了人工智能文字生成工具，将死者的手写材料当作素材，生成了假签名。用过 DALL-E 或 Stable Diffusion 等图片生成工具的人都知道，人工智能生成的图片看上去千篇一律，甚至可以说有一股“AI 味”。这种同质性，可以当作识别人工智能产物的一个经验规则。
伪造印章：训练素材露马脚
和签名类似，印章也是造假的重灾区。
如果只是简单复制真实印章的图片，那么识别方式也和签字一样。中国刑事警察学院的论文也指出，不可能每次盖章时的深浅、凹凸、缺损等细节都一样。但不怕造假者可恶，就怕造假者敢下血本：有人将真实的印章图案喂给人工智能，然后生成高精度的图片，并据此雕刻出一枚印章，再手动加盖，此时每一枚印章不仅看上去和真货无异，而且互相也不完全相同，很难察觉。
不过，在诉诸鉴定机构之前，有一类伪造的印章比较容易露出马脚：生成（包括用传统方式合成）的合同章或项目章等专用印章。不少公司在公章之外，为方便个别部门、项目或主管人员，还会刻一些合同章或项目专用章，而这些印章往往不会拿去公安备案——公章通常会备案——结果就留下了造假空间，说不清楚谁真谁假。
我在办理某个建设工程案件时，就遇到了疑似人工智能生成的印章。对方在真实印章的五角星图案下添加了“某某项目专用章”的字样，吃准了工地现场管理不善，项目印章也没有备案，我们也证明不了他生成的那堆章是不是真的。
不过，既然不是一比一复制，而是在真实材料上添加一些额外成分，那就有可能露馅。原来，人工智能也不会凭空编造，它们需要训练素材，而这些素材大概率包括近年的字体文件，我称对应的识别方法为赛博朋克版碳-14年代定位法：检查额外添加的字样是什么字体，有必要时精确到间距和比例，确定版本后，查询该字体的发行年份，进而确定文件理论上的最早形成时间。例如，如果你发现一份材料的落款时间是本世纪初，或者九几年，结果上面的字体却很时髦，那么这份材料一定是伪造的。
这一次，出卖人工智能的依然是其工作原理：吸收大量现有材料，据此生成新内容。周作人曾言，怕别人看他的书房，因为会被人看穿了心思。人工智能恐怕也是如此。
美颜，不经意的社会工程学造假
前面两节均为典型的人工智能证据造假技术。为了避免引来麻烦，或启发某些不应该被启发的人士，恕我不再介绍其他未在中国刑事警察学院论文中展示过的技术——相信我，它们多到令人眼花缭乱。本节转