每个人都希望被害人与自己毫无共通之处，距离自己居住的世界愈遥远就愈放心。——清水洁，《桶川跟踪狂杀人事件》
——上面的做法是不对的。不想变成被害人，就不能不了解那个世界。
我在办理案件时，常常见到一些或令人发笑、或叫人叹为观止的诈骗手法——广义的，不是刑法上的——以至于逢年过节，我总是给亲友科普奇特的诈骗手法，当作茶余饭后谈资的同时，多少也算是普法。随着人工智能工具逐渐普及，造假方式又推陈出新，花样百出。
年前，中国刑事警察学院发了一篇论文，介绍了几种人工智能电子扫描档案伪造手段。该文章的背景是档案工作，材料审查并不十分严格；而我在律师执业中，竟也看到不少人试图用类似的手法 hack 司法系统，可谓无法无天。
鉴于多数人误以为 AI 造假不过是“高级 Photoshop”，我决定也动动笔，从那些通常关起门来讲的内容中，挑一些适合科普的，分析人工智能造假（主要是证据）的识别与防范。
伪造签字：意想不到的生成式人工智能滥用
人工智能造假业务范围广泛，从录音、电话、照片到视频，几乎什么都可以生成。不过，相较这些比较容易上新闻的内容，法律工作中更常见的，还是伪造材料的一小部分，但往往“一字千金”：伪造签字。不难理解，毕竟人工智能生成的东西多多少少有一些破绽，如果提交照片或视频，风险实在太大，造假者不如“把钱花在刀刃上”，在签字上甩小聪明。
我曾经办理一个仲裁案件，其中四张纸上的签名总感觉有些违和（真实签名的主人已经作古）。仲裁秘书检查后拿不定主意，因为四个签名看上去都是手写的^1，并未像那些低级 PS 造假者一样，弄出一堆连半个像素点都不差的签名。但我还是注意到几个签名太过于相似，遂将几张纸叠在一起，对着太阳光。结果，一个小举动就识破了诡计：原来，四个签名几乎完全重合，只是粗细和撇、捺、悬针竖等笔画的末端长度有些许差异，但是，签名毕竟是人写出来的，不是打印机打出来的，不可能每个字的结构和字与字之间的间隔都完全一样，否则大概率是造假。庭后沟通后，对方似也自知理亏，撤回了申请。
这带我们来到了人工智能造假的一个重要特点……