2023年夏天,人工我亲眼见过一段诈骗视频。智能诈骗画面里,案例一个中年男人的视频脸在屏幕上一跳一跳的,对着镜头喊“妈,大全我出车祸了,人工快转钱”。智能诈骗声音是案例他儿子的,脸也是视频他儿子的。可那儿子当时就坐在我旁边,大全正啃着鸡腿刷手机。人工
那段视频是智能诈骗用一款开源换脸工具做的,成本不到三块钱的案例电费。骗子从儿子朋友圈里偷了十几张自拍,视频再录了一段他打游戏时骂人的大全语音,喂给AI模型跑了两个小时。出来的效果,粗糙得能看见嘴角边缘的像素块,可那位当妈的还是差点转了八万块——直到她想起儿子从来不吃红烧肉,而视频里的“儿子”正对着碗里的红烧肉咽口水。
更吓人的是实时视频通话诈骗。去年福建有个老板,接到“合作方”的微信视频。那边连背景都是对的——对方办公室那面贴满奖状的墙。老板看着对方张嘴闭嘴谈合同,还冲他举了举咖啡杯,就转了六十万。后来才知道,那边是用AI实时换脸加声音克隆,全程直播,连对方摸鼻子的习惯动作都学了个七成。
这类骗局有个共同点:骗子专挑你没法立刻挂断电话去核实的时刻。比如深夜,比如你在开车,比如对方催得特别急。我认识一个做反诈的民警,他说现在查获的诈骗脚本里,明确写着“要在目标情绪波动最大时发起视频请求”——刚和老婆吵完架的男人,最容易对着屏幕里“领导”的脸信以为真。
声音克隆比换脸更阴。今年初有个案例,骗子只用了三秒语音样本——是从受害者抖音评论区里扒的语音条——就克隆出他女儿的声音。电话里“女儿”哭得抽抽噎噎,说被绑架了,旁边还有壮汉吼叫的杂音。父亲差点去银行取钱,是银行柜员死活拦着,让他先给女儿班主任打个电话。一打,女儿正在教室上课呢。
这些视频骗局的破绽其实一直都有。AI生成的眨眼频率不对,正常人每分钟眨15到20次,模型生成的往往只有七八次。还有牙齿边缘——换脸技术最怕处理牙齿和嘴唇的衔接处,仔细看总有那么一两帧糊成一团。但问题是,没人会在慌慌张张的时候盯着屏幕逐帧检查。
我觉得最操蛋的是,骗子也在迭代。去年还只会用固定模板,今年已经开始用AI实时分析受害者的微表情,根据你的反应调整话术。你犹豫了,那边立刻抛出更具体的细节:“爸,你还记得我高考那年你送我的钢笔吗?”——那支钢笔的照片,早就被骗子从旧朋友圈里挖出来了。
写这篇文章的时候,我又刷到一条新闻:某公司财务收到“老板”的视频指令,转了四百万。视频里老板穿着常穿的那件灰色polo衫,坐在办公室那张旧皮椅上。后来查出来,骗子只用了老板公开发布的三分钟年会讲话视频,就克隆出了全套形象和声音。那财务说了一句话让我印象极深:“我甚至能看见他手边那个缺了角的马克杯。”
所以现在我的建议很简单:凡是视频里涉及转账的,无论对方看起来多真实,先挂断,再打回去。用你手机通讯录里存的号码打,别用视频通话那个功能。要是对方拒接,说自己在忙——那就更可疑了。真正着急的人,不会在乎你多确认一遍。
毕竟,AI能复制一张脸,复制一段声音,但它复制不了你妈你爸你老婆孩子在你挂断电话后,立刻拨过来的那声“喂”。