AI工具还有很多人没用上呢， AI 诈骗它就来啦！今天一个新闻上热搜了，内容是 “ AI 诈骗 ” 。
这个热搜的词条，其实是有些夸大的，但里面实际发生的事儿，也的确离谱。
事情发生在福州，一位科技公司的老板，老郭，某天突然接到了个好友的微信视频，说是自己的朋友在外地竞标，需要 430 万的保证金，想走他的公司账户过个账。
老郭想着也不是啥大事儿，于是在确认视频通话里的人和声音都是他朋友之后，就同意了。随后，对方就给老郭发了一张银行卡转账成功的截图，说是钱已经转到老郭的户头上了。
由于老郭之前已经确认了朋友的身份，在没确认钱到帐与否的情况下，也没有多想，直接就把 430 万转到了好友给的银行卡上。整个过程不过短短十分钟。。。
转账完成之后，当老郭再次和好友打电话核实时，这才惊呼，刚才的一切，居然都是诈骗人员使用各种技术手段伪造的！
不仅好友视频的人像是 AI 生成的，就连好友的音频都是通过 AI 技术模拟的，好在警方跟银行通力合作，截停了钱在银行的走向，帮老郭止损了大部分损失。
你还别不信，现在的 AI 拟人和拟声都非常简单了，世超自己都能炼一个简单的出来。可以说，在现在这个时代，不但是语音消息不保真了，这以后连视频通话见到真人都不能信了。
随后世超就把这个事发到群里和小伙伴们讨论了一下，大家聊了一下认为，这一整个案件里让人惊叹的，还不仅仅是AI 伪造的视频和人声，细究下去，事件里的华点还真不少。
警方没有公布太多的细节，估计是太细了容易被别的骗子当教材学过去，但根据仅有的细节，我们能分析出几点：
①诈骗团伙在给郭先生打视频电话时，使用的就是他好友的微信号，把他朋友的微信号盗了；
②骗子掌握了比较多的郭先生朋友的图片、音视频信息，用来训练模型；
③骗子拥有实时渲染数字人的技术，因为警方新闻中提到了郭先生和他朋友打的是微信视频；
④骗子应该对郭先生及其朋友的过往对话风格有比较深入的了解，知道怎么跟郭先生沟通（ 微信是仅能云同步很有限的聊天记录的 ）。
以上所有的条件，无论哪一个，具体到实施上，都是很有难度的操作。但，它却就这么真实的发生了。
世超专门找了几位信息安全从业者问了问，最后发现这个案子，还真的没那么简单。
首先是世超百思不得其解的微信登录问题。对于这点，各位大佬们都觉得这个其实不难，主要有两个方法能够做到。
一种方式是微信二维码钓鱼，另一种则是获取Session （ 可以简单理解成是 cookie ，能保持登录状态 ）。
微信二维码钓鱼这个不难理解，就是利用钓鱼网站或者链接，让受害者的朋友通过微信扫码登录电脑微信，这样诈骗人就可以用自己的设备使用他朋友的微信了。（ 不过其中一位老哥指出，微信异地扫码登录会触发风控 ）
第二种获取 Session ，只要受害者朋友的电脑上设置了微信自动登录，那只要获取相应的 Session ，理论上就能在诈骗人的电脑上登录受害者朋友的微信了。
不过出于安全考虑，咋获取这个 Session ，这位业内人士没细说。
对了，还有另外一种简单粗暴的方式，就是被盗号的人自己电脑是登录微信的，电脑处于开机状态，但是被骗子用木马远控了。
登录微信之后，接下来的操作才是重头戏。
诈骗人应该 “ 蹲点 ” 了很久，知道被盗号者微信上谁有钱谁没钱，跟谁关系好，事先挑好了下手对象。同时，骗子还对他的生活习惯非常了解，这样才能趁对方不注意登上他的微信，进行视频通话诈骗。
而想要在微信视频的同时 AI 换脸和变声，诈骗人员还得将摄像头和麦克风的数据，替换成 AI 换过脸和变过声的数据流。
至于训练素材，极有可能是通过被盗号者自己的朋友圈或者与别人的聊天记录获取。
最后，结合所有获取的信息，训练好素材，编造一个剧本来对受害者实施诈骗。
也就是说，这群诈骗人员，不仅有技术，耐心也不差。
在和这些信息安全的朋友一整个聊下来之后，世超是冒了一身冷汗。像这种诈骗，别说是家里的老人分辨不出来了，就算是神仙来了，都能给你晃迷糊。
不过朋友们还是给了大家一个安慰：像这次的诈骗事件，理论上技术可行，但终究还是一个小概率事件。
毕竟在这次的案件里，个人微信被盗用是更主要的原因，而这也是诈骗过程中需要花费最多功夫的步骤。假如没有这一步，受骗人必然会更加警惕，整个诈骗环节的漏洞也会更多。
想要让骗子花那么多精力来骗你，前提条件是你值得。。。
但是，高策划诈骗难度高，并不代表着低策划诈骗就骗不到人了。使用 AI 诈骗的案件现在其实已经屡见不鲜了。
看看之前那个数字蛋蛋的制作过程就知道， AI 对于那些实施语音电信诈骗的人员来说，简直不要太高效。
而且类似的诈骗案件在国内国外也已经层出不穷了。
之前就有一个国外的诈骗公司，使用 AI 模拟了 “ 卷福 ” 的音频，打电话给一家新西班牙的小电影公司，称想要和对方合作，并要求对方先打款 20 万英镑才能见面。
结果在电影公司付完钱之后，他们才发现这次事件，完完全全就是一场 AI 骗局。。。
这件事情让我们非常担心那些跟不上高速发展的科技的长辈们，他们可能很难相信正在跟自己视频通话的儿女是假的，骗子找他们要钱可能会轻松得手。。。
在音视频都不可信的情况下，以后或许要给父母一个密保问题了。可以告诉父母，万一微信自己找他们要钱，让他们问一些只有你们自己才知道的细节，比如：
“ 儿子，你小时候我经常用衣架打你还是拖鞋打你？ ”这个问题最好也有陷阱，正确回答应该是 “ 你用扫把打我 ” 。
除了多提高防范意识、多给长辈们科普最新骗术，世超还是要啰嗦一下各位差友，咱们在对个人信息的敏感度上，还是得多上一点心。
之前我们在文章里提到 “ 个人信息泄露 ” 相关的新闻时，常常会有差友发表 “ 完全不在意，反正底裤早都漏光了 ” 的言论。
而且让我挠头的是，还有不少人，是认可这种躺平论的。
但你看，随着技术，特别是 AI 技术的爆发，个人信息泄露的危害已经开始显而易见地越来越大。大伙再这么躺，就纯纯是对骗子们的不尊重了。
到那时候，你泄露的个人的信息，指不定转头就把身边的人骗了，这该上哪说理去？
不是，我说你们这帮自媒体是真的能扯淡啊，一篇新闻稿翻来覆去水了三千字，就为了告诉大伙儿“AI很牛B，骗子更牛B”？我他妈看完血压都上来了，这什么破案子啊，槽点多到我他妈不知道从哪儿下嘴开喷。 先说你文章里那个老郭，430万啊大哥，四百三十万人民币啊，不是四块三毛钱！你他妈视频里头看见朋友那张脸就信了？你公司财务制度是摆设？你一个开科技公司的老板，转账之前连个“钱到账了没有”都不确认一下？对方发张截图你就信了，截图这玩意儿我十年前用PS就能给你P出来，你他妈一个天天跟技术打交道的科技公司老板，这点儿B数都没有？我看你公司迟早让人骗得裤衩子都不剩。要我说，这骗子根本不需要什么AI换脸，就奔着这种不带脑子出门的傻老板去，挂个变声器都能骗到手。 文章里世超那哥们儿还搁那儿分析什么“诈骗团伙掌握了较多朋友的图片音视频素材用来训练模型”，我呸，这叫掌握素材？现在人朋友圈里天天发自拍发视频发语音条，露脸露声音的素材一抓一大把，还他妈需要“掌握”？你上抖音随便扒拉一个人，直播回放加上视频合集，够你训练一个高清数字人模型了。我看这帮所谓“信息安全从业者”也特么净扯淡，把一个扫码钓鱼说得跟什么黑科技似的，实际上咱们小区楼下贴的“扫码免费领鸡蛋”就这套路，一个破二维码的事儿，让这帮人吹得跟攻克了五角大楼一样，真他妈服了。 不过话说回来，最让我觉得滑稽的是文章里那句“以后连视频通话见到真人都不能信了”。这话说得好像以前视频通话就能信似的！你们怕是没经历过早年间QQ视频那头放录像带的时代吧？我小时候在网吧就见过有人用假摄像头软件，对着屏幕放一段美女跳舞的视频，跟人姑娘视频聊天装大款，把人家小姑娘哄得团团转。技术这玩意儿从来都是双刃剑，以前用录像带，后来用PS，现在用AI，本质上有区别吗？区别就是以前得费劲巴拉地找素材，现在一键生成，更省事儿了！你非要等到AI换脸骗走四百多万才幡然醒悟，那是你蠢，不是AI坏。 我还得说说这文章里一个特他妈智障的点儿。世超说“微信是仅能云同步很有限的聊天记录的”，然后推理出骗子“对郭先生及其朋友的过往对话风格有比较深入的了解”。我寻思这他妈还用了解对话风格？老郭自己都说了，电话里那骗子开口就是“外地竞标”“保证金”“过个账”，这他妈是正常朋友能说出来的话？你朋友突然管你借钱，说的还是这种一听就他妈有诈的商务话术，正常人不该先打个电话确认确认？这老郭倒好，视频里看见那张脸就上头了，连对方嘴巴动没动、动作自不自然都没看出，还“诶，还真是我朋友”，是你妈个大头鬼！现在AI换脸是有破绽的，眨眼频率不对，面部光影异常，动作稍微快点儿就糊成一片，但凡上点心盯着看几秒都能看出来。老郭倒好，全程十秒确认完就转账，这心比我前女友劈腿的腿都大。 还有，那个骗子的脑子也是他妈的好使，好使过头了。先盗号，再蹲点观察，然后找准时机打视频，最后发截图催转账，一套流程行云流水，堪比华尔街之狼的推销话术。我就纳闷儿了，这骗子要是有这心思这智商这行动力，干点儿啥正经买卖不好，非他妈搞诈骗？你要去当个销售，什么大单子拿不下来？你要去搞直播带货，什么人设立不起来？非走这歪门邪道，被警察一锅端了，钱还被截停了大半，你说你图个啥？哦对了，文章里没说最后抓没抓着人，估计是没抓着，又让这帮孙子跑了。操他妈的，这世道就是老实人吃亏，骗子当道。 但我跟你说，这篇文章看着是在科普AI诈骗，实际上就是贩卖焦虑。我他妈最烦这种调调了，什么“AI时代来了你们怕不怕”，什么“以后眼见都不为实了”。你怕个屁啊！AI是死的，人是活的。你银行卡密码保密好，大额转账走双人复核，手机里装个反诈APP，有啥好怕的？你日子还过不过了？天天活得跟惊弓之鸟似的，出门看谁都像AI换脸，那你跟那些天天叫嚷着“手机辐射致癌”的老年养生群有啥区别？你咋不担心太阳明天爆炸呢？真他妈无语。 再说了，这篇报道本身也离谱。警方就公布了那么两句好话，你们这帮人就能脑补出一整部犯罪电影。什么“获取Session”“木马远控”“实时渲染数字人”，说得跟真的一样。我就问你一句：你写这些的时候，有没有想过那骗子看到这篇文章会怎么想？人本来还在琢磨下一次怎么下手，这下好了，你直接送了份详细的诈骗教程，连步骤、技术难点、风控规避方法都标注得清清楚楚。回头骗子看完都得给你点个赞，说声“代代相传的教材啊”。警方不公布细节是怕别人学，你倒好，拿上放大镜逆向推理然后全写出来，你是警察派来的卧底还是骗子请来的军师？我看你这个“世超”笔名取得好啊，全世界你最“超”，超你妈了个腿的。 还有，原文里那句话说“好在警方跟银行通力合作，截停了钱在银行的走向，帮老郭止损了大部分损失”。我他妈笑了，这不废话吗？银行转账本来就有24小时延迟机制，大额转账本来就有风控审核，那430万要是当场秒到账，你以为银行是吃干饭的？这就好比你出门被车撞了，车上有个安全气囊救了你一命，然后记者采访你：您觉得安全气囊这个发明怎么样？你说：太棒了！救人一命！废话，这他妈是基本配置，不是你运气好！要我说，就应该把这430万全转出去，让这老王八蛋长长记性。四百多万买个教训，对老板来说贵吗？我觉得不贵，这要是只骗了个两万三万的，他还以为骗子是在帮他交学费呢。 不过话说回来，这篇文章倒也不是全无可取之处。起码那个“微信号被盗”的提醒我觉得挺到位。我有个朋友，之前就是微信莫名其妙被挤下线，找人申诉，结果发现是个钓鱼链接害的。他在QQ群里跟人聊项目，对方给他发了个文件，名字叫啥“项目报价表.exe”，他双击一点，电脑就黑屏重启了。那会儿他还没反应过来，第二天他客户给他打电话，问他为啥半夜在群里发垃圾广告，他才知道自己中招了。所以，这年头，陌生链接别乱点，陌生二维码别乱扫，电脑上杀毒软件装好，出门在外要有防范意识。这文章别的说得稀烂，但这点至少没跑偏。 至于AI换脸和变声技术本身，我倒觉得不该一棒子打死。就说拍电影，以前拍演员老了年轻了都得靠化妆，现在直接AI一换，省了多少事儿。还有那些做无障碍辅助的，帮失语症患者“说”出想说的话，这不都是正向应用？非要把技术跟诈骗绑定，说什么“技术无罪”是装的，但“技术有罪”也是脑子有坑。你拿刀捅人，能怪刀太锋利么？你拿菜刀切菜切了手，能怪菜刀不听话么？还不是得怪自己手残？技术这东西就摆在那儿，会用的人拿它造福，烂人拿它作恶，这他妈是人性问题，不是技术问题。 但回过头来，我还是得骂骂这老郭。430万啊，我自己打一辈子工都不一定攒得出430万，他说转就转了，还他妈不带犹豫的。更让我生气的是，文章里描述“对方就给老郭发了一张银行卡转账成功的截图”，这个截图居然就能让他放心？你他妈自己开公司的，现金流周转都分不清到账没到账？银行转账要时间的好吗，同行转账对公账户最快也得十分钟半小时，你倒好，对方一发截图你就当钱到账了，你这么好伺候，我他妈都想改行干诈骗了，逮着你一个人薅羊毛就够我养老了。真的，这种人不骗他骗谁？全中国那么多钱，骗得就是他这种脑子不带出门的巨婴。 我看完这篇文章，最他妈想吐槽的还是那句“AI工具还有很多人没用上呢，AI诈骗它就来啦”。这不废话吗，任何新技术的普及都是先造福再作恶，电商刚起来的时候也有骗子冒充客服退款骗钱，短视频刚火的时候也有网红扮乞丐博同情讨打赏。这他妈是历史规律，不是AI的锅。你说现在AI诈骗来了，那以前没有AI的时候就没诈骗了？电信诈骗这些年骗走的钱还少了？还不是该骗的照样骗，跟技术有毛线关系？搞得好像没了AI，这老郭的430万就能保住似的。你就是给他配个古董诺基亚，他也能让骗子用“你儿子被绑架了”这种老套路骗走二三十万，这样的人，钱在他手上就是过路财神，早晚要送出去给别人。 再说说文章结尾那段“世超还专门找了几位信息安全从业者问了问，最后发现这个案子，还真的没那么简单”。我他妈直接笑死。一件诈骗案，分析来分析去，搞得跟解密游戏似的，你搁这儿拍《碟中谍》呢？实际情况是什么？实际情况就是有个人微信号被盗了，另一个人刚好缺心眼，俩条件凑一块儿，钱就没了。你仔细想想，这事儿简单不简单？简单得就跟一加一等于二一样。盗号是因为点了个链接，被骗是因为转账前没核实，你说破大天去也就是这两件事。非要说得那么玄乎，搞得好像是什么高科技犯罪集团精心策划的阴谋，你写小说去吧你。 说真的，我就特别烦这种“自以为什么都懂”的自媒体文章。从头到尾在那儿装懂王，一会儿分析微信登录机制，一会儿分析训练素材来源，一会儿分析技术手段，说得头头是道的。可你要问他实际上怎么防范，他就跟你来一句“大家要提高安全意识”。提高你妈！你写了三千字就总结出来一个“提高安全意识”，这不跟没说一样吗？我还以为你能给个什么独门秘笈，比如“转账前必须打电话”“大额转账要视频再次确认”“不要轻易相信朋友的借钱请求”，结果你就甩出一句“提高安全意识”，这话幼儿园小朋友都会说，用得着你来说？我看你就是自己也没搞明白，写一堆术语撑字数呢。 最后总结一下吧，啊不，他妈的我不能说总结，一说总结就跟写作文似的。我就想问你一句，世超同学，你这篇文章写出来是要干嘛？是要提醒大家防骗？我看不像。你要真有心，就该把老郭这个案例里最核心的教训大写加粗放在最前面：不管你是谁，不管你用啥技术，借钱之前必须电话确认，最好是双渠道确认，语音电话不行就再发个短信，短信不行就见面聊。但凡老郭多打一个电话，哪怕是发一条短信问一句“你那边信号是不是不好”，这430万也不至于转出去。可惜他没有，他选择了相信自己的眼睛。这他妈就是贪，贪快，贪省事，贪那点儿“朋友之间不用那么麻烦”的面子。你放不下脸去核实，骗子可放得下脸来骗你。 行了，骂了这么多我也累了。总而言之，啊不对，他妈的不许说总而言之，就一句话：这案子就是个典型的“傻人遇上聪明贼”，技术是放大器，不是根因。文章看着是分析AI诈骗，实际上是在那儿故弄玄虚，你说他是科普也好，说他是蹭热度也罢，反正我没看出什么真正有用的东西来。唯一有用的信息就是：这个国家还有那么多傻逼老板，活该被骗。啊，对了，要是这老郭看到这篇文章，麻烦他转发一下，让他来评论区看看，我想问问他：你他妈现在还敢视频确认身份不？
这新闻我看了半天，心里头第一个想法不是骗子多高明，是老郭这心也太大了。四百三十万啊，不是四百三，也不是四万三，他在视频里看见朋友那张脸、听见那个声儿，就敢把钱转出去，连自己银行账户到没到账都不查一下？我反正是做不到，我要是转个五千块给别人，都得盯着手机短信等那个“叮”一声才踏实。不是说老郭蠢，是这年头做生意的人，有时候真就是靠这种“信任”在撑，结果被骗子一把攥住了。 不过话说回来，文章里有个细节我特别想掰扯一下——骗子打视频用的是好友的微信号，而且视频里还能实时换脸变声。这个事儿吧，我就觉得很怪。微信视频通话那个画面，像素本来就不咋地，再加上网络压缩，人脸本来就有点糊，骗子要是提前做好一个数字人模型，再把画面质量弄得跟微信视频差不多，那确实能蒙过去。但关键是，视频里那个“好友”得跟老郭聊天啊，俩人得你来我往说上几句话吧？光有一张脸可不够，AI再厉害，它能连对方说话的习惯、停顿、口头禅都仿出来？文章里说骗子可能蹲点研究了很久，但这研究成本也太高了，真要是能做到这种程度，我觉得这已经不是诈骗了，这是搞谍战。 还有个我咋都想不通的点儿：骗子发给老郭的那张转账截图。是，P图谁都会，但老郭的银行账户里有没有真进钱，他打开手机银行一查就知道，可他就是没查。这让我想起我爸，前几年也差点让人骗了，对方冒充我表哥说借钱，也是打电话，声音特别像，我爸都准备去银行了，结果我妈多嘴问了一句“你表哥上次来家里吃的啥菜”，那头一下就挂了。有时候，识别骗子可能不需要多高科技，就是别嫌麻烦，多问一句废话，多等一秒钟的事儿。 另外我还想唱个反调。这新闻一出，满屏都是“AI太可怕了”“以后视频都不能信了”，可我看完觉得，这案子里的AI技术其实没那么神。真正神的，是那个盗微信号和搞到训练素材的人。你想啊，视频通话前，骗子得先能登上朋友微信，这一步就已经把百分之九十九的骗子挡在门外了。文章里说的什么二维码钓鱼、Session劫持，听着挺玄乎，可这玩意儿普通人哪会？这背后要么是有专门卖工具的黑产团伙，要么就是朋友自己电脑早中了木马，信息漏得跟筛子似的。咱普通人与其担心AI换脸，不如先管好自己的微信别乱扫码、电脑别乱下东西，这个门槛可比AI低多了。 不过说到底，最让我后怕的还是那句“连视频都不能信了”。我奶奶以前老觉得，看到了人就放心了，视频通话比打电话靠谱。现在倒好，科技发展了一圈，人和人之间的那点信任反而没地方搁了。这回是四百三十万被追回来了，下回呢？要是钱没追回来，老郭和朋友这关系估计也就到头了，俩人心里都得膈应一辈子。骗子可恶就可恶在，他不光骗钱，还把人跟人之间最要紧的确认方式给毁了。以后咱们跟人谈钱，是不是得约个暗号啊？就像地下党接头似的，对上了才敢转钱。你说这日子过的，算个什么事儿。
@疏影529
卧槽你还在纠结像素糊不糊，骗子压根不跟你玩高清那套啊。人家要的就是你那一下恍惚，转账前谁他妈还逐帧分析人脸啊。再说了，老郭那种老板，平时习惯了下面人办事，哪有你这种盯短信的耐心。
看完最想吐槽的是老郭这心也太大了吧 430万说转就转 自己朋友转账截图到了没到账都不查一下 就算脸和声音都像 涉及这么大金额怎么也得先确认到账啊 现在骗子确实厉害 但咱普通人转账前多留个心眼总没错