9秒被骗245万！AI诈骗正在爆发
AI诈骗正在爆发，
据迈克菲安全技术公司最新报告，
受到AI诈骗，
77%的人会遭受经济损失。
诈骗者通过被害人的社交媒体、上网记录，
采集其各方面的生活信息和行动轨迹，
合成对方的声音、人脸，
诈骗其朋友、亲人、同事，
让人防不胜防。
▲
去年，AI在诈骗案频发，“9秒被骗245万，10分钟被骗430万”等诈骗案件多次登上热搜
据安徽警方通报，
去年4月，
有人换脸成被害人的好友，
称有一个项目招标需要周转资金，
视频通话仅9秒钟，
就诈骗到245万。
去年10月，
有博主发文称，
有人通过AI换脸，
制作她的裸照进行敲诈。
如何识别AI诈骗，
碰到后应该怎么办？
我们和AI诈骗的亲历者、
AI工程师聊了聊。
编辑：张雅兰
责编：倪楚娇
龙腾新岁，寓意美好的新年必备佳礼，点击一条艺术小程序或APP购藏
自述：安安，20岁，大学生
我目前正在读大二。有一天我在QQ上收到了一个好朋友发来的消息。她问我在干嘛，寒暄了几句，就说她的微信被限制了，想转钱到我的银行卡号，让我帮她买个东西。
涉及到钱，我就比较谨慎了，我说我们先视频一下。她也没犹豫，打开了视频。长相、声音和我朋友一摸一样，我们视频了5秒钟就挂了。确认了脸，我就放松了警惕。
▲
安安和对方的聊天截图
我问她想买什么，她没回复，直接让我发银行卡号过去，她转钱给我。我没有多想，把卡号发给她了。她给我发了个充值Q币的链接，让我点链接帮她买3500元的Q币。
我当时也挺奇怪的，无缘无故为什么要买Q币？我问她是不是在做暑假工，但她跳过了我的问题，说已经把钱转过来了，问我收到没有。我并没有收到。她开始兜圈子，说再去问问客服，确认一下，让我先帮她买一下，钱一会儿就能到账。
如果我大意一些，钱也就转过去了，但我再次起了疑心，就让她再接一次视频电话。这时候她也有些不耐烦，说，就是我本人你放心。
我怎么放心呢？我们平常基本都在微信联系，她怎么突然QQ联系我？况且是买虚拟货币，发过来的也是陌生链接。我就去微信跟我这位朋友确认，她说根本没有在QQ上找我。
说实话我当时都快被吓哭了，又去QQ问对方，让她打开视频给我看，打开后还是我朋友的样子。她为了让我放心，甚至拿出了身份证给我看，根本看不出来脸是AI合成的。挂了电话，我骂了骗子几句，她看我迟迟不转账，好像也识破了，就没有继续装了。
后来我朋友才发现她的QQ账号被盗了。至于身份证，她觉得可能是之前在某个网站上上传过身份证照片。但是想来想去，我们也不知道到底是哪个环节出了问题。如果不是去微信多问了一句，我差点就被骗了。
自述：Mike，23岁，留学生
我今年23岁，目前在美国读书。说实话，第一次碰到AI诈骗的时候我真的一身冷汗。
去年圣诞节我和同学去南美玩，那阵子和我爸妈联络也比较少。有一天半夜我突然接到我妈的微信电话，接上的时候发现她已经打了3、4个了。我当时也吓一跳，以为家里发生什么事。她当时带着哭腔，问我怎么样，还好吗。我当时也有点懵。
▲
编造“留学生被绑架”，是诈骗犯常用的手段
她告诉我，她白天接到我的电话，来电显示是我国内的手机号，电话那头也是我的声音，我说自己在南美洲被绑架了，跟我妈要10万美元赎金，否则就活不了了，没说几句电话就挂了。
我妈当时差点就信了，她尝试给我的手机打电话，发现打不通，当时隔着太平洋，她也没办法确认真假，只感觉声音是我的，她甚至报了警，警察告诉她再通过别的途径确认一下，因为当时是夜里，我的微信也连续打不通。
她有点儿着急了，后来我爸给我打手机电话，我妈尝试给我打微信电话，两个人折腾了半天，幸好我的手机平常不会关声音，最后我还是接到了。
我安慰她我没事，就是在旅游。她当时都将信将疑的，问我刚才我的声音是怎么回事。我当时根本不知道还有AI诈骗这回事，也是吓得够呛。
后来我们打开了视频，她看到我真的没事，才放心下来。后来我上网去查，才知道有些AI诈骗不仅会黑你的手机通讯录，还会黑进你的微信，除了声音，连脸都是可以伪造的。
▲
电影《孤注一掷》剧照，主线故事围绕电信诈骗展开
平常我和爸妈的联系频率还是比较高的，基本上每周都要打两三个电话，就是那次，我恰好在外面旅行，也发了自己旅行城市的定位，和家里联络比较少了。
所以我后来想，可能就是因为这样，诈骗犯利用了这个“空档”，他们通过我的社交媒体知道了我的位置，也不知道怎么黑到了我国内的号码，提取了我的声音，来诈骗我爸妈。还特意选择了我晚上在睡觉，可能接不到电话的时间。
我是比较小心谨慎的性格，之前也比较保护自己的隐私，比如我在国内的时候，每次收到快递一定会把自己的个人信息涂抹掉再扔快递盒，也不轻易在外面留自己的电话号码，上网记录也会定时删除，但是有时候难免会泄露一些信息，太难防了。
Q：AI诈骗主要指的是什么？
A：AI诈骗主要采用的技术是Deep fake，意思就是深度伪造。它是一项人工智能的人体图像合成技术。AI诈骗主要就是利用这项技术，进行换声、换脸，再通过电话、社交媒体进行的欺诈。
▲
在《速度与激情7》拍摄过程中，保罗·沃克意外车祸去世，片方讨论后，邀请保罗-沃克的两个弟弟担任替身，正脸则用AI技术复制保罗的脸
Q：正常情况下，这项技术运用于哪些领域？它的发展经历了哪几个阶段？
A：早期，这项技术主要用于影视的后期剪辑，比如说最出名的《速度与激情》，保罗·沃克意外车祸去世后，片子的后半部分就是用了deep fake的换脸技术。
2018年，当时出现过一个政治的恶搞视频，一个美国演员用Deep fake技术制作合成了一个视频，奥巴马大骂特朗普是个笨蛋，其实他本人从没说过这种话。这个视频在推特上获得200多万次的播放，影响力非常大。也就是因为这个虚假新闻，让这个技术慢慢走进大众视野。
后来在日本，这个技术也被用来造黄谣，有年轻人通过换脸技术，出售伪造的不雅影片。再后来，就开始出现电话语音诈骗，还有我们看到的更高级的换脸变身诈骗。其实一直到2022年，AI诈骗才开始集中大量出现。
▲
去年10月，一位自称裸体绘画艺术家的人称自己受到委托，按要求制作某博主的裸体图片，因委托人没有付费，所以他向博主索要500 USDT（加密货币，约合人民币3500元），否则自己将会公开出售其裸照
Q：AI诈骗爆发有哪些原因？
A：在早期，硬件设施还不是非常完善，deep fake也有一定技术门槛，需要有一点代码能力的人才会去使用。所以AI诈骗没有那么猖獗。2023年，被称为“AI元年”，让人惊叹的chatgpt也出现了，可以说AI技术突飞猛进，加上这几年计算机硬件革新，算力大幅提升，让能使用deep fake的硬件比较容易获得。
而且，这项技术是开源的，比较容易获取。在专业的软件网站、应用商店，甚至网购平台就能找到。任何人都可以下载、学习和使用。
而且经过不断的优化整合，现在的技术壁垒越来越低。比如说在网上，有些人会出售“一键安装包”，让普通小白一键安装后就能使用。甚至在某些渠道，你花几块钱就能找人帮做一条换脸视频，所以主要是因为AI技术的学习、获取门槛越来越低，导致AI诈骗的门槛也越来越低。
▲
图片来源：petapixel
Q：AI诈骗常见的一些方式和手段包括哪些？
A：首先就是语音诈骗，比如通过一些唱歌、配音软件提取你的声音，通过骚扰电话来提取你的声音，进行后期合成。还会通过盗号，用一些第三方的插件，实现语音转发，获取你的声音样本，再电话诈骗。
如果要更高阶一些，他们还会通过远程控制软件，向指定的目标人发送含有恶意软件的链接或者文件，一旦你打开，它就可能去控制你手机上的一些APP，甚至盗取你的账号密码、个人身份信息等等，获取你的声音和照片，再去了解你的生活，找到你熟悉的亲人、朋友，直接打视频过去，进行诈骗。
▲
徐欣正在科普AI数字人，使用deep fake技术改换人脸。来源：@超级头脑AI魔法师
Q：AI诈骗为什么难以识别？能通过具体案例讲讲吗？
A：AI诈骗是一套“组合拳”。换脸变身，只是诈骗的最后一步。
第一步，犯罪分子会通过AI工具选取诈骗对象，一定是各方面条件都是他们可以把握的。我们在浏览网站的时候，会留下cookie。诈骗犯通过盗取QQ等社交媒体，对方可以推断出你大概的年龄段、经济水平。
通过公共的社交软件，比如说小红书、抖音等等，你可能发布了一些个人信息，诈骗者也可以通过这些大致推断出你的身份、对什么感兴趣。了解你的个人形象，你的生活圈、行动轨迹，才会为你量身定做一个“诈骗剧本”。
比如说之前新闻说一个人十分钟被诈骗了430万，假如说那是一个没有做过功课的骗子，就只是换脸成他的一个普通的朋友，单纯跟他去借钱，别说借430万，几万块可能都有困难。
因为骗子之前盗他的账号，收集了他个人隐私的信息，了解到他最好的朋友是谁。这个朋友在什么时候，刚好有一个项目，这个事是真实存在的。然后他就来冒充这个朋友打电话给被害人，说我这边的项目可能需要借点钱。当时肯定有顾虑，但是两个人打开视频，看了视频发现确实是朋友的脸，声音也是，才上当受骗。
还有一个学生，他是刚好那段时间出国旅游，没开国际漫游，诈骗犯就是盯准了他和父母电话沟通不是很顺畅这段时间，冒充他去跟他父母要钱，说是在国外遇到了什么事儿，让他父母把钱打到一个账户。利用这种时间、时空差也是他们常用的手段。
工具在变，但是诈骗他最终骗的是人性，他会利用受害者一些恐惧心理，冒充领导、冒充公检法之类的，利用受害者对权威机构天生的畏惧心理，通过伪基站，用官方号码给你发送信息。
Q：我们应该如何防止隐私泄露？
A：首先我们浏览网页的时候，尽量关闭cookie，及时清除浏览记录，关闭“登录网站自动保存密码”的选项，不要在非官网的网站留下身份信息，电话信息。
在社交平台，尽量不要发清晰的正面照，发朋友圈关闭定位，不接骚扰电话。最重要的就是不点陌生链接，在手机上下载国家反诈APP。
Q：作为普通人，我们如何识别对方是否是AI诈骗？
A：在开视频的情况下，我们可以有意识地引导对方做一些动作，比如说张大嘴巴，或者说大幅度摇头，让对方用手挡在脸前面等等。因为目前这个技术虽然可以换脸，但是它对于突然出现在摄像头的阻碍物，是没有办法进行快速分辨的，这个时候，人的面部就会有变化，产生一些变形。
而且deep fake训练模型的时候，大部分用的是人物正脸，对于侧面甚至后脑勺是训练不到的。它能够训练人物的五官，但是很难改变人的脸型、骨骼形状。所以说对方做大幅度动作的时候，可以从侧面，后面这些方位去看，就能看到一些瑕疵。
此外，伪造的人脸，他的眨眼频率会比较低，对方的情绪也可能和当时的情景不符合，画面会停顿，这时候先不要考虑是不是网不好，可以考虑有可能是伪造的。
如果对方打来的是语音电话，我们可以尝试用方言交流。假如骗子已经高阶到连方言都对答如流，那只有一个办法，就是聊隐私，聊你们没有从没有同任何人讲过，没有在社交软件上说过的事情。
还有一个办法是，直接拨打对方的电话，但是注意不要通过通讯录找对方的名字打，因为对方可能已经黑进了你的通讯录，最好直接输入对方的手机号打过去询问，关键就是多个渠道验证。核心就是，只要谈到钱，无论对方是谁，都要谨慎。
Q：AI诈骗案件的侦破方面，有哪些难度？
A：最大的难度在于AI诈骗具有高隐蔽性，很难获得线索。假如诈骗犯设置了一个虚拟IP，他就可以在全世界任何一个国家、任何一个地区来诈骗任何人。你可能在中国受骗了，你去报警，但是骗你的人是在大洋彼岸的其他国家，是任何一个人种。加上对方的声音、形象都是合成的，就是难上加难了。但我还是建议被AI诈骗一定先报警，至少留下一份档案。
Q：在电信诈骗、AI诈骗这方面，我们国家有相应的法律举措吗？还有哪些方面需要完善？
A：2023年1月份，我们国家颁布了一条《互联网信息服务深度合成管理规定》，规定了深度合成服务提供者的主体责任，就是从技术提供者的源头去规范和管理。
当然，漏洞依然有，目前急需完善的地方就是技术层面。对于第三方软件、Ai软件，我们对它的拦截、识别技术，还是比较滞后的。
其实在国外，已经有相关的技术，比如美国一家科技公司，去年6月份他们就宣布将增强AI反诈检测技术，设计了一款软件，可以立即发现伪造内容，能识别99.5%的deep fake的内容。
对我们来说，AI工具的使用范围离普通民众还是稍微有些远，AI技术更多应用在大健康产业，天气预测等等。其实我们普通人也可以提高AI技术的素养，多了解一些AI知识，它的底层逻辑，也是有助于我们识破诈骗的。