官方公众号企业安全新浪微博
FreeBuf.COM网络安全行业门户，每日发布专业的安全资讯、技术剖析。
FreeBuf+小程序
前段时间，美国网民使用 AI 图像生成工具恶搞出的“特朗普被逮捕”照片刷爆社交媒体，引得疯狂转发、讨论，在大部分瓜友都沉浸在恶搞的快乐中，部分理智民众看到 AI 技术合成的照片竟如此逼真，表达了对 AI 未来发展过程中安全性的担忧。
一语成谶，5 月22 日，包头微信公众号发布一则消息表示包头警方破获了一起利用人工智能（AI）实施电信诈骗的典型案例，福州市某科技公司法人代表郭先生 10 分钟内被“好友”骗走 430 万元巨款。
案件详情：
4 月 20 日 11 时左右，福州市某科技公司郭先生一“好友”突然通过微信视频联系到他，寒暄几句后，“好友”表示自己有一个朋友在外地竞标，需要公对公账户过账 430 万保证金，想看能不能借郭先生公司的账户走一下账。
看在多年交情的份上，郭先生爽快的答应对方可以帮助走账。“好友便顺势要走了郭先生的银行卡号，随后不久便通知其已经把钱打到了账户上，还把银行转账底单的截图通过微信发给了郭先生。
收到了转账的截图信息，加上又是与”好友“视频通话，郭先生在没有核实钱款是否真的到账的情况下，就分两笔把 430 万转到了”好友“提供的银行帐户。
打完款后，郭先生照例向好友确认是否款项受否到账，但一头雾水的好友回复了一个“？”。这时候郭先生已经有了某种不好预感，赶紧拨打了好友电话，沟通后才发现上当受骗了，原来根本不是“好友借钱”，是诈骗分子通过智能 AI 换脸和拟声技术，佯装好友对他实施了诈骗。
警方成功追回 336.84 万
意识到被骗后，郭先生立刻报警。福州、包头两地警方迅速采取联合行动，开启了止付机制成功止付拦截 336.84 万元其余 93.16 万元被网络犯罪分子转移了，目前警方正在全力追缴中。
值得一提的事，郭先生在向警方陈述案件时表示从头到尾网络犯罪芬妮都没有和其提到借钱的事情，只是一再强调周转一下，说会先把钱给其打过来再让给他朋友账户转过去（相当于过一手），再加上双方进行了视频通话，视频中的声音和面孔和朋友别无二致，因此放松了戒备，最终受骗了。
从郭先生陈述的话可以看出，这帮网络犯罪分子并没有向以往案件中披露的诈骗手法一样，以新账户的名义重新添加好友，从而开展诈骗活动。而是直接用好友微信发起视频聊天，采用 AI 技术合成好友声音、面容，防不胜防。
随着互联网技术发展，网络犯罪分子使用 AI 技术，通过换脸、换声音研究出各种各样的诈骗模式，因此日常生活中涉及到金钱来往时，一定要时刻保持谨慎，以防成为网络犯罪分子的”盘中餐“。