Question

AI换脸是如何骗人的？

Answer 1

近日，内蒙古包头警方发布了一起电信诈骗案例，一男子10分钟内被骗430万元。不过，让人感到诧异的是，这起诈骗是骗子利用人工智能（AI）实施的。

据财联社5月22日报道，福建福州市郭先生的好友通过微信视频联系他，以工作为由，要求郭先生为其转账430万元。基于对好友的信任，加上已经视频聊天核实了身份，郭先生就直接把430万转到了好友的银行卡上。后来，郭先生才知道被骗。目前，AI诈骗案件在全国范围内都有发生，诈骗的成功率甚至接近100%。

那么骗子是如何骗取受害者信任，又如何在视频身份验证的前提下成功实施诈骗的呢？

第一个步是盗取信息，通过案情分析，我们可以看出，骗子不仅只是简单地盗取社交媒体账号，而是盗取了受害者好友的全套信息，从账号密码，到人物关系，到个人照片、声音，再到支付信息，任何一个环节的缺失，都会让诈骗难以成功实施。

第二步是技术应用，骗子在视频中使用了AI换脸和拟声技术佯装成对方好友，才成功骗取对方信任，实施了诈骗。

骗子先是盗取社交媒体账号，再盗取其社交账号上发布的个人信息，最后使用AI完成诈骗，千层套路让人防不胜防，同时，也让人感叹不法之徒的诈骗手段也在与时俱进。

实际上，骗子诈骗时使用的AI换脸和拟声技术大家都不陌生，在视频平台爆火的明星换脸与AI歌手孙燕姿就分别使用了这两项技术。随着人工智能的发展，“AI换脸”技术门槛逐渐降低，应用场景也越来越多，不少人通过AI满足了猎奇、美颜、社交等需求，给生活带了欢乐。

但最近，AI这把双刃剑露出了它的另一面。从被“换脸”的明星，到地铁上被“一件脱衣”的普通人，再到AI诈骗，AI将使用者的“恶”不断放大，受到伤害的对象也从明星这样的特定群体，变成面容较好的普通人，再到亿万个身边的普通人。AI技术在不法分子的利用下，被频繁用于炒作、诈骗、色情等非法逐利行为，产生了极大危害，不仅侵害他人合法权益，还危害社会公共安全。

虽说防人之心不可无，但如此层出不穷的套路确实让人很难防备，如此乱象又该如何监管？

首先，从防范的角度来说，随着科技的发展，电信诈骗的方式已经不再是从前单纯文字聊天的形式了。对此，大众要留个心眼，眼见不一定为真，视频里的熟悉朋友和家人可能AI合成的骗子。对于涉及金钱交易的核实，要通过多种渠道反复核实。有时，保护财产安全就是再多打一个电话的事。

其次，从事后的责任追究来说，立法机关要尽快完善相关法律，对相关违法行为严肃处理，不能让技术跑赢了监管，让使用AI的不法之徒变成“法外狂徒”。

总之，对于AI技术，我们既要坦然面对，又要多方合力织起安全网，探索AI技术的应用边界，确保AI技术向善而行。