|
儿子打电话索要巨款救急，老夫妻打完钱才知道，是骗子用AI声音假扮的？！ 话说前段时间，加拿大发生了一起很奇特的诈骗案。 一天，一对老夫妇突然接到一个电话，是他们的儿子Perkin打来的。 儿子打电话是为了向他们求助， 他说自己出了车祸，撞死一名外交官，就要进监狱了。
 （示意图） 夫妇俩一听说儿子出事了，都心急如焚。 就在这时，Perkin的律师又给他们打来电话，表示为了打官司，现在急需2.1万加元的律师费。 夫妇二人没多想，赶快帮儿子戳到2.1万加元， 并按照要求把现金兑换成了比特币，转账到指定的账户。 转账后，夫妇俩稍稍放下心来， 但安静下来之后，两人琢磨起儿子之前打来的电话，居然觉得有些不对劲儿， 因为在电话里，儿子的声音听起来有些怪怪的。 就在当天晚上，Perkin给父母打了一个电话， 父母一问，这才发现儿子根本没在白天给他们打过电话，更没出车祸需要打官司， 夫妇俩终于明白过来，他们受骗了。  （示意图） 他们赶快向加拿大警方报案， 但儿子Perkin表示，付款时没有安全保障措施，那笔钱已经没了，也没办法追回。 得知父母受骗后，Perkin一直有一个疑问—— 他想不明白那通冒充自己的电话是怎么回事，据说声音跟他特别像。 根据警方的初步调查，骗子使用了AI技术，模仿Perkin的声音给他的父母打电话行骗。 Perkin不确定骗子是如何找到他的声音样本， 不过据推测，他曾在油管上发过跟雪地摩托有关的视频，骗子有可能是从视频里提取了他的声音样本。  像Perkin父母这样被骗子用“冒名顶替”的方式诈骗的情况，在世界各国都呈现上升趋势。 今年2月，美国联邦贸易委员会发布的一份调查报告指出， 2022年，美国因诈骗案损失了88亿美元， 其中，最常见的诈骗方式就是“冒名顶替”，跟Perkin父母的情况类似。  而AI技术的发展，给这类犯罪行为提供了便利。 从几年前开始，用AI合成声音诈骗的案件就已经出现了，2019年就发生过一起非常典型的案件。 一家英国能源公司的CEO接到“老板”的电话，这位“老板”是德国母公司的CEO, “老板”让他马上把22万欧元转账到一家匈牙利供应商的银行账户，他乖乖照做了。 
但转账过程中，这位CEO发现了蹊跷的地方。 “老板”一共给他打了三通电话，第一次让他转账，第二次告诉他已经把这笔钱报销了，第三次则让他再付一笔钱。 这位CEO发现，所谓的“报销”并没有完成，而且来自德国的“老板”是用一个奥地利号码给他打电话的。 起疑之后，这位CEO并没有付第二笔钱，也报了警， 但他已经转账的第一笔钱，已经从那个匈牙利的银行账户转移到另一个墨西哥的银行账户，之后又被转移到其他地方，早就无法追回了。 警方经过调查发现，当初给这位CEO打电话的“老板”根本不是老板本人，而是骗子用AI技术合成了老板的声音。 受骗的CEO表示，电话中“老板”带着一丝德国口音，还有别具个人特色的音调，非常像真的。  之前的AI技术被骗子利用，已经足够他们行骗， 最近，GPT-4在各国都掀起一阵热潮，如果有人恶意运用更高级的AI技术，带来的后果将不堪设想。 这种棘手的情况已经引起一些研发AI语音技术的公司关注。 比如AI语音模仿和合成研发公司ElevenLabs， 他们发现在匿名论坛网站4chan上，有网友用他们研发的AI语音合成器VoiceLab合成名人的声音，表达种族歧视等不当言论。 今年1月，ElevenLabs公司在官方推特上连发多篇帖子，提出一种解决方案。  他们表示，为了对付那些将AI语音合成器VoiceLab用于不良目的的人，他们研发了一种工具， 人们可以利用这个工具，验证音频是否是用他们公司的AI技术合成的。 而且他们发现，绝大多数骗子都会匿名使用VoiceLab，所以今后VoiceLab将只能付费使用， 虽然付费不一定能防止诈骗，但这样能迫使他们留下付款账户等信息，从而产生一定的震慑效果，让骗子不得不三思而行。   美国联邦贸易委员会也新成立了一个技术办公室，调查各个公司研发的AI技术用途，以及各公司是不是在想办法降低AI技术被恶意运用的风险。 美国联邦贸易委员会的发言人Juliana Gruenwald对媒体表示，他们已经发现在社交媒体上，类似的诈骗行为正以惊人的速度增加。 “我们还担心深伪技术（deepfakes）和其他基于AI技术的合成内容，它们越来越容易被创建和传播，可以被用于诈骗。” （深伪技术是一种使用AI的人体图像合成技术，合成目标图像或视频的方式。）  “生成看似真实的视频、照片、音频和文本的AI工具，会推动这种趋势。” “这让骗子更容易作案，行骗也更方便快捷。”  AI技术本身并没有问题， 可是一旦被别有用心的人利用， 带来的麻烦就让人防不胜防...... 英国那些事儿 https://mp.weixin.qq.com/s/1yDrbUyjLH59uUdCIht6vA |
qiuzi 发表于 21-3-2023 11:03 AM
真的是很大的漏洞。
yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。
@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...
yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。
@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...
yow_meng5727 发表于 21-3-2023 03:36 PM
老汤 不帅 meh。。。
yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。
@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...
幸福草莓 发表于 21-3-2023 03:38 PM
昨天去开洗衣机也是有AI 功能，
我问对方AI会hack我洗什么衣服的吗，
.gif)
yow_meng5727 发表于 21-3-2023 03:54 PM
哈哈哈。。。
不过，等下 AI 洗衣机 会不会 喜欢 嗅猫咪 的 底裤。。。
幸福草莓 发表于 21-3-2023 04:00 PM
所以囖，我担心AI hack到，知道我穿廉价内裤然后传上网咋办呐！
yow_meng5727 发表于 21-3-2023 02:53 PM
右边 的照片，看起来 有点像 老汤。。。
@幸福草莓 @lim9999 @xiao_qing82 @thunder @adeline ...
本周最热文章
900
0