AI骗走173万!伪造老板声音要求转账,这家公司上当了


免责声明:本文是来自微信公众号的量子比特(ID:QbitAI),作者:郭一普,业主转载授权发布。

“来我的办公室。”

“你是哪一个?”

“嘿?你不能听到我是谁吗?”

“是的.张总?”

然后,你会在手机的最后找到“张宗”,让你去财务部门的同事,然后要求一个奇怪的账户与“随行客户”和“联系老年人”汇款。

你收到过类似的电话吗?这个骗局的关键部分是你希望听到他的声音作为你公司老板的声音。

幸运的是,大多数人不会被误解,所以他们不会被欺骗。

但是现在,凭借人工智能语音合成技术,诈骗者可以让他的声音与你的老板完全一样,而一家英国公司真的被欺骗并被骗了22万欧元(173万元人民币)。

事件的过程

据国外媒体报道,总部位于巴黎的保险公司Euler Hermes的客户被带走。

该客户是一家总部位于英国的能源公司,在德国设有母公司,在英国设有子公司。

有一天,英国子公司CEO接受了母公司“老板”的号召。毕竟,母公司是德国人,所以母公司老板每天说英语时会有德语。当英国子公司的首席执行官听到它时,来电者的英语口音与母公司老板的口音相同。那是老板自己。

事实证明,德国“老板”正在与“匈牙利供应商”交谈,该账户将取自英国子公司,即英国子公司将向“匈牙利供应商”支付款项,而德国母公司将跟随英国子公司。填。

德国“老板”所需时间紧张,“匈牙利供应商”的任务必须在一小时内支付,相当于人民币2,700,000元,相当于人民币173万元。

资金播放后,“老板”当天晚些时候再次打电话。这一次,“老板”说,德国的前母公司已经转移到英国子公司的22万欧元。现在它需要英国子公司转移另一笔钱。

这家英国子公司的员工觉得有些不对劲。一方面,“老板”转移的资金尚未支付;另一方面,“老板”这次是如何从奥地利打来的?

虽然英国子公司第二次没有被欺骗,但之前的220,000欧元尚未归还。调查人员发现,在“匈牙利供应商”的匈牙利账户中,220,000欧元被转移到墨西哥,然后被转移到其他地方,因此警方找不到骗子的位置。

Yuli Anyi保险公司希望保密客户,不披露它是哪家公司,最后他们根据英国子公司的要求提出索赔。

语音克隆技术相当成熟

这家受骗公司的核心问题是这个电话太像真正的母公司老板了。

骗子本人不太可能只是这个声音,但是老板的声音可以出现,并且使用语音克隆或语音合成技术来使用特定的单词。

语音克隆技术已经有很多应用。例如,搜狗输入法在终端中启动了“可变语音”功能。你对手机说了一句话,然后发给你的朋友,就是林志玲,周星驰,高晓松等明星的声音。

在今年的Keda Xunfei新产品发布会上,合成的罗永好和林志玲的声音在现场播出。

语音合成更加成熟。常用的百度地图,高清地图,导航林志玲,易倩等明星语音包都是由明星用来进行语料库训练,由语音合成技术生成。

即使是今年315派对上的AI也在骚扰电话,而且电话的声音也是合成的。

如果你想体验语音克隆的效果,试试这个在GitHub上非常流行的实时语音克隆的开源项目:

的实时语音克隆

项目中已经提供了预训练模型。下载到本地部署后,每次只需5秒即可将其他人的话语转换为您的语音。

因此,语音技术易于使用,易于使用,效果良好。这些坏人不可避免地会盯上。

声音欺诈,开放视频验证?

以前的电信欺诈都是短信和微信文本。银行工作人员会提醒行程中的人:打个电话确认。

现在,我恐怕不仅要拨打电话,还要看视频以确保我的电话。然而,一些当前的AI技术不仅可以合成特定人的语音,还可以基于语音到嘴来处理视频。

您可以制作一个人的静态照片移动并说出一个特定的单词。帝国理工学院和三星《Realistic Speech-Driven Facial Animation with GANs》论文,使用了很多明星静态照片:

您可以更改录制的视频。在斯坦福和普林斯顿的这篇《Text-based Editing of Talking-head Video》论文中,录制的视频可以完全改变声音和嘴巴。

苹果今天的收盘价是191块4,改为182块2你看不到它。

也可以让照片中的人物用丰富的表情说话。三星和俄罗斯Skolkovo科学技术研究所的论文《Few-Shot Adversarial Learning of Realistic Neural Talking Head Models》发表的技术让静态的蒙娜丽莎:

您应该知道许多类似的AI技术都是开源的。如果它们被用于恶意目的,它们将被用于混淆视听和欺诈,这将造成严重后果。

它不起作用,使用AI来捕捉AI诈骗者

无论是处理语音,图片还是视频,这些技术开发的新功能通常都被认为可以帮助人们节省时间并提高乐趣。

然而,也有许多人做了邪恶。可能会失去信誉的人脸改变应用程序,可能侵犯隐私的人脸识别,以及今天的AI诈骗,技术总是有两面性。

正如AAAI前总裁斯巴鲁Kambhampati看到这条消息后的评论:

令我震惊的是语音技术将用于这个邪恶的目的!百度没有明确告诉我们语音技术是用来让忙碌的母亲给婴儿唱一首摇篮曲?

还有人建议使用AI AI可能是个好主意:

我们需要一个人工智能辅助网络安全框架来解决人工智能驱动的网络犯罪问题

最后,如果您收到的呼叫听起来与老板的声音相同,您会用什么方法来识别它?

——