天下网商
登录/注册

AI骗走173万!伪造老板声音来电,成功骗钱后无影无踪

iwangshang / 黄天然 / 2019-09-04

摘要:不止视频,音频同样可以通过AI来伪造,而且这比换脸更简单,也更难发现破绽。

天下网商记者 黄天然

ZAO用一张照片就能用你的脸制造出一段演戏视频,让更多的人看到了运用深度造假(Deepfakes)“ AI换脸”已是如此便捷的操作。然而不止视频,音频同样可以通过AI来伪造,而且这比换脸更简单,也更难发现破绽。

据《华尔街日报》报道,有一名犯罪分子运用AI合成公司老板的声音,让一家总部位于英国的能源公司上当受骗。伪造的诈骗电话成功让公司下属转账了22万欧元(约合173万人民币)的巨款到了骗子账户。

一通电话骗得下属跨国转巨款

运用AI伪造声音的诈骗,与我们在日常生活中遇到的“XX,明天来我办公室一趟”假扮老板骗术是一个思路,而技术迷惑性却强得多。

这家受骗的能源公司总部位于英国,它的母公司位于德国,子公司在英国。在事发当日,该公司的英国子公司负责人接到了来自德国母公司老板CEO电话。来电人的英语中略微带点德国口音和腔调,与德国“老板”声音一模一样,就没有起丝毫的疑心。

德国“老板”在电话里表示自己正在匈牙利谈生意,但目前要从英国子公司走一笔账,需要英国子公司将钱打给“匈牙利供应商”,后续会给予报销。德国“老板”要求打款的时间紧迫,需要在一个小时内打款22万欧元给指定账户。

而钱打过去之后,德国“老板”又打来电话。这次德国“老板”说刚才的22万欧元的报销款已经给英国子公司转过去了,现在需要英国子公司再转一笔钱。

这下英国子公司的人发现不对劲了。一来“老板”转的钱没有到账,二来“老板”的电话怎么是从奥地利打过来的呢?

迅速报警之后,警方发现这22万欧元已经打到匈牙利的一个账户中,而后被转到了墨西哥,之后又转走到其他地方,因此警察也无法追踪骗子在哪。

AI语音仿造技术已经相当成熟

受骗公司遇到的关键问题是打电话的声音太像母公司的CEO,让老板的声音说出特定的话语,用到的是AI语音的深度学习技术。

这一技术要实现却不难,而且已经非常成熟。你在高德地图里运用到的林志玲、易烊千玺等明星导航,就是他们声音的建立语料库训练,运用AI语音合成的。在语音助理构建、游戏数字化角色设计、有声读物等都有它的身影。

如今已有多家AI公司推出了语音仿造AI技术。谷歌Deepmind公司在2016年就开发出“WaveNet”软件,可利用其神经网络系统对原始音频波形进行建模,生成带有强调性音节、抑扬顿挫和体现情绪的人类自然语言的音频。

加拿大Lyrebird公司也开发出了一种深度学习算法,该公司已利用该技术仿造出特朗普、奥巴马及克林顿等人的声音进行演讲,几乎可以以假乱真。其公开beta测试版只需要利用长度为1分钟的音频素材,即可生成与用户语音特征高度相似的数字语音输出结果,使用门槛非常低。

奥巴马的演讲被加拿大Lyrebird公司成功伪造

此外,Adobe公司的 Project VoCo软件可以识别出一段语音中的文字,之后针对语音中的文字进行编辑和修改,生成音色和音调与本人完全一样的语音。这意味着,未来的音频制造将如同在文档当中复制、粘贴文本一样轻松。你想用谁的声音说什么话,完全是可以预先编辑制作的。

语音伪造技术在GitHub也上给出了开源的训练模型,就像“AI换脸”一样,将别人的声音换成你的声音,只要5秒钟就能实现。

用AI“反套路”

“语音伪造”与“AI换脸”一样易得易用,开始成为被坏人利用造假的工具,混淆视听、诈骗犯罪,这引发的风险令人担忧。

世界知名安全软件ESET的网络安全专家Jake Moore说:“我预测在不久的将来,利用AI的网络犯罪将大幅增加。我们已经看到Deepfakes视频在逼真地伪造名人和公众人物,伪造声音需要更少的录音即可制作完整。随着计算能力不断提高,当这些技术将变得更容易制作,这将带来一系列的网络安全问题。”

AI 技术是一把双刃剑,关键看掌握技术的人如何使用。处理语音和图像技术的进步让我们节省时间、带来乐趣的同时,却也让作恶的人找到可乘之机。

如何制服AI造假和诈骗的泛滥,对抗它即将带来的技术风险?运用AI“反套路”AI也许是一个可行的办法。为防范各种各样的 Deepfakes的出现,检测由AI生成伪造文本的AI “探测器”也在不断完善。这也是一种深度学习模型,可以甄别由AI伪造文本的漏洞和代码特征,追踪器传播路径和方式,从而发现造假内容。

目前,研究人员已经开始推进风险防御措施。为应对 AI 处理文本的威胁,麻省理工学院IBM Watson 实验室与AI Harvard NLP已经推出了巨型语言测试室(GLTR),检测由OpenAI模型生成的伪造文本。此外,IBM的Debater项目、深蓝项目等有望提供新的工具来帮助打击Deepfakes的欺诈活动。

阿里巴巴也启动了反电话诈骗的AI系统。目前在实时保护用户账户安全的基础之上,结合公安反欺诈领域的协同破案的经验,支付宝自主研发了AI“天蝎”系统。“天蝎”可以对平台交易中可能存在涉及网络犯罪的手法、行为进行研判,并将相关线索推送给公安,提升网络犯罪的侦破效率。支付宝上也建立了“延迟到账2.0”功能,当AI发现用户遭遇疑似电信诈骗时,会主动向用户推荐延迟到账功能,给予用户思考以及报警时间,挽回损失。

未来AI的“造假”与“反造假”之间的战斗,也许正如细菌与抗生素、恶意软件与反病毒平台、黑客与白帽子之间的对抗,将迎来不断地升级迭代。

分享:

发表评论

最新评论