郭一璞 发自 凹非寺
量子位 报导 | 大众号 QbitAI
“来我办公室一趟。”
“您哪位啊？”
“啥？你听不出来我是谁吗？”
“是……张总吗？”
接着，就会发现电话那头的“张总”，让你去找财务部的搭档，然后以“陪客户”、“联络高层”的由头，要求给一个生疏账号汇款……
你也接到过相似的电话吧？这个欺诈套路要害的一环就在于，你要把他的声响听成自己公司某个老板的声响。
好在，大部分人不会听错，因而也不会受骗受骗。
但现在，凭借AI语音组成技能，骗子能够让他的声响和你老板如出一辙，而且一家英国公司真的受骗受骗了，上圈套走了22万欧元（173万人民币）巨款。
案发进程
据《华尔街日报》报导，总部坐落巴黎的保险公司裕利安宜（Euler Hermes）的一家客户受骗了。
这家客户是总部坐落英国的一家动力公司，该公司的母公司坐落德国，英国的是子公司。
一天，英国子公司CEO接了母公司“老板”电话，究竟母公司是德国的，因而母公司老板日常说英文的时分会有德国腔。英国子公司CEO一听，来电人的英语带点德国口音，跟母公司的老板一毛相同，那便是老板自己了。
本来，德国“老板”在跟“匈牙利供货商”谈生意，账要从英国的子公司走，也便是英国子公司把钱打给“匈牙利供货商”，德国的母公司后续再给英国子公司补上。
德国“老板”要求的时刻紧任务重，必须在一个小时之内给“匈牙利供货商”的账户打22万欧元，折合人民币173万元。
钱打过去之后，在当天稍晚的时分，“老板”又打电话来了。这次“老板”说，方才那22万欧元，德国的母公司现已给英国子公司转过去了，现在需求英国子公司再转一笔钱。
这下英国子公司的人就觉得不对劲了。一方面，“老板”转的钱没到账；另一方面，怎样“老板”这次是从奥地利打过来的电话呢？
尽管英国子公司没有第2次受骗受骗，但之前打的22万欧元现已回不来了。查询人员发现，这22万欧元打到“匈牙利供货商”的匈牙利账户之后，被转到了墨西哥，之后转到了其他地方，因而差人也找不到骗子在哪儿。
裕利安宜保险公司要给客户保密，没有泄漏这是哪家公司，最终他们依照英国子公司的要求给予了理赔。
语音克隆技能适当老练
这家受骗公司遭受的核心问题，在于打来的电话真实太像母公司那个真实的老板了。
骗子自己是不太或许刚好是这个声响的，而能让老板的声响呈现，而且说出特定的话，用到的是语音克隆或许语音组成技能。
语音克隆技能现已有了许多使用，比方此前，搜狗输入法就在终端推出了“变声”功用，你对着手机说一句话，发送给老友之后便是林志玲、周星驰、高晓松等明星的声响。
在本年的科大讯飞新品发布会上，就现场播报了组成的罗永浩和林志玲的声响。
语音组成果更老练了，你常用的百度地图、高德地图里，导航用的林志玲、易烊千玺等明星的语音包，都是用明星自己说的话做语料库练习，经过语音组成技能生成的。
乃至，本年315晚会上的AI打骚扰电话，打来电话的声响也是语音组成的。
假如你想体会一下语音克隆的效果，能够试试最近在GitHub上十分火的这个实时语音克隆的开源项目：
Real-Time-Voice-Cloning
https://github.com/CorentinJ/Real-Time-Voice-Cloning
项目中现已给出了预练习模型，下载到本地布置后，每次只需5秒钟，就能够把别的一个人说的话，变成你的声响。
也是因而，语音类的技能易得、易用，效果也不错，被坏人盯上也是不免的。
声响造假，开视频验证呢？
曾经的电信欺诈都是短信、微信文字，受骗者会被银行工作人员提示：打个电话承认一下。
现在，恐怕不只要打电话，还要视频一下，以保证是自己了。可是，现在的一些AI技能，不只能够组成特定人的语音，乃至还能依据语音对口型、处理视频。
能够让人物的静态相片动起来，而且说出特定的话。帝国理工学院和三星这篇《Realistic Speech-Driven Facial Animation with GANs》论文，就用不少明星静态相片：
直接生成说话、歌唱的动态视频：
点开视频听一听，是不是表情口型毫无违和感？
能够把录好的视频改掉。斯坦福和普林斯顿的这篇《Text-based Editing of Talking-head Video》论文中，录好的说话视频，能够把声响、口型悉数改掉：
苹果今天收盘价191块4，改成182块2你也看不出来。
也能够让相片中的人物边说话边配上丰厚的表情姿势。来自三星和俄罗斯斯科尔科沃科学技能研究所的这篇名为《Few-Shot Adversarial Learning of Realistic Neural Talking Head Models》的论文中宣布的技能，就让静态的蒙娜丽莎：
变得栩栩如生：
要知道，相似的AI技能有不少都是开源的，假如被用在歹意用途上，被用来混淆视听、欺诈，将形成极大的后果。
真实不可，用AI来抓AI骗子
不管是处理语音、图片仍是视频，这些技能开发出的新功用一般都被以为能在协助人类节省时刻、提高趣味等方面起到效果。
可是，拿来作恶的也不少。或许让人名誉扫地的AI换脸使用、或许侵略隐私的人脸辨认、加上现在的AI欺诈，技能总有其两面性。
正如AAAI前主席Subbarao Kambhampati看到这则音讯之后的谈论：
我很震动语音技能会被用于这种凶恶的意图！百度不是清晰的告知过咱们，语音技能是用来让繁忙的妈妈给娃唱摇篮曲的嘛？
也有人提出，以AI制AI或许是个不错的办法：
咱们需求人工智能辅佐网络安全结构来处理人工智能驱动的网络违法问题
最终，要是你接到了听起来和老板声响相同的电话，会用什么办法去区分呢？
参阅链接：
https:///articles/fraudsters-use-ai-to-mimic-ceos-voice-in-unusual-cybercrime-case-11567157402
—完—
AI社群 | 与优异的人沟通
AI内参 | 重视职业开展
喜爱就点「在看」吧 !
