FInSight指间课堂：声纹识别 vs 深度伪造

你知道全球第一起人工智能欺诈案吗？
2019年《华尔街日报》曾报道过这个令人震惊的案件：一位公司职员 “被AI技术欺骗” 转账了近24万美金！由于劫匪通过深度伪造技术模仿了老板的声音进而实施资金诈骗，该职员没有对通话人的身份产生半点怀疑，最终造成了资金损失。目前这类案件并不多见，但损失惨重，最高曾造成数百万美金的损失。
深度伪造技术我们在上一期的指间课堂中提到过。上期我们介绍了以声纹识别为代表的人工智能语音认证技术在金融业中的应用，以及语音认证技术的优势和难点，其中利用深度伪造实施的诈骗是语音认证技术面临的难点之一。
我们先来了解下，什么是深度伪造。

技术的双面性
深度伪造（Deepfakes）可以说是深度合成（Deep synthesis）的一个应用形式，是利用人工智能、机器学习来创建以假乱真的合成媒体。深度伪造与深度合成的底层技术是一样的，但前者更多是用来描述有负面意图的技术应用，例如将AI换脸用于色情视频，或利用语音合成进行电话欺诈。

2019年有人利用深度伪造制作虚假视频
而深度合成技术则是具有正向价值的，例如在语音合成方面，可以帮助耳聋、帕金森或 ALS 等患者与他人进行无障碍的沟通，也可以用到教育、娱乐、艺术创造等领域。

利用深度合成制作会讲话的蒙娜丽莎
通过深度伪造不仅可以模仿人类的音色，甚至是口音、音调、音节、停顿方式都能与本人如出一辙。其技术实现的两个重要里程碑是WaveNet和 Tacotron的出现。WaveNet是一个用于直接生成声音讯号的人工神经网络，可以将声学特征转换为高质量的音频文件。Tacotron则是基于深度学习的端到端语音合成模型，其升级版Tacotron2的表现已经非常接近人类的自然音。这两项技术极大推动了语音合成的发展，为社会带来了进步，但同时也为实施欺诈提供了便利，体现了技术的双面性。

技术之间的博弈：声纹识别 vs 深度伪造
上期指间课堂中我们提到，人工智能语音认证技术在金融业使用率越来越高，可以有效提升金融业务办理效率及客户体验。但另一方面，语音的深度伪造也对金融业的风控体系造成一定程度的威胁。毕竟在社交媒体盛行的年代，个人声音、容貌等信息完全暴露于互联网，黑客获取样本成本低且拥有生物样本越多，就越容易成功欺骗声纹识别技术。
这就造成了“好AI”与“坏AI”之间的一场博弈。同样的技术，使用者目的不同，就会产生不同的结果。因此对于金融机构来说，需要时刻保持技术的领先地位，并提前做好准备来抵御潜在风险。那么，声纹识别技术能不能有效识别出利用深度伪造进行的欺诈行为呢？我们再来了解下声纹识别。
声纹跟指纹一样，具备唯一性，一般情况下难以被模仿。而声纹识别技术就是通过提取身份特征信息和声纹特征，再把声信号转换成电信号，用计算机通过相关算法进行比对识别的技术。其关键技术有以下两点：
1、语音特征参数提取技术
简单来讲就是要从讲话人的语音中提取出特定器官结构、行为习惯的特征参数。这项参数的特点是较为稳定，不会随时间或环境的变化发生太明显的改变，且不易模仿、具备较强的抗噪性。这点其实很好理解，每个人由于语音器官的差异导致了不同的发音习惯，其语音特征是难以被轻易模仿的。
2、模式匹配识别判断技术
该技术实施的第一步是要获取跟讲话人个性相关的特征参数，再根据一定的准则，将未识别的特征参数与模型库中训练好的模型进行特征匹配，最终根据相似度得出最匹配的结果并进行输出。其中在模型匹配中常用到的几种模型有矢量化模型、随机模型、神经网络模型等。

声纹识别系统 - 技术原理基本框图
得益于人工智能机器学习技术的成熟，以及传感器、麦克风、通信信道等技术的进步，声纹识别虽然不能确保100%识别出欺诈，但成功率仍然较高。首先，深度伪装制作非常复杂，需要高超的技术水准。其次大多的金融机构并不会将声纹识别当作唯一的风险评估工具，而是作为整体风控系统的一部分，综合利用声纹识别、语音识别、情感识别、语义分析和理解、信号处理等技术寻找声音中的线索，就可以最大程度防范欺诈事件的发生。再次，利用多维身份欺诈工具对每个来电进行风险评估，生成基于人工智能的风险评分，综合考虑设备、运营商数据、位置、个人身份信息等因素，能够综合判定欺诈风险。这样一来，想要通过深度伪装骗过风控系统几乎是不可能实现的。
技术没有好坏之分，重要的是正当且安全地使用它。目前，科技手段监管趋严为技术创新划定了正确方向和必须遵守的价值底线。对于金融机构而言，一方面需要持续加大对人工智能等金融科技的投入及研发力度，另一方面也要加强数据安全管理，防止生物识别数据泄露，保护客户的隐私安全。

FInSight指间课堂：声纹识别 vs 深度伪造

浏览过的版块