正在阅读：AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖AI换脸只是玩玩？黄网都不敢碰的技术有多恐怖

　　AI换脸技术可能仅仅只是个开始？

　　由于上述提到的风险，AI换脸技术已经在相当程度上引起恐慌。也难怪，当得知该技术能够接近完美捏造假视频的时候，担心自己的言行是否会被虚构，是很正常的自然反应。然而，在警惕AI换脸技术的同时，我们或许还需要意识到，AI技术仍在不断发展，目前的AI换脸视频或许远非终点。

　　当前的AI换脸技术已经达到了惊人的水准，但目前大多数的AI换脸仍只涉及视觉。然而事情正在发生变化——AI换脸已经成为了现实，而AI变声也开始崭露头角。谷歌之前曾经研究过AI变声的相应技术，但并没有大规模实装；而国内厂商则更加激进，不少研究输入法的厂商都已经尝试在产品当中推广AI变声功能。在一些国产输入法当中，现在就可以找到AI变声的开关，输入一段语音后，等待片刻即可生成特定音调音色的语音，拟真度相当出色。

某些输入法已经推出AI变声功能

　　当然，此类产品限定了AI变声的模版，但声音的自由变换修改相对于我们来说也并不是那么遥远。例如“Modulate.ai”这个网站，就提供了AI变声服务，甚至连奥巴马的声音都能完美模仿。

　　Modulate.ai所使用的变声技术和DeepFakes类似，都使用了神经网络机器学习算法来训练模型，所拟真出来的声音真假难辨。另外还有“Lyrebird.ai”这个网站，也提供了类似的服务，而且所提供的模仿对象更加丰富，据悉多达上千种，包括特朗普、奥巴马、克林顿等名人的声音都可以被模仿。

在线即可完成AI变声

　　可见，AI变声技术已经逐渐成熟，它和AI换脸技术结合后，会形成威力无穷的组合拳。在之前，就有人结合AI换脸、AI变声，伪造一段虚假的奥巴马演讲视频。视频当中，奥巴马指斥特朗普是个“笨蛋”，令人震惊。这段视频在国外引起了轰动，如果没有特别标注，恐怕很多人会信以为真。

完全伪造的奥巴马演讲视频，无论是脸还是声音都是假的，但却能以假乱真

　　而这仍不是AI换脸的终点。目前的AI换脸、变声仍需要一段时间的运算，难以和真人互动。而当AI换脸、变声可以实时生效时，恐怕连视频电话的真伪都难以分辨，而人脸识别也将面临着严峻挑战。到了这步，AI换脸、变声技术极可能成为犯罪分子的诈骗、勒索利器。

　　通过大数据和机器学习，AI将特定信息解构后，重构成为难以分辨的虚假信息，当相应的技术成熟后，虚假信息可以源源不断地生成，如此高质量的虚假信息能够大批量生产，在历史上可谓是前所未有。

　　然而尽管人们对此感到恐慌，但相应的应用、开发却并没有停下脚步。ZAO自不必说，直接把这样高风险的技术做成了娱乐APP，令人们前所未有近距离接触到了AI构建的虚假视频；而行业中的巨头也视此为机遇，苹果、谷歌、微软、Facebook等大佬都爆出过利用用户数据训练语音、语言模型的新闻，而近年也可以看到AI自动应答的逻辑性、自动生成语音的拟真度大幅上涨——用AI构建一个完全虚拟的人格，似乎也为期不远。

得益于大数据和AI算法，Google Assistant的智能程度大大提升，甚至可以对答如流

　　在未来，我们或许不仅可以看到逼真的AI换脸、AI变声，甚至可能连应答都由AI来完成。当AI能自动生成以假乱真的面容、声音乃至语言的时候，互联网乃至整个社会该如何应对这种身份信息的混乱？现在仍没有一个好的应对方案。

　　后话

　　就在发文之际，笔者的担心成真了。《华尔街日报》的最新报道显示，今年3月份，有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO的声音，诈骗了220,000欧元（约1,730,806人民币）。仅仅依靠AI变声就能酿造出一宗如此重大的诈骗案，AI骗术的威力可见一斑。

　　目前AI换脸多用于娱乐，然而我们应该知悉，这是一项连黄网都不敢碰的技术，是一项能极大程度混淆身份信息、甚至可能令社会信用体系走向崩溃的技术。当诈骗短信进化为AI假视频、还能够自动应答的时候，我们是否还有方法防范？对于AI拟真技术的运用，人们应该更加谨慎，这不是一项可以随便曝光于公众视野的技术。AI换脸，你真的玩得起吗？