Modulate.ai所使用的变声技术和DeepFakes类似,都使用了神经网络机器学习算法来训练模型,所拟真出来的声音真假难辨。
另外还有“Lyrebird.ai”这个网站,也提供了类似的服务,而且所提供的模仿对象更加丰富,据悉多达上千种,包括特朗普、奥巴马、克林顿等名人的声音都可以被模仿。可见,AI变声技术已经逐渐成熟,它和AI换脸技术结合后,会形成威力无穷的组合拳。
在之前,就有人结合AI换脸、AI变声,伪造一段虚假的奥巴马演讲视频。视频当中,奥巴马指斥特朗普是个“笨蛋”,令人震惊。
这段视频在国外引起了轰动,如果没有特别标注,恐怕很多人会信以为真。
而这仍不是AI换脸的终点。目前的AI换脸、变声仍需要一段时间的运算,难以和真人互动。
而当AI换脸、变声可以实时生效时,恐怕连视频电话的真伪都难以分辨,而人脸识别也将面临着严峻挑战。
到了这步,AI换脸、变声技术极可能成为犯罪分子的诈骗、勒索利器。
通过大数据和机器学习,AI将特定信息解构后,重构成为难以分辨的虚假信息,当相应的技术成熟后,虚假信息可以源源不断地生成,如此高质量的虚假信息能够大批量生产,在历史上可谓是前所未有。
然而尽管人们对此感到恐慌,但相应的应用、开发却并没有停下脚步。
ZAO自不必说,直接把这样高风险的技术做成了娱乐APP,令人们前所未有近距离接触到了AI构建的虚假视频。
而行业中的巨头也视此为机遇,苹果、谷歌、微软、Facebook等大佬都爆出过利用用户数据训练语音、语言模型的新闻,而近年也可以看到AI自动应答的逻辑性、自动生成语音的拟真度大幅上涨——用AI构建一个完全虚拟的人格,似乎也为期不远。
得益于大数据和AI算法,Google Assistant的智能程度大大提升,甚至可以对答如流
在未来,我们或许不仅可以看到逼真的AI换脸、AI变声,甚至可能连应答都由AI来完成。
当AI能自动生成以假乱真的面容、声音乃至语言的时候,互联网乃至整个社会该如何应对这种身份信息的混乱?现在仍没有一个好的应对方案。
后话
就在发文之际,笔者的担心成真了。
《华尔街日报》的最新报道显示,今年3月份,有犯罪分子使用AI技术成功模仿了英国某能源公司在德国母公司CEO的声音,诈骗了220,000欧元(约1,730,8