科技漏洞揭秘-警惕AI语音欺诈行为

新智元报道：Deepfake的威胁究竟有多大？律师的父亲险些陷入一场巨大的AI骗局，诈骗者利用AI克隆了他的声音，伪造车祸事故索要巨额保释金。在GenAI技术犯罪泛滥的同时，科学家们正在积极寻找应对之道。

一、Deepfake的威胁已经无处不在

随着AI技术的发展，Deepfake已经深入到我们生活的方方面面。
图像、视频、声音，凭借AI生成技术，任何人都能轻易伪造。
无论是令人毛骨悚然的AI换脸视频，还是虚假图像生成，这样的案例已经屡见不鲜。
前段时间，“N号房2.0”事件更是让人们深刻体验到了Deepfake的恐怖。

二、AI声音克隆：仅需3秒原声足矣

在这次的骗局中，诈骗者仅使用了律师Shooster的15秒视频，便成功克隆了其声音。
IBM的一项实验表明，人类无法可靠地识别出AI的声音。
对于足够好的语音克隆技术，只需要3秒的原声就足够了。
配音演员Amelia Tyler也透露，AI克隆的声音在未经自己允许下被用来朗读不适宜儿童的内容。

三、以魔法对抗模型：科学家们的努力

1. 识别伪造图像的AI模型：中科院工程师开源了能够识别伪造图像的AI模型，对抗Deepfake。
2. AntiFake：美国圣路易斯华盛顿大学的博士生Zhiyuan Yu展示了他和Ning Zhang教授合作开发的AntiFake。通过一种创新性的水印技术，AntiFake可以提供创造性的方法，保护人们免受深度伪造声音的诈骗。该技术在人类不太关注的频率上添加噪音来保护语音录音，这样人类听众仍能听懂，但会严重干扰AI。测试结果显示，添加保护后，超过95%的样本无法再欺骗人类或语音认证系统。
3. SafeEar项目：旨在设计基于神经音频编解码器的解耦模型，实现内容隐私保护的语音伪造检测。该项目采用串行检测器结构，对输入语音获取目标离散声学特征，并实现良好的检测能力与泛化能力。该项目还采取真实环境增强措施，以推广到不可见通信场景。

四、用AI助力警方侦破悬案

除了对抗Deepfake之外，英国的一个警察局还在测试名为“Soze”的AI系统，旨在极大缩短侦查时间并帮助破解陈年旧案。
这个工具可以同时分析视频、金融交易、社交媒体等多种数据，识别潜在线索。
评估显示，它能够在短时间内分析完复杂案件的证据材料，对于人员和预算有限的执法部门来说具有巨大吸引力。

五、总结与前瞻

我们生活在一个Deepfake泛滥的世界，真实与虚拟的界限越来越模糊。
尽管科学家们积极研发对抗工具，但防御Deepfake依旧是一项极具挑战性的任务。
除了技术手段，我们还需要提高公众意识，警惕此类骗局。
未来，随着AI技术的进一步发展，Deepfake的威胁可能会愈发严重。
我们需要持续关注这一问题，加强技术研发和公众教育，以应对这一挑战。

参考资料：

---

---

相关标签： 律师、 声学、 ai、 解码器、 克隆、

上一篇：长上下文与RAG的概念解析

下一篇：卡帕西力荐AI应用或是下一个ChatGPTAI领域