AI 声音克隆把电话诈骗的门槛压到极低。按报道说法，只要 3 秒录音，就足以生成能够以假乱真的语音；FBI 也在 2025 年度报告中，首次把 AI 相关诈骗单独列为犯罪类别。
报道提到，美国佛州 Dover 的退休老人 Sharon Brightwell 在 2025 年夏天接到一通电话，听见女儿 April 哭着说自己出了车祸、被警方拘留。随后一名自称“律师”的人上线，要求支付 1.5 万美元保释金，并提醒她不要把用途告诉银行。
她随后照做，直到联系上正在上班、并未发生车祸的女儿，才意识到电话中的哭声、语气和换气节奏都来自机器生成的声音。报道称，复制这些特征只需要 3 秒录音。
FBI 首次单列 AI 相关诈骗
FBI 旗下互联网犯罪投诉中心 IC3 在今年 4 月公布 2025 年度报告。这份报告是 26 年来首次把“AI 相关诈骗”单独列为一类，记录逾 22,000 件申诉，调整后损失超过 8.93 亿美元。
其中，60 岁以上受害者对应的损失为 3.52 亿美元。按报告数据，美国网络犯罪全年损失增长 26%，而 60 岁以上群体损失达到 77 亿美元，年增接近 60%。
报道援引 FBI 说法称，这些数字只是“地板价”，原因是很多受害者并不知道自己刚刚听到的是算法生成的声音。
国际刑警组织与 FTC 数据指向同一趋势
报道还引述国际刑警组织统计称，2025 年全球金融诈骗损失达到 4,420 亿美元，规模相当于丹麦一整年的 GDP；在 AI 加持下的诈骗，获利能力是传统手法的 4.5 倍。
美国联邦贸易委员会 FTC 在去年 12 月的报告则指出，60 岁以上群体通报的诈骗损失从 2020 年到 2024 年间接近翻了 4 倍，达到约 24 亿美元，其中 68% 来自单笔超过 10 万美元的损失。若把未通报部分计算在内，FTC 估计真实年度损失可能高达 815 亿美元。
声音克隆工具门槛很低，防滥用机制不足
文章称，一段语音信箱留言、一支生日视频或一则 TikTok 内容，就可能成为训练声音克隆模型的素材。
Consumer Reports 去年评测了 Descript、ElevenLabs、Lovo、PlayHT、Resemble AI、Speechify 六家工具，发现多数产品缺乏有意义的防滥用机制。六家里有四家只要求用户勾选“我有权克隆这段声音”，就可以直接生成结果，连验证都不需要。
在这些工具中，ElevenLabs 被描述为相对严格，设有分类器、可追溯记录和封锁特定人物声音等多层防护。不过报道也指出，这些机制大多偏向事后追查，往往是在声音已经被复制、电话已经打出之后才开始发挥作用。
连深伪鉴识专家也承认越来越难辨认
报道提到，加州大学伯克利分校教授 Hany Farid 今年 6 月接受《纽约时报》采访时表示，自己连给自己设计的测试都已经通不过，并直言：“我觉得我快瞎了。”文中将他描述为深伪鉴识领域的权威人物。
这篇报道认为，老年人之所以成为目标，不是因为他们“笨”，而是因为他们往往拥有更高存款余额，习惯把电话视作现实关系的延伸，同时对声音克隆技术缺乏了解，而诈骗者正是利用这种对家人的信任与情绪压力。
语音安全公司 Pindrop 的 Amit Gupta 表示：“目标不是完美复制声音，而是制造足够的情绪不确定与急迫感，让受害者在查证前就先行动。”
费城律师 Gary Schildhorn 也曾受骗。他事后说：“我到死都会发誓那就是你的声音。”来自水牛城的 Liz Benz 则把听见“孙子被绑架”电话时的感受，形容为“整整二十分钟的恐惧”。
文章将责任焦点指向机构端
对这类诈骗，常见建议是让家人之间预先约定一个安全暗号，电话里对不上就立刻挂断。报道认为，这类做法虽然出发点不差，但等于把拦截工业化诈骗链条的责任，压到一名已经处于惊慌中的老人身上。
Adaptive Security 执行长布在文中表示：“一个人在房间里敲键盘，就能制造出无限多个攻击者。”按文章的描述，自动化系统几乎可以零成本批量生成诈骗电话，而防守的一方往往只有一个受到惊吓的人，以及极短的反应时间。
英国银行赔付规则被视为已验证的做法
文章称，目前被证明有效的一道关卡是银行。英国支付系统监管局 PSR 自 2024 年 10 月起，要求银行对授权推送付款诈骗向受害者全额赔付，由收款行与付款行各承担一半，赔付上限为 8.5 万英镑。
制度实施后，被诈骗资金的赔付比例从过去的 65% 升至 89%。报道给出的逻辑是，一旦银行需要为诈骗损失埋单，就会有更强动力拦截大额取款、为老客户设置冷静期，并让工作人员追加确认电话。
欧美监管已开始落地
按报道说法，欧盟 AI 法案的相关义务已在 2025 年到 2026 年间陆续生效；美国田纳西州的 ELVIS 法案也要求复制声音必须取得书面同意。
文章最后的结论是，监管速度始终慢于技术变化，但让机构为自己经手的环节负责，才是目前经得起验证的解决方式。