Tether CEO Advocates On-Device Translation: Small Models Outperform Giants for Privacy

Tether CEO Advocates On-Device Translation: Small Models Outperform Giants for Privacy

N
News Editor 01
2026-07-04 18:16:12
Tether CEO Paolo Ardoino argues that small on-device translation models can beat large general-purpose LLMs in speed, privacy, and practicality. The QVAC project enables fully local translation, reducing model fleet from 650 to 50 for 26 languages.

近日,Tether首席执行官Paolo Ardoino在最新博文中将焦点转向人工智能的一个特殊领域——完全在设备端运行的翻译模型。他强调,这种方案无需将敏感文本发送至云端,可在隐私保护、运行速度和实用性方面带来显著优势。

隐私优先的翻译新思路

Ardoino指出,当用户通过云服务翻译医疗记录、私密消息、法律合同或个人日记时,文本会离开设备进入第三方基础设施。用户往往不清楚数据去向、保留时长或被谁访问。他认为这绝非理论问题,在注重保密性的场景下尤为严峻。解决之道并非依赖越来越大的通用AI模型,而是采用专为翻译优化的小型专用模型——这些“小型模型”足以战胜“歌利亚”。

小型专精模型击败通用大模型

Ardoino对比了通用语言模型在手机、笔记本等边缘设备上的局限:即使相对较小的模型也会占用大量存储、加载缓慢且无法提供流畅体验。而专用神经机器翻译模型仅需几十MB,加载时间仅需毫秒级,翻译速度更快。这种差异并非技术琐事,而是切实改变了用户在真实设备上的体验。他强调,隐私优先的核心是通过QVAC项目推动完全本地化的翻译:整个过程在用户设备上完成,无需云端请求,第三方无需看到文本。

QVAC的实用策略:桥接与批量

QVAC并非局限于单一的翻译引擎,长期目标基于专用NMT模型,同时短期也支持基于LLM的翻译。Ardoino称之为实用的桥接策略:需要快速支持新语言对时,先部署大模型,同时并行训练专用模型,随后用更小模型替代临时方案,使用户获得即时支持并持续改善体验。博文还提到批量翻译的重要性——从演示到生产场景(如文档、聊天记录、多句输入),批量处理能使吞吐量提升约2.5倍,并显著降低逐句延迟。

覆盖与性能:26种语言只需50个模型

最令人瞩目的部分是覆盖策略:QVAC以英语为枢纽,通过链式翻译(如西班牙语到意大利语:先西班牙语→英语,再英语→意大利语)大幅减少所需模型数量。Ardoino表示,支持26种语言仅需约50个模型,而非原本的650个,使广泛的设备端翻译系统变得切实可行。他还分享了基准测试数据:在Linux笔记本上,Bergamot英意模型加载仅需100毫秒且翻译质量很高;在Pixel 10 Pro XL上,模型加载低于80毫秒,批量模式表现更佳。移动端结果显示,批量处理相比顺序翻译优势明显,提供更敏捷的体验。展望未来,团队正通过IndicTrans扩展印度语系,通过AfriqueGemma增加非洲语言覆盖,同时探索直播聊天和字幕生成的流式翻译。

市场影响与加密生态关联

Tether作为全球最大稳定币发行商,其高管涉足AI领域引发行业关注。此举展示了Tether在区块链之外的科技野心:通过QVAC项目倡导隐私优先、去中心化的本地AI,与加密货币精神不谋而合。若设备端小型翻译模型在成本和效率上全面超越云服务巨头,可能催生新的去中心化应用场景,例如支持实时加密通讯的内置翻译、去中心化翻译市场等。Ardoino的论点也呼应了“小型化AI”趋势——在能耗、隐私和边缘计算要求下,专用小模型可能比通用大模型更具竞争力,这对Web3及DePIN(去中心化物理基础设施)领域具有启发意义。然而,该方案仍需面对覆盖语言数量有限、性能优化等挑战,但无疑为加密与AI的融合开辟了新路径。

This article was originally published by Bit.Fan. For more cryptocurrency news and market insights, visit www.bit.fan.
300

Disclaimer:

The market information, project data, and third-party content displayed on this platform are for industry information sharing only and do not constitute any form of investment advice or return commitment.

Cryptocurrency trading carries high risks. Users should fully assess their risk tolerance and make independent decisions. All profits, losses, and legal responsibilities are borne by the users themselves.