Tether首席执行官Paolo Ardoino近日将目光投向人工智能的一个特殊领域——完全在设备端运行的翻译技术。他在一篇博文中强调,这种模式无需将敏感文本发送至云端,从而在隐私、速度和实用性上具备独特优势。
Ardoino指出,当用户使用云服务翻译医疗记录、私人消息、法律合同或个人日记时,文本会离开设备进入第三方基础设施,用户往往不清楚数据去向、保存时长及访问权限。他认为这并非理论风险,而是关乎机密性的现实难题。
据Ardoino介绍,解决之道并非依赖越来越大的通用AI模型。翻译任务对模型的要求高度专注:只需实现语言转换,无需具备写诗、摘要等多余能力。因此,专用的小型神经机器翻译模型体积可压缩至几十MB,加载时间仅数十毫秒,翻译速度远超通用大模型。他认为,这种差异并非技术琐事,而是决定了用户体验的质变。
QVAC项目:隐私优先的本地翻译
Ardoino重点推介了其团队推进的QVAC项目,核心目标是实现完全本地化的翻译流程。翻译全程在用户手机、笔记本或嵌入式硬件上完成,无需云端请求,第三方无法接触文本。对于注重合规性的用户和开发者而言,这意味着更少的数据暴露和审计负担。
QVAC并非局限于单一翻译引擎。尽管专用神经机器翻译模型是长期目标,系统也暂支持基于LLM的翻译。Ardoino将此描述为“实用桥接策略”:需要快速发布新语言对时,可先部署较大模型,同时并行训练专用模型,随着小模型成熟逐步替换临时方案。
批量处理与语言覆盖突破
在批处理方面,Ardoino表示团队从演示转向生产用例(如文档、聊天记录、多句输入)后,意识到逐句翻译在真实场景中效率低下。测验显示,批量处理可提升约2.5倍吞吐量,每句延迟显著改善。
最雄心勃勃的部分是语言覆盖策略。QVAC使用英语作为枢纽语言(pivot),例如西班牙语到意大利语的翻译可串联西英和英意模型实现。这将所需模型数量从理论上的巨大数目大幅降低:支持26种语言仅需约50个模型,而非650个,使广泛的设备端翻译变得可行。
Ardoino还分享了实测数据来证明方案在真实硬件上的优势。在Linux笔记本上,Bergamot英意模型加载仅需100多毫秒,并输出高质量翻译。在Pixel 10 Pro XL手机上,模型加载时间低于80毫秒,批处理模式表现尤其出色,带来更流畅的响应体验。
扩展路线与行业启示
未来,团队计划通过IndicTrans扩展印度语言支持,通过AfriqueGemma增加非洲语言覆盖,同时探索用于实时聊天和字幕生成的流式翻译。Ardoino的总体信息是:本地AI不一定是妥协,在翻译领域,小模型可能不仅够用,而且更优。
市场影响分析方面,Tether作为全球最大的稳定币发行商,掌门人高调支持设备端AI模型,折射出加密行业对数据主权和去中心化技术的持续关注。如果QVAC项目成功,可能推动更多加密项目探索隐私保护的本地化AI应用,同时降低对云服务商的依赖。此外,小模型节能、低延迟的特点,也与物联网、边缘计算等场景高度契合,有望为加密货币支付、DeFi交互等需要快速翻译的场景提供技术支持。

