Tether近日宣布在其QVAC Fabric中推出跨平台BitNet LoRA微调框架，专为优化微软BitNet（1位LLM）模型的训练与推理而设计。这一创新突破使得在笔记本电脑、消费级GPU和智能手机等日常设备上训练和微调十亿参数模型成为可能，标志着移动AI能力的重大飞跃。
突破性框架：消费级设备赋能大模型训练
传统上，训练大型语言模型需要依赖高端数据中心级GPU（如NVIDIA A100/H100）和庞大的云基础设施。Tether的新框架打破了这一壁垒，首次允许在Adreno、Mali和Apple Bionic等移动GPU上直接进行BitNet的LoRA微调。框架兼容异构硬件生态，包括Intel、AMD和Apple Silicon，成为首个在非NVIDIA设备上实现1位LLM LoRA微调的解决方案。
性能与效率：移动GPU推理速度提升11倍，显存节省77.8%
根据Tether公布的性能测试数据，BitNet模型在移动GPU上的推理速度相比CPU提升2至11倍，同时VRAM使用量相比传统的16位模型减少高达77.8%。这意味着用户可以在低功耗设备上运行复杂的AI模型，大幅降低硬件门槛。例如，一部搭载Apple Bionic芯片的智能手机即可完成此前需要高性能显卡才能实现的微调任务。
推动AI去中心化：摆脱高端算力依赖
Tether强调，该技术有助于减少对高端计算能力和云基础设施的依赖，促进AI训练的去中心化和本地化。用户无需将数据上传至云端即可在本地设备上训练个性化模型，不仅提升了隐私保护，也降低了AI应用的准入门槛。这一举措与Tether近期在AI领域的布局一脉相承——此前其推出的QVAC本地AI平台已展现出挑战云端模型的潜力。
行业分析师认为，BitNet LoRA框架的出现可能重塑AI开发范式。当消费级设备能够高效运行十亿参数模型时，边缘计算、移动端AI应用以及个人AI助手将迎来爆发式增长。Tether作为稳定币发行商，在AI基础设施上的持续投入也引发了市场对其战略方向的广泛关注。