导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

Tether 的边缘人工智能突破:QVAC Fabric 在消费设备上运行数十亿参数模型

Tether 的人工智能部门推出了 QVAC Fabric,这是一个集成 BitNet LoRA 技术的跨平台框架,可直接在消费类 GPU 和旗舰智能手机上微调和执行数十亿参数的人工智能模型。这一进步挑战了当前依赖云的人工智能范式,并将复杂的语言模型操作推向了边缘。

Illustration of AI model running on a smartphone chip

新发布的框架将 BitNet LoRA 微调和推理支持扩展到 AMD 和 Intel GPU、Apple 的 Metal 生态系统以及高端移动 GPU。 Tether 报告称,与全精度模型相比,推理速度比 CPU 基准提高 2-11 倍,内存使用量减少高达 90%,从而允许更大的模型在消费设备的热量和 RAM 限制内运行。

该公司声称在 Google Pixel 9、三星 Galaxy S25 和 iPhone 16 等设备上成功微调了多达 38 亿个参数的模型,并在 iPhone 16 上进行了高达 130 亿个参数的实验。这些数字大大超过了通常为设备端 AI 演示的典型的不到 30 亿个参数模型,这表明本地保护隐私的 AI 个性化达到了新的门槛。

Performance benchmark chart comparing QVAC Fabric to CPU baselines

这一战略发布符合 Tether 从稳定币发行人的核心身份向多元化数字基础设施投资者的更广泛转变。此举补充了早期的举措,例如发布 410 亿代币的“Genesis I”数据集和本地 AI 工作台,使该公司能够竞争 AI 堆栈中主要技术公司的主导地位。

通过开源相关的 QVAC 和 BitNet LoRA 代码,Tether 旨在将其框架建立为寻求在边缘硬件上部署人工智能的开发人员的基础工具链。这种方法在很大程度上超出传统金融监管的领域建立了技术和文化影响力。

虽然直接的市场影响是叙述性的,而不是财务上的——此次发布不涉及新的代币——但它强调了一个重要的宏观趋势:人工智能工作负载从集中式云超大规模迁移到边缘。 Tether 表明了其成为实现这一转变的底层基础设施关键参与者的雄心。

技术问题仍然存在,涉及 BitNet LoRA 的性能与 llama.cpp 或 MLC 等现有解决方案相比如何、其实际能源效率及其商业用途的许可条款。然而,如果经过独立验证,Tether 的说法代表着将高端消费设备转变为个性化设备上人工智能平台的切实一步。