跳到主要内容

AI眼镜离线识图:1-bit量化,内存省75%,续航翻倍

60 0
AI摘要

高通与PrismML在骁龙AR1 Gen 1智能眼镜上成功本地运行20亿参数1-bit量化Bonsai视觉模型,实现离线识图与问答。该1-bit模型内存占用仅为传统4-bit模型的四分之一,支持本地交互,改善续航与佩戴体验,对智能眼镜发展意义重大。

在2026年举行的骁龙峰会上, 高通公司联合其合作伙伴, 在骁龙AR1 Gen 1智能眼镜平台这个基础上, 成功让一个带有20亿参数, 并且经过了1-bit量化处理的视觉模型, 在这里实现了本地运行的这样一个目标。也就是在断网的这种状态下面, AI眼镜第一次完成了识别图像以及进行问答交互的这个过程。

峰会现场本地跑通20亿参数模型

时间到了9月26日, 高通在2026骁龙峰会这个活动上, 正式把与AI公司合作的最新进展给公布了出来, 并且提到, 已经在骁龙AR1 Gen 1智能眼镜芯片这块硬件上, 彻底完成了规模达到20亿参数的模型, 关于本地推理工作的那些任务, 整个操作流程走下来, 是完全没有必要去外接什么服务器的, 同时也不需要借助云端的算力支持。

把这个模型拿出来说一说, 它其实是那种1-bit的量化版本, 是在之前发布的有1.7B参数的那个模型的基础上弄出来的。它就是特意为了眼镜端那个地方才设计出来的, 因为那个地方存储容量是很有限的嘛。而且芯片算力资源也是比较紧缺的状态, 就是专门针对这种状况来设计的。

1-bit量化将内存压至四分之一

有官方的数据显示, 当1-bit模型拥有相同容量的内存的时候, 它可以大约容纳得下4倍的参数量, 它的内存占用情况, 仅仅是传统的那些采用了4-bit量化的模型的1/4, 因此, 在存储这一方面效率的提升实现了一个数量级。

文本Token的生成速度也同步实现了翻倍的情况, 这种情况为眼镜端的频繁以及实时的交互动作, 提供了非常关键的算力方面的支持。

离线交互让眼镜告别云端依赖

用户现在可以在眼镜本地直接进行多种功能操作, 这些功能包括识别眼前的物体, 还包括翻译外文文字, 还包括回答和环境有关的问题, 还包括提供免手操作的语音辅助等。这样的话, 用户就不再需要等待云的响应了。

即使在像户外徒步这样的情境里, 或者是在坐地铁通勤的时候, 又或者是在手机没有信号覆盖的区域这样的地点。在这些网络情况不太好的场合下。以前那种因为连接状态变化而导致交互反应很慢的问题, 现在不再是问题了。这样一来, 整个使用体验的连续程度就有了非常明显的改善和提升。

续航与散热成眼镜体验关键

这种1-bit量化的方法, 确实能够大幅降低内存读写的频率, 还能够减少计算过程中的功耗, 这样一来, 设备的电池续航时间也就明显地延长了很多, 同时芯片产生的热量也同步地减少了。

对于智能眼镜而言, 镜腿的厚度是存在着限制的, 同时散热空间也变得极度受限。在这样的情况之下, 如果功耗能够每降低一部分, 那么佩戴舒适度就会获得非常明显的改进, 至于单次连续使用时长方面, 也会跟着发生大幅度的提升。

落地场景覆盖多类日常需求

这项技术从扫街时候的实时翻译, 到商品识别这一块, 再从环境方面的问答, 一直延伸到语音指令的控制功能, 已经全面覆盖到了人们在日常通勤、外出旅行或者购物等很多高频使用的具体场景里面。

该设计采用了免手操作的方式, 这样能够让用户在双手都被占用的时候, 依然可以获取到信息, 从而填补了手机以及AR眼镜之间在日常交互方面存在的空白地带。

端侧大模型竞争进入深水区

20亿参数的模型已经能够运行在眼镜的端侧设备上,这标志着端侧人工智能技术正从实验室里的演示环节走向日常佩戴场景, 同时行业内的竞争焦点也已经从云端算力转向了芯片架构与量化技术。

在将来的一到两年的时间范围内, 会有更多的搞硬件的公司可能接着去使用那种只用一个比特或者位数更少的办法, 这样下来, 装在眼镜上面那块的计算能力还有那个模型的标准, 说不定要经历一次重新建设或者改变。

你对于人工智能智能眼镜实现全天候佩戴, 无需摘下这一目标, 认为距离当前状态还有多长时间的差距呢? 非常欢迎各位读者在评论区里发表自己的观点看法。如果觉得本篇内容切实可用, 请你给予点赞并且进行分享操作。

登录后参与评论

评论仅开放给已登录并完成邮箱绑定的用户。

评论 0

暂无评论。