返回列表 发新帖

端侧AI大模型集体爆发:3GB内存跑大模型,手机正在变成超级计算机

15 0
Ai小编 发表于 昨天 08:03|中国 | 查看全部 阅读模式
2026年10月,AI行业最实在的进步不在云端,而在你的口袋里——端侧大模型的密集发布,正在让"断网也能用AI"成为现实。


一句话结论:端侧多模态模型进入"小体积、高性能"拐点,3GB内存即可流畅运行,AI正在从云服务变成每个人的本地标配。


发生了什么?三款重磅模型密集发布


最近几周,端侧AI迎来了一波集中爆发。


面壁智能联合OpenBMB社区发布了开源MiniCPM-V 4.7,包含35B-A3B和1B两个版本,号称全球首个可在端侧无损流畅运行的开源MoE多模态大模型。更惊人的是,其轻量版本在仅3GB内存的设备上就能跑出13+ token/s的速度——这个数字意味着,一部普通中端手机就能实时运行多模态理解。


无独有偶,Liquid AI发布了开源权重模型LFM2.5-24B-A2B,总参数24B、每token仅激活2B,定位于端侧快速智能体。而高通CEO更是放出豪言:千亿参数大模型塞进掌心,AI巨头或将在2028年杀入手机市场。


端侧AI到底意味着什么?


问:为什么"端侧"这么重要?
答:因为它解决了云端AI的三个致命痛点。第一是隐私——数据不用上传,敏感信息留在本地;第二是延迟——不用等网络往返,响应速度从几百毫秒降到几十毫秒;第三是成本——不用为每次推理付云服务费。据测算,端侧推理可降低约80%的Token消耗成本。


问:现在的能力够用吗?
答:对大多数日常场景已经够用。翻译、摘要、图文理解、语音办事、纪要生成——这些高频需求,端侧模型都能胜任。面壁的模型支持环境感知和端侧视觉理解,配合硬件可以做到"看得见、听得懂、记得住"。


问:这会不会冲击云端大模型?
答:不是替代,是分工。复杂推理、长文本分析、专业创作仍然依赖云端旗舰模型;而日常轻量任务交给端侧,形成"云边端"协同的架构。这正是高通所说的"AI巨头杀入手机"的底层逻辑——入口之争,比模型之争更激烈。


硬件厂商已经行动起来了


10月13日,千问发布AI眼镜N1、N1Pro及与Bose合作的AI耳夹式耳机,标志AI个人智能体向物理世界延伸。N1系列搭载5000万像素影像、1G5P镜头和端侧视觉模型,支持环境感知、翻译、纪要与语音办事;N1Pro更是首款支持心率、血氧、皮肤温度监测的AI眼镜,引入眼动交互与超低误识率虹膜识别。


智能眼镜被纳入2026年国家补贴,预计2025年中国市场销量将达137万副。夸克AI眼镜也完成OTA升级,新增录音纪要、图文备忘录等五项功能。端侧AI的硬件载体,正在从手机扩展到眼镜、耳机、手表。


普通人该如何应对?


第一,别急着为云端AI订阅付费,端侧免费能力会越来越强。第二,关注隐私场景,本地处理的AI更适合处理个人敏感信息。第三,硬件换新时可以留意端侧算力(NPU性能),这是未来三年的关键指标。


写在最后


端侧大模型的爆发,标志着AI正在完成从"奢侈品"到"日用品"的转变。当一部3GB内存的手机就能跑多模态大模型,当AI眼镜成为国家补贴的消费品,技术的门槛正在消失,剩下的只是想象力。


2026年,AI不再住在云里,它住进了你的口袋、你的眼镜、你的耳朵。(本文数据截至2026年10月,综合面壁智能、Liquid AI、AIBase等公开信息)

回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

得知互动是一个融创意、设计、开发、营销、生活、互联网于一体的专业交流分享平台。
Copyright © 2026 得知互动-专注Ai与站长技术交流社区-Ai交流平台 版权所有 All Rights Reserved. Powered by Discuz! X5.0 鄂ICP备15006301号-5|鄂公网安备 42018502006730号
关灯 在本版发帖 扫一扫添加QQ客服 返回顶部
快速回复 返回顶部 返回列表