发布时间:2026-10-09T00:00:01.882Z
手机、耳机、摄像头上的AI能力肉眼可见地提升。小模型蒸馏、NPU普及、端侧推理框架成熟三个因素叠在一起,边缘AI正在成为新战场。 这两年手机、耳机、摄像头上的AI能力提升明显,很多体验以前要云端才能做,现在端上直接完成。边缘AI变强的背后,是三个因素同时到位。 第一个因素是模型变小了。大模型的蒸馏技术成熟,把旗舰模型的推理能力压缩进小模型,参数量小一个数量级,能力保留七八成。语音识别、实时翻译、图像理解这些任务,小模型在端上跑已经够用。 第二个因素是硬件准备好了。手机芯片里的NPU算力一代比一代强,低功耗场景也有专门的AI芯片。以前端上跑不动模型,现在是算力过剩,厂商开始琢磨怎么把算力用起来。 第三个因素是推理框架成熟。模型压缩、量化、算子优化这些工具链完善了,开发者把模型部署到端上的门槛大幅降低。以前要在端上跑模型是算法团队的事,现在普通开发者也做得动。 边缘AI的好处很直接:响应快,不用等网络;隐私好,数据不出设备;成本低,不烧云服务器费用。这些优势正好踩中当下对隐私和成本的关注点,厂商有动力跟进。 但边缘AI不是万能的。端上模型能力天花板有限,复杂任务还得云端兜底。现在主流方案是端云协同:简单任务端上秒回,复杂任务上云,两边互补。纯端上的方案,在重度场景体验会打折。 值得关注的方向:端侧视频理解(摄像头实时分析)、端侧多模态(语音加图像综合理解)、以及小模型驱动的硬件新品类。边缘AI的竞争才刚拉开序幕,芯片、模型、应用三层的参与者都在加码。对普通用户来说,最直接的感受就是:设备越来越“聪明”,而且不需要联网等待。