9小时前 模型瘦身是什么？万亿参数大模型的“瘦身战”，正在决定具身智能的真正落地

出品：机器人产业应用

前言

一台人形机器人在实验室里能流畅抓取苹果，但一旦进入工厂产线执行连续分拣，它的反应就开始“卡顿”——抓取延迟、轨迹漂移。问题不在于云端大脑不够聪明，而在于那个动辄万亿参数的“超级大脑”，根本装不进机器人狭窄的躯体里。VLA模型部署长期依赖“外挂桌面显卡”，不仅拉高成本，更引发端侧推理迟滞。

据预测，2026年中国具身智能市场规模有望突破万亿元。行业正从技术验证转向规模化商用，算力体系从暴力堆叠转向“云—边—端”协奏。模型轻量化——用更少参数装下等量智能——已成为决定产业能否落地的关键命题。这场“瘦身战”的胜负，将直接决定具身智能能否从实验室走向工厂和家庭。

01

为什么必须瘦身？——端侧部署的三大“不可能三角”

模型轻量化，本质上是用更少的参数装下等量的智能。在具身智能领域，端侧部署之所以成为“卡脖子”环节，源于三道刚性约束。

1.1 功耗不可能

机器人机身空间有限，电池容量和散热是重大难题。NVIDIA Jetson Thor在40W至130W的功率范围内运行，但行业普遍认为具身智能部署的算力峰值功耗最好控制在100W以内。考虑到云端单颗GPU动辄300W以上，直接将云端模型移植到端侧在物理上就不具备可行性。现代轻量级Transformer模型经过压缩后，可在极低功耗的设备上实现部署，大幅缩小模型体积、降低推理延迟，同时保持较高的原始精度。这正是端侧部署在功耗约束下必须通过轻量化技术来打破的平衡。

1.2 内存不可能

“算力-内存剪刀差”正成为端侧AI的核心瓶颈。模型参数规模已增长数百倍，但内存带宽和容量并未同步提升。端侧推理不仅需要存储模型权重，还需存放KV Cache等中间状态，对内存系统的压力叠加严峻。目前，NVIDIA Jetson Thor配备128GB统一内存，使边缘端运行超100B参数的大模型成为可能——这本身已是一项了不起的工程突破。

1.3 数据不可能

云端大模型可以通过海量数据“大力出奇迹”，但端侧模型没有这个空间。在受约束的功耗与内存条件下，端侧模型的训练需要更高质量、更精挑细选的数据，每一份训练数据都会更直接地影响模型能力。

1.4 突破正在发生

尽管约束重重，突破也在同步发生。2026 年 4 月，智元机器人研发团队通过算法与工程协同优化的一站式解决方案，将Physical Intelligence的 π0.5模型 在 Jetson Thor 芯片、精灵 G2 机械臂的全链路部署，推理帧率从1.4Hz提升至22.1Hz，性能提升超过15倍，并在精灵G2机器人上完成真机验证。此次优化涉及全栈推理系统搭建、算法逻辑重构、编译优化及低精度量化等多个技术层面，该方案摆脱了机器人以往依赖外挂桌面显卡进行计算的模式，在Jetson Thor芯片上实现了模型的完整端侧推理。

02

靠什么瘦身？——四大技术路径的组合拳

模型轻量化不是单一技术能独立完成的任务，而是一场需要多路径协同的系统工程。目前业界主流的“瘦身”手段主要有四种：量化、知识蒸馏、剪枝和神经架构搜索。它们各有侧重，像一套组合工具——有的负责“降精度换速度”，有的负责“大模型教小模型”，有的负责“删除冗余”，有的负责“从头设计”。最优的轻量化方案，往往是这四者的灵活搭配。

量化：把“高精度照片”压成“低精度缩略图”

一张4K超高清照片，细节丰富但文件巨大。如果把它压缩成720P，虽然损失了一些细节，但文件大小骤减，传输和打开都快得多。量化就是这个道理——把模型参数从32位浮点数（FP32）“降级”为INT8甚至INT4整数。模型体积可缩小到原来的1/4，推理速度提升数倍，而精度损失通常控制在可接受范围内。

两种操作方式：

训练后量化（PTQ） ：给照片批量压缩喂给模型——模型训练好了再动手，操作简单、一天搞定，适合快速验证。

量化感知训练（QAT）：在模型训练过程中就“预演”压缩后的效果，让模型学会适应低精度，精度更高，适合正式商用。

不过量化到4比特以下，模型在大规模复杂任务上的精度可能“跳水”——这个问题正在被攻克，但尚未完美解决。

知识蒸馏：大模型当“老师”，小模型当“学生”

一位大学教授（大模型）把毕生所学提炼成通俗易懂的讲义，教给高中生（小模型）。高中生不需要掌握教授的全部深度，但能掌握核心知识，快速解题，这便是知识蒸馏。目前，Shallow-π蒸馏框架，可以把VLA模型从18层“压”到6层，在Jetson芯片上推理速度翻倍，而抓取成功率只下降了不到1%。

研究者还在尝试把“混合专家模型”（MoE）这种复杂结构，通过蒸馏转化为普通稠密模型，进一步压缩体积。蒸馏和量化联手，效果更佳。

剪枝：像修剪树枝一样删掉“不重要的参数”

一棵大树，很多细枝末节其实不贡献多少阴凉，剪掉它们，树木更通风、更强壮。神经网络的剪枝类似——删除那些对最终结果影响很小的参数或神经元。

两种剪法：

非结构化剪枝：随便剪掉单个不重要的参数。压缩率高，但剪完后模型结构变得“坑坑洼洼”，普通硬件不擅长加速这种稀疏计算，需要特殊库支持。

结构化剪枝：整组、整层地剪。对硬件友好，但“下手较重”，精度损失往往不可逆，而且需要大量人工调试每层剪多少。

实战中，剪枝很少单打独斗，而是和量化、蒸馏配合使用，形成“先剪枝、后蒸馏、再量化”的多层压缩流水线。

神经架构搜索：让AI自己设计“生而轻量”的模型

前面三种方法都是在“改造”已有的模型，好比买了件大码衣服再改小。神经架构搜索（NAS）则是从一开始就让人工智能帮你设计一件合身的小码衣服——直接针对你的硬件条件（比如手机芯片）定制最优结构。传统NAS只看算力（FLOPs），但FLOPs低不一定在真实硬件上跑得快。现代NAS引入“延迟预测器”——直接在目标芯片上测量实际耗时，找到真正的最优解。

搜索空间的设计决定了最终效果的好坏，开发成本高、周期长，更适合芯片厂商做专用设计（比如高通、瑞芯微的NPU），普通开发者用起来门槛较高。

那么，上面这四条路径如何协同？单一技术很难同时满足存储、延迟、精度的多重约束。产业界的通行做法是——先剪枝缩小规模，再蒸馏保持能力，最后量化加速推理。这套“组合拳”，才是真正的轻量化系统工程。

03

产业链谁在推动瘦身？——芯片厂商的软硬一体战

芯片厂商的角色正在从“卖算力”转变为“提供从硬件、模型到工具链的全栈方案”。各家厂商路径不同，但都指向同一趋势——软硬一体、端云协同的生态竞争。

高通：单芯片异构计算，大小脑“一芯”集成

2026年6月，高通正式发布跃龙IQ10机器人参考设计（RRD），面向量产级的集成传感器AI系统打造，将异构计算、AI加速、摄像头与传感器接口、运动控制、网络连接以及分层式机器人软件栈整合为一套统一的参考设计。

该平台最高可提供700 TOPS AI算力，配备18核高通Oryon CPU、多核NPU及GPU架构，无需外接加速器即可在端侧支持感知、规划与推理任务。平台配套提供MLOps与DevOps工具，支持AI模型的开发、部署、验证与生命周期管理。

高通在CES 2026就已发布跃龙IQ10系列处理器，将工业具身AI机器人视为实体AI应用的关键实践平台，可支持人形机器人、自主移动机器人及服务型机器人等多种应用。其独特优势在于通信+计算的融合——依托5G、Wi-Fi等连接能力，使跃龙IQ10在需要云边协同的机器人场景中天然占优。

英伟达：全栈覆盖，从云端训练到边缘推理

2026年6月，英伟达CEO黄仁勋在GTC台北正式宣布推出NVIDIA Isaac GR00T人形机器人参考平台，将宇树H2 Plus人形机器人与Sharpa Wave触觉灵巧手整合到单一集成参考设计中。

该平台搭载NVIDIA Jetson AGX Thor T5000板载计算模块，配备Blackwell GPU，AI性能高达2,070 FP4 TFLOPS，配备14核Arm CPU、128GB统一内存，功率范围为40W至130W。黄仁勋表示，该平台配备了“全新的Thor硬件，以及我们的全套软件栈、数据生成栈、数据仿真栈和运行环境，所有这些都集成到了一台为所有人设计的机器人中”。

从DGX云端训练、Omniverse仿真到Jetson端侧部署，英伟达构建了完整的全链路工具链。128GB的统一内存使其能够在边缘端直接运行超100B参数的超大模型，黄仁勋预判，“物理AI”有望成为一个价值数万亿美元的市场。

地瓜机器人（地平线阵营）：自动驾驶能力迁移，单芯片“大脑+小脑”闭环

地瓜机器人脱胎于地平线机器人，自2024年独立运营以来以惊人的速度完成了从技术积累到商业落地的全面跃升。其旗舰大算力平台S600搭载560 TOPS算力的异构计算架构，创新采用“大小脑拆分”设计——18核CPU+BPU负责复杂大模型推理，支撑视觉语言决策等高级交互；6核R52+ MCU专司实时运动控制，避免资源争抢，实现从“小脑控制”到“大脑决策”的完整闭环。S600实现大模型端侧原生部署，适配Pi0、Qwen2.5-VL-7B等模型时性能达主流平台2倍以上。

地瓜机器人与地平线始终保持技术同源、战略协同，共同打造“具身智能大脑基座”。2025年业绩数据清晰呈现其发展节奏：全年出货量同比大幅增长180%，客户数量同比增长200%，全球开发者数量突破10万，同比增长100%，累计支撑超百款机器人产品落地。在产品布局上，地瓜机器人搭建了覆盖5-560 TOPS多层级算力的产品矩阵，支撑人形机器人、四足机器狗、服务机器人、扫地机等100余种形态落地。

瑞芯微：性价比驱动的异构计算，国产隐形冠军

瑞芯微在端侧AI市场走了一条性价比驱动的差异化路线。现有芯片RK3588已在机器人市场拥有较高占有率，配套国内主流机器人品牌打造多种终端产品。

下一代旗舰级SoC芯片RK3668和RK3688正在快速推进中。瑞芯微对下一代旗舰芯片RK3688采用了更先进的制程工艺，被视作公司卡位端侧AI爆发风口的关键布局。瑞芯微的定位是“小而美”——不追求单点算力最高，而以最低功耗和成本满足端侧主流需求。

芯片厂商策略横向对比：由此也可见，未来的端侧AI竞争不再是单点算力的比拼，而是“芯片+模型+工具链”垂直生态之间的较量。

04

未来展望：小模型、大智慧，正在发生

当我们站在2026年中回望这场“瘦身战”，一个清晰的趋势浮现出来：AI竞赛正从“大模型崇拜”转向“效率革命”。

产业重心正从技术验证转向规模化商业应用，算力体系从暴力堆叠转向“云—边—端”三层精密协奏。具身智能量产元年正在到来，产业界已达成共识：本体端必须在严苛的功耗与体积约束下实现多模态感知融合与实时控制，算力竞争已从单纯追求峰值性能转向“算效优先、架构致胜”。一个标志性的事实是：经过优化的7B模型在某些任务上已接近甚至超越早期的170B大模型。

不久前，面壁智能提出了大模型密度定律。目前这个定律正在被行业广泛验证：同等智能水平模型的参数规模大约每100天减半。几条关键技术路径的规模化应用正在支撑这一趋势——MoE架构使数十亿总参数的模型每次推理仅激活小部分参数量；稀疏注意力将Transformer的复杂度从O(n²)降至O(n log n)；知识蒸馏产业化使小模型能够掌握大模型90%以上的核心知识。未来AI的典型协作架构将是：大型模型负责复杂规划与决策，小型模型担任子代理负责快速执行具体任务。

产业的演进路线正遵循从专用到通用的逻辑渐进，率先在工业制造、仓储物流等高确定性场景实现闭环，这种“沿途下蛋”的策略正在推动具身智能从概念走向现实生产力。随着大模型密度定律的持续发生，万亿参数的大模型仍会是云端的中枢，但真正让机器人走进工厂、商场和家庭的，将是那些“小而精”的端侧模型。