小鹏汽车AI领域取得突破，已启动720亿参数自驾基模研发

IT之家 4 月 14 日消息，小鹏汽车今日在香港举办 AI 技术分享会，首次披露正在研发 720 亿参数的超大规模自动驾驶大模型 ——“小鹏世界基座模型”。官方表示，小鹏未来将通过云端蒸馏小模型的方式将基模部署到车端，同时也将赋能小鹏的 AI 机器人、飞行汽车等。

小鹏汽车自动驾驶负责人李力耘介绍，小鹏基模是一个以大语言模型为骨干网络，使用海量优质驾驶数据训练的多模态大模型，具备视觉理解能力、链式推理能力和动作生成能力。通过强化学习训练，基座模型不断自我进化，将逐步发展出媲美甚至超越人类的自动驾驶技术。

李力耘还透露，为了研发基模，小鹏汽车早在去年就开始布局 AI 基础设施，现已建成国内汽车行业首个万卡智算集群，用以支持基座模型的预训练、后训练、模型蒸馏、车端模型训练等任务，小鹏汽车将这套从云到端的生产流程称之为“云端模型工厂”。

IT之家从小鹏汽车获悉，目前小鹏“云端模型工厂”拥有 10 EFLOPS 的算力，集群运行效率常年保持在 90% 以上，从云到端的全链路迭代周期可达平均 5 天一次。另外，小鹏研发团队利用自动驾驶训练数据，先后开发了多个尺寸的基座模型，目前已经着手推进 72B（72 Billion，也即 720 亿）超大规模参数世界基座模型的研发，参数量是主流 VLA 模型的 35 倍左右。

后续，小鹏世界基座模型将全面赋能小鹏 AI 体系全图谱，应用到小鹏汽车的 AI 汽车、AI 机器人、飞行汽车上。为了开发小鹏世界基座模型，小鹏汽车还打造了一座“云端模型工厂”，工厂“车间”涵盖基座模型预训练和后训练（强化学习训练）、模型蒸馏、车端模型预训练到部署上车的完整生产链路。

小鹏汽车官方表示，其从 2024 年开始搭建 AI 基础设施（AI Infra），当前已建立起万卡规模的智能算力集群，是目前国内汽车行业最大的自动驾驶算力集群。小鹏汽车的算力储备达到 10EFLOPS，集群利用率常年高达 90% 以上，高峰时期的运行效率甚至达到 98%。目前，小鹏汽车用于训练基座模型的视频数据量高达 2000 万 clips，这一数字今年将增加到 2 亿 clips。

IT之家附小鹏汽车 2024 年三大阶段性成果：

• 阶段性成果 1：验证规模法则在自动驾驶领域持续生效

• 阶段性成果 2：在后装算力的车端成功实现基模控车

• 阶段性成果 3：启动 72B 参数基模训练，搭建针对强化学习的模型训练框架