Article · Original
The article text is unavailable in this language; an existing version is shown.
杨立昆、李飞飞都在追问的事,通芯智能想用一颗芯片来回答。
允中 发自 凹非寺
量子位 | 公众号QbitAI
允中 发自 凹非寺
量子位 | 公众号QbitAI
一颗芯片还没造出来,准备跑在上面的AI,可能已经更新了好几轮。
这是下一代AI留给芯片产业的一个时间差:模型可以快速迭代,一颗芯片从定义到量产,却要经历漫长的工程周期。等计算需求完全定型再出发,可能已经晚了一步。
通芯智能选择在此时入场。
这家由著名人工智能专家朱松纯教授发起、北京通用人工智能研究院孵化的公司,成立于今年4月。 短短半年,该公司已经连续完成种子轮和天使轮融资,合计数亿元,资金将主要投入流片前的核心架构设计与研发。
这家公司要做的,是面向AGI算法的新型推理芯片:兼容当下主流模型,同时为逻辑、因果、价值推理等计算增加专用硬件支持。
其背后的问题颇有挑战性:下一代AI究竟需要怎样的计算,现在就能开始定义吗?
为此,通芯让研究通用人工智能的科学家,与做过大芯片量产的工程师共同参与设计。他们需要从不断变化的算法中,辨认出那些会被反复调用、值得专门加速的计算,再决定芯片应该怎样组织。
模型还会继续演进,但关于哪些能力值得提前做进硬件,通芯已经开始作出选择。
AI的边界正在从一次又一次的交互中,逐渐走向真实的物理世界。
早在今年上半年,离开Meta创办AMI Labs并完成10亿美元融资的LeCun就指出,大语言模型面对物理世界“束手无策”。LeCun给出的解决方案是世界模型,给定当前状态和一个设想中的动作,预测世界的下一个状态,再拿这个预测去做规划。
就在上个月,谷歌DeepMind公布世界模型Genie 4,用户可以在模拟环境中改变天气、加入人物或物体,模型则实时生成环境随之发生的变化。DeepMind明确将构建机器人与智能体的训练环境列为这一模型的重要应用方向。
这些探索让AI面对的任务变得更加具体: 既要理解眼前有什么,还要预测采取行动后会发生什么,并为下一步决策提供依据。 智能体如何进化,也在影响着底层芯片的设计。这件事已经进入全球巨头们的视野。
今年9月,AMD宣布签署协议,拟以约82亿美元收购李飞飞创办的World Labs。苏姿丰解释这笔交易时强调,构建下一代AI计算平台,需要深入理解模型如何演进。
这里值得关注的是,做芯片的人,需要更早弄清楚下一代AI究竟要算什么,效率又会卡在哪里。世界模型和机器人算法仍在演进,硬件设计却需要提前作出选择,这也让模型研究与芯片设计走得更近。
李飞飞则更加直白地指出:“如果没有专门的硬件投入,AI的效率和规模都会受到束缚。”同时,她也透露,World Labs与AMD已围绕GPU上的模型训练和推理优化展开技术合作。
到了不久前的CoRL上,苏姿丰把这层逻辑讲得更加具体: 硬件优化需要多年,对模型要做哪些计算、技术会往哪里走理解得越深,就越有机会做好硬件、软件和系统的协同优化。
对于交互响应的需求,也在推动英伟达调整推理系统。针对智能体对低延迟的需求,英伟达将GPU与Groq的专用加速器搭配,让不同计算环节交给更适合的硬件执行,同时兼顾整体吞吐和交互响应速度。
这些变化指向一个共同的问题:当AI需要根据环境变化及时作出判断、采取行动时,芯片该怎样支撑它?
现代GPU擅长大规模并行计算,配合专门的矩阵运算单元,这是它称霸大语言模型时代的主要原因。
但一个要在真实环境里行动的智能体,还要处理另一组工作:反复查询物体之间的关系,随时更新环境状态,推演动作可能带来的后果。
当这些任务采用图结构、动态分支等方式实现时,计算就可能变得零碎,数据访问也更不规则。 GPU能够执行这些算法,但并行资源未必能被充分利用 ,一部分时间会花在找数据、搬数据,以及等待前一步的结果上。
到了这种时候,只看芯片每秒能做多少次运算,已经无法解释任务究竟完成得有多快。 软件优化、存储组织、计算单元和调度方式,都得一起重新考虑。
大模型时代的算力优势,不能直接兑换成真实世界里的行动效率。
效率问题背后,还有一个正在扩大的推理市场。CIC灼识预测,到2030年,中国AI推理芯片市场规模将达到约1.17万亿元。
通芯看到的机会,就藏在新任务与现有计算方式之间的效率缺口里。从云端到机器人端侧,任务对吞吐、响应速度和功耗的不同要求,也为通芯从任务出发、重新定义计算架构留下了空间。
AI走向真实物理世界的趋势已经清晰,实现路线仍在演进,判断就需要回到更基本的问题: 痛点是否真实,需求会怎样变化,哪些计算值得交给专用硬件,理论能否指导产品定义,工程团队又能否把它做出来 。
值得一提的是,从李飞飞和苏姿丰的合作中,不难看出, 想要定义下一代AI芯片,不仅要从理论上理解智能如何工作,还要有把这种理解落实到硬件上的工程能力。
沿着这样的思路往下看,才能理解通芯为什么选择从朱松纯教授的智能理论出发,去设计一颗芯片。
给一个还没定型的负载设计芯片,最大的问题,也许是没有参照物。
GPU研发之初,有图形渲染可以对标,AI加速器有矩阵乘法可以优化。轮到AGI芯片,模型路线仍有分歧,计算需求尚未定型,观察现状并不能得出答案。
需求还在变化,硅片上该放什么,必须有一套判断依据。 通芯的起点,是朱松纯团队提出的CUV框架。
朱松纯教授是马尔奖、赫尔姆霍兹奖得主,在视觉、认知与机器人的交叉地带做了三十年研究。他的团队今年发表在《Engineering》上的CUV框架,将智能体的三个方面纳入统一框架:认知架构(C)、能力体系(U)和价值体系(V)。在这其中:
C是认知架构 ,组织智能体的内部模块及其协作方式,让感知、记忆、推理等环节连起来;
U是能力体系 ,涵盖识别物体、规划路径等可调用的技能;
V是价值体系 ,描述目标、偏好与约束,为选择行动提供依据。落到机器人上,可以是完成服务任务,也可以是兼顾安全与他人的需求。
CUV这一框架把看见什么、能做什么、应该怎么做都放到同一个决策过程中。驱动智能成长的是“想要什么”,而非“喂了多少数据”。
这些问题,朱松纯团队早在2020年就已在论文中讨论过。 在深度学习如日中天的时代,朱松纯教授和团队就把“小数据、大任务”写成了论文,功能、物理、意图、因果、效用等五样像素里看不见的东西,被他们叫作视觉的“暗物质”。
六年后,世界模型和空间智能成了显学,行业开始追问AI怎么理解一个动作会带来什么后果。而这个问题,朱松纯和团队早已划过重点。
值得一提的是,“小数据、大任务”强调利用物理规律、常识等先验知识,以较少的训练数据应对更广泛的任务。这些知识,相当于帮助机器理解世界的一份说明书。
以为客人倒水为例,按通芯的设计思路,机器人可以将杯子、水源和客人的位置关系组织成解析图,再围绕送水目标规划动作,调用取杯、接水和移动等技能,最终把水送到客人手中。
送水途中,如果客人换了位置,就保留仍然有效的信息,更新受影响的状态和路径,减少重复计算。
芯片在此过程中需要完成更加具体的工作:存储当前状态与目标状态,访问对象之间的关系,执行概率计算,比较不同方案,调度相应技能。这些过程都需要落实为可执行的算法,再拆成基础运算,也就是算子。
通芯的工作,是从这些算子中识别适合加速的部分,进一步定义计算单元、存储和数据通路。
向量和张量运算,是大语言模型的重要计算基础 ,这是GPU的主场。要在真实世界里行动的智能体,得反复回答“这么做会怎样、值不值得做”:在图上推理物体之间的关系,对不确定的情况做概率推断,推演物理后果,再给每个候选动作打分。
所以在通芯的定义里, AGI芯片不是一颗更快的GPU。 它在向量、张量之外加了一层新的运算类型,多出来的是结构,并不是单纯增加算力。
落实到通芯的芯片方案,该公司规划了 Vector、Tensor与AGI Core三类单元 。Vector和Tensor负责向量、张量计算,支持CNN、Transformer等主流模型架构;AGI Core则面向基于解析图的逻辑、因果、价值推理及概率计算,设计专用加速能力。
通芯AGI Core瞄准的这些计算需求,也不约而同地出现在业界其他团队的研究路线里。
李飞飞的空间智能关注机器如何理解三维环境,DeepMind的图网络则用实体和关系来组织信息。面对信息不完整的情况,DARPA支持的概率编程尝试结合已有知识,用更少的数据完成推断;Pearl的因果理论则进一步追问,改变一个条件会带来什么结果。Silver、Sutton等人在《Reward is Enough》中提出,智能体通过试错追求回报,有可能发展出感知、学习、推理等多种能力。
在通芯看来, 图结构的存储与处理、概率和因果推断、对行动结果的评估,都有值得专门加速的部分,AGI Core也据此规划了相应的计算单元。 朱松纯教授的理论体系提供了一个明确的出发点,通芯希望从中提炼出能被更多模型使用的计算能力。
各家对智能的理解也许不同,但作为智能的底座,芯片需要寻找的,是其中的最大公约数。
拥有了系统性的理论框架,理解了智能和算法之后,还得把芯片造出来。
通芯的创始人兼CEO 王海洋 ,师从中国计算机事业奠基人之一 夏培肃院士 。王海洋本人是龙芯CPU创始成员,曾担任海光一至四代CPU芯片的架构总负责人,也是一家GPU独角兽企业的联合创始人。他拥有25年芯片研发和15年SoC架构设计经验,参与过CPU、GPU、GPGPU三类大芯片从研发到量产的全过程。
另一位公司创始人 史峰 师从朱松纯教授,其博士毕业于UCLA,负责通芯AGI Core的技术路线与架构定义,同时担任通研院AGI芯片中心主任。
两位创始人都曾参与龙芯研发。后来,王海洋在产业中把大芯片一代代做到量产,史峰则将智能算法与芯片设计结合,负责把模型和算法需求转化为AGI Core中的计算单元。
他们身后的创始核心团队平均从业超过20年,骨干来自海光、百度、字节、阿里等企业,完整走过十余款大芯片从架构定义、前后端设计到流片、量产交付的全流程。
这些经验,变成了几个具体的取舍。
首先是 存储 。王海洋是业内最早提出混合存算一体思路的人之一。通芯并不打算做一颗存算一体芯片,它把存算一体当作缓解“内存墙”的手段:不同任务对访问速度、容量和成本的要求不一样,通芯就给它们搭配不同的存储与计算方式,切菜用菜刀,削水果用水果刀,省下的是数据来回搬运和计算单元干等数据的开销。
再往下是 面积 ,可重构设计让一部分硬件资源按任务重新组织,通用单元保兼容,专用单元提效率。面向云、边、端的不同需求,通芯计划采用Chiplet芯粒设计:基于同一套架构和软件栈,通过不同配置满足云端对吞吐量、机器人端侧对功耗与体积的要求。
产品节奏上,通芯没有一步跨到未来。 因为一颗只为明天设计的芯片,今天没人用得上。
通芯首代产品定位高性价比推理芯片,瞄准云端大模型、世界模型和具身智能端侧计算,现有模型能直接跑,AGI Core同步上车,新的计算能力分阶段验证。
AGI芯片和GPU并非是非此即彼的关系。 通芯把自己和以GPU为核心的方案定位为共生 :大语言模型仍是AGI体系的重要组成,也是智能体理解世界的方式之一,兼容与专用两条腿一起走。
进度比多数人想的快。 通芯仅仅成立三个月,就完成了架构设计和立项,目前已进入芯片设计阶段,12月初将开展FPGA原型验证。 商业化覆盖云端推理、通用智能体和端侧物理智能三个方向,已初步形成规模合作意向。
除此之外,通芯还计划与通研院的通用智能体“通通”及相关大模型做适配,并联合北大、清华、中科院计算所和大模型头部产业伙伴共建联合实验室。
王海洋提到,对通芯来说,架构定义只是起点,后面还有设计、验证、流片和量产。今天选定的计算能力,要在这一轮研发之后,仍能适应届时的模型与任务。
这也让通芯的探索有了更大的观察价值: 当AI向真实世界延伸,芯片团队需要更早理解算法,将关键计算拆解为算子,再把值得加速的部分落实到硬件设计中。
这条路最终要用机器人更及时的响应、智能体更低的运行成本,以及开发者更方便的部署来证明价值。
从理论到算法,从算子到硅片,再到真实任务,通芯选择把这些环节放在一起推进。
下一代AI芯片的竞争,已经开始于硅片诞生之前:理解智能如何工作,定义它需要怎样的计算。
对通芯来说,提前入场只是第一步。接下来,它需要用一颗真正跑起来的芯片,证明今天对智能的判断,能变成明天的效率优势。
就像朱松纯教授提到的那样:“芯片是智能体的心脏,为机器立心,就要从这块芯片开始。”
*本文系量子位获授权刊载,观点仅为原作者所有。