哈哈小说
第 7 卷 · 造芯 · 第 116 章 · 42 段 · 2456 字

研究

第一百一十六章 研究

三周之后,沈默发来一条:「查完了,有时间吗?」

陆衍:「今天下午?」

「好,」沈默说,「我把整理的东西先发给你,你先看,下午谈的时候能谈得更深。」

文件在十分钟之后发过来,一共十八页。


陆衍把十八页从头看完用了一个多小时,中间在几处地方做了标记。

沈默整理的核心内容是:目前在推理加速芯片这个方向,全球已有的技术路径大致可以分成三类。

第一类是在标准 GPU 架构上做改良,加大显存带宽,优化推理专用的数据通路,这类路径的优点是和现有生态兼容,现有的框架和工具链基本不用改;缺点是上限有限,受到通用架构的约束,内存带宽的提升空间受物理限制,大约再提升一到两代之后就会到头。

第二类是完全自研的推理专用架构,放弃通用性,专门针对 Transformer 结构的注意力机制和 KV-cache 做硬件加速,这类路径理论上可以比第一类快五到十倍,但生态是从零开始的,软件适配成本极高,需要重写大量推理框架和工具链。

第三类是混合路径,用 FPGA 做原型验证,找到关键性能瓶颈之后再定制 ASIC,这条路开发周期比纯 ASIC 短,风险较低,但最终性能天花板也比纯 ASIC 低。

插图

沈默在每类路径后面都附了当前有哪些团队或公司在做,以及公开的技术资料。第二类路径那一段最短,「目前国内没有成熟团队在做这个精确方向」,只有两个学术论文引用,一个是清华的,一个是上海交大的。

文件最后一段是沈默的个人判断:「你说的方向对应的是第二类路径。这条路是真实的,技术上没有原理性障碍,但工程上的复杂度极高,目前没有任何一家国内公司有完整的团队和经验去走这条路。如果要做,需要解决三个前置问题:一,找到真正做过芯片架构的人;二,确定 EDA 工具链的授权和合规路径;三,确定晶圆厂的合作意向。这三件事任何一件出问题,项目都会卡死。」


下午,沈默来公司,两人在 B208 对着那十八页谈了两个多小时。

沈默问的第一个问题:「你是怎么判断这个方向是对的的?」

「不是技术判断,」陆衍说,「是需求判断——如果 AI 推理的使用规模继续增长,现有的硬件会越来越贵,越来越不够用,那么专门针对推理场景优化的硬件一定会有市场,这是一个几乎不可避免的结论。」

「需求判断我同意,」沈默说,「但需求存在不意味着我们能做到,这是两件事。」

「是两件事,」陆衍说,「所以你整理的那三个前置问题,我们来一个一个看。」

第一个问题:找到真正做过芯片架构的人。

插图

「这件事,」陆衍说,「你有没有方向?」

沈默想了一下,「有一个,」他说,「但不确定他有没有兴趣,你直接去找他成功率可能低,需要通过某个认识的人引荐。」

「他是谁?」

「他叫方宇明,」沈默说,「以前在 NVIDIA 的架构设计组做了八年,去年回国了,现在据说在考虑创业,但还没有出来做。我跟他见过两次,觉得他这个人有真正的架构能力,不是那种只会看规格书的。」

「通过谁引荐?」

「原来的公司有个同事跟他认识,」沈默说,「我去问一下,但我没法保证他有兴趣。」

「先试,」陆衍说,「其他两个问题:EDA 工具链和晶圆厂。」

沈默在这两个问题上讲了很长时间,陆衍大部分时间在听,偶尔问一两句细节。核心是:EDA 工具链的国际主流供应商有合规风险,需要提前做法律评估;晶圆厂的合作意向需要先有一定的设计成熟度才能谈,不是说想谈就能谈的。

「这两件事,」陆衍说,「我们不需要现在解决,我们需要现在解决的是能不能找到方宇明——有没有架构设计能力的人,决定了这件事有没有根。」

插图

那天下午谈完,陆衍回去打开豆包,把沈默整理的那十八页发给它,加了一句话:「我准备跟沈默一起做一个推演,你参与,帮我判断沈默的技术判断有没有我看不出来的问题。」

豆包看完那十八页,说了一句:「沈默写的这份摘要,整体是可信的,但有一个细节他低估了。」

「哪里?」

「第二类路径那里,他说「软件适配成本极高,需要重写大量推理框架和工具链」,这句话是对的,但他没有说的是:如果你的目标是让青舟自己用,而不是卖给别人,那个软件适配成本只需要你们自己承担,不是整个行业的问题,反而是一个护城河——因为别的公司用不了,你们用了,你们的推理成本会比竞争对手低一个数量级。」

陆衍把这句话读了两遍,「这是个好的角度,」他说,「我跟沈默谈的时候把这个加进去。」

豆包:「还有一件事,沈默提到的方宇明,我查了一下,他去年三月回国,这符合你说的时间线,他的公开资料里有两篇讲 Transformer 架构加速的文章,是他在回国前发表的,技术深度是真实的。」

「他在考虑什么方向创业?」

「不确定,」豆包说,「但他的文章方向和你们的需求高度重叠,这不是偶然的——他离开 NVIDIA 的时间点,正好是行业开始意识到推理加速成本问题的时候,他看到的东西和你们看到的大概率是同一件事。」

插图

陆衍想了一下,「也就是说,」他说,「他可能不需要被说服方向是对的,他只需要知道有个团队是认真的,有资源往下做。」

「这是我的推断,」豆包说,「不一定准,但值得带着这个假设去试一下。」

「好,」陆衍说,「等沈默联系到那个引荐人。」

他合上豆包,在本子上加了一行字:「方宇明,NVIDIA 架构,回国,在考虑方向。」

然后他在下面画了一条线,写了三个字:「砺火一号」。

这三个字是他自己起的名字,是某个深夜在本子上随手写的,当时不确定会不会有用,现在他知道了,这个名字会在某一天真的出现在一颗芯片的规格文件上,但那一天还不是今天,还要走很长一段路。

他合上本子。

方向定了,人还没到,路还在前面。