哈哈小说
第 7 卷 · 造芯 · 第 117 章 · 78 段 · 2602 字

方宇明

第一百一十七章 方宇明

沈默说他联系了那个同事,同事联系了方宇明,方宇明愿意见一面。

「他说「见一面」,」沈默发消息,「不是「有兴趣聊」,不是「可以考虑」,就是「见一面」——你别太期待,也别太低估。」

陆衍回:「我知道,谢谢。」


约的是七月中旬一个工作日下午,地方是方宇明自己定的,上海静安区一个写字楼里的咖啡馆,不是那种创业氛围很浓的地方,就是个很普通的楼内咖啡区,有几张桌子,来的大多是楼里其他公司出来透气的人。

陆衍提前到了几分钟,要了一杯美式,坐在靠墙的位置等。

方宇明比约定时间晚了三分钟,推门进来,四十岁出头,穿了件浅灰色的衬衫,背着一个薄款的电脑包,头发有一点自然的卷,走路有些快但不是赶时间的那种快,是习惯了走路快的人。

他看到陆衍,点了一下头,走过来,把包放在椅子上,「陆总,」他说。

「方老师,」陆衍说,「我叫陆衍,直接叫我名字就行。」

「那你叫我方宇明,」他说,「「老师」这个叫法让我觉得下面要考试。」

陆衍笑了一下,「好。」

方宇明去点了杯拿铁,回来坐下,把手机翻过来扣在桌上,「沈默跟我说了一些,但他说的是基础设施的事,」他说,「你这边想谈的,他说他只知道一部分。」

「是,他只知道一部分,」陆衍说,「我们去年底建了一个推理集群,现在跑起来了,成本比公有云低了一半多,延迟也稳了,」他停了一下,「但这只是第一步。」

「第二步是什么?」

陆衍没有立刻回答,先问了一个问题:「你在 NVIDIA 做了八年架构组,你觉得接下来五年,推理这件事最大的瓶颈会是什么?」

方宇明看了他一眼,像是在判断这是不是一道测试题。

「内存带宽,」他说,「这不是一个很难猜到的答案,行业里很多人都预期到了。」

插图

「那你觉得这个问题怎么解?」

「现在的主流路线是两个,」方宇明说,「一是 HBM 的下一代,高带宽内存,Intel 和三星都在做,这个大概两到三年会上来;二是架构级别的优化,在芯片层面减少内存访问的次数,这个更难,但上限更高。」

「你在 NVIDIA 的时候,你们在做哪个方向?」

「以我了解的,两个都有,」方宇明说,「但更多的资源在第二个,因为第一个是 HBM 供应商的活,不是 NVIDIA 能控制的。」

陆衍把这段话听完,「你回国之后,有没有看过国内有谁在做第二个方向,针对推理场景的架构优化?」

方宇明拿起杯子喝了一口,把杯子放回桌上,「有几家,」他说,「但大多数在做训练加速,或者边缘端推理,你说的数据中心规模的大批量推理,这个精确的细分,做的人不多。」

「不多,」陆衍说,「但你是「不多」里的一个,还是没有人做过这个方向?」

方宇明沉默了几秒,「你问的是我有没有在做这件事,还是在判断这件事本身?」

「两个都是,」陆衍说。


方宇明把手肘放在桌上,向前倾了一点,「我回国十六个月了,」他说,「见过的人里面,三分之二想请我去现有的公司做技术总监,剩下三分之一想拉我一起创业,产品方向都不一样,有做模型的,有做应用的,有做工具链的。」

「你都拒了,」陆衍说。

「都拒了,」方宇明说,「原因不是那些方向不对,是因为他们想找的是一个能给他们的方向撑起来的人,不是一个一起往前看的人。这是两件不同的事。」

「你想找一起往前看的人,」陆衍说。

「我想做一件我觉得值得做的事,」方宇明说,「如果这件事有人一起做,更好,如果只有我一个人,那就先想清楚了再说。」

「那你现在有没有想清楚你要做的是什么?」

方宇明重新拿起杯子,喝了最后一口,「你问这个问题,」他说,「是在问我有没有竞争关系,还是在问我有没有我们可以对上的地方?」

插图

「后者,」陆衍说。

方宇明把空杯子放下,「那你先说,」他说,「你们想做什么。」


陆衍在本子上没有画什么,他把当时沈默说的那几句话,那份十八页报告的核心结论,自己对第二类路径的判断,用大概十分钟说了一遍。没有用很多技术细节,只是把逻辑说清楚了:为什么是推理而不是训练,为什么是架构级别而不是外围优化,为什么现在是这个时间点。

方宇明一直没有打断他,也没有记什么东西,只是在听。

陆衍说完,「我知道这件事需要什么,」他说,「需要真正做过架构的人,需要三到五年的时间,需要大量的资源,可能会失败,可能会失败多次,然后重来。这些我都有判断,但我没有能力自己去做,这不是我的知识边界,我需要找一个能把技术路径说清楚的人。」

方宇明低着头,手指轻轻地敲了两下桌面,「你说的「自建硬件」,」他说,「你说的是做一颗芯片,还是做一块加速卡?」

「芯片,」陆衍说,「一颗专门针对推理场景的、从架构层重新设计的推理加速芯片。」

「你有名字吗?」

陆衍顿了一下,「有,」他说,「砺火一号。」

方宇明抬起头,看着陆衍,「这个名字很直接,」他说。

「是,」陆衍说。

「你叫它「一号」,」方宇明说,「意思是你打算做不止一颗。」

「意思是这是第一颗,」陆衍说,「后面的事后面再说。」


两个人沉默了大概十秒。

外面走廊里有人说话的声音,咖啡机运转了一声,又停下了。

插图

「我回国之前,」方宇明说,「在 NVIDIA 的最后半年,有一个内部讨论,关于推理专用路径的可行性,结论是这件事是真实的,技术上可行,但商业路径太长,不适合 NVIDIA 当时的节奏。」

「你同意那个结论吗?」

「同意「技术上可行」,」方宇明说,「不同意「不适合」。」

「为什么不同意?」

「因为那个结论是从 NVIDIA 的角度出发的,NVIDIA 要照顾它现有的生态,它不能做一颗让自己原来的东西过时的芯片,」方宇明说,「但如果不是 NVIDIA,如果是一个从零开始、专门为推理场景设计的团队,那个「不适合」就不存在了。」

陆衍把这话在脑子里过了一遍,「你是在说,」他说,「这件事需要一个没有历史包袱的人来做。」

「不只是没有包袱,」方宇明说,「是能把推理场景作为第一公民去设计的人。训练和推理不是同一件事,大多数现在的芯片是先做训练再把推理当附属品加进去的,这件事如果反过来——从第一天就只为推理设计——它能做到的东西跟现在主流的方案是不同数量级的。」

「你验证过这个判断吗?」

「纸面上,」方宇明说,「但没有跑过硬件,这只是架构层面的推演。」

陆衍低头看了一眼自己空了的杯子,「如果我们做这件事,」他说,「第一步要做什么?」

方宇明没有立刻回答,他重新把手机从桌上拿起来,翻了翻,然后放下,「你需要给我一些时间,」他说,「不是三周,可能更长,我需要看一些东西,想清楚几个技术问题,然后我能给你一个判断,这件事我能不能参与,和在哪个位置参与。」

「多长时间?」

「一个月,」他说,「你能等吗?」

「能,」陆衍说,「你需要任何资料,我可以让沈默配合你。」

方宇明点了一下头,「沈默的那份十八页,」他说,「能发给我吗?」

「今天晚上,」陆衍说。

插图

两个人起身,方宇明拿起背包,「你说的那个名字,」他说,「砺火一号。」

「是,」陆衍说。

「这个名字,」方宇明说,「如果最后真的做出来了,会在封装上印吗?」

「会,」陆衍说。

方宇明没有再说什么,点了一下头,推开门走了。


陆衍在原地站了一会儿,然后打开豆包:「第一次见面,他说他要一个月想清楚。」

豆包:「他说「一个月」,不是「需要考虑」,也不是「再联系」,是一个具体的时间,这是认真对待这件事的信号。」

「我知道,」陆衍说,「他说的那句话——从第一天就只为推理设计——你觉得这个判断准确吗?」

豆包沉默了几秒,「他描述的这个方向,和我现有知识里的技术推演是吻合的,但「不同数量级」这个说法,是一个还没有被验证的结论,需要有人把架构真正设计出来,跑完第一轮测试,才能知道幅度是多少。」

「但方向是真实的,」陆衍说。

「方向是真实的,」豆包说,「我能给你的就这些。」

陆衍把手机收起来,走出了那栋写字楼。

七月的上海,地面已经热起来了,他站在路边等绿灯,想到方宇明说的那句话,「从第一天就只为推理设计」,觉得这句话比他当时用来解释这件事的所有说法都简洁。

绿灯亮了,他过了马路。

一个月,等他想清楚。