第一百一十九章 设计
八月十七号，周一。
方宇明八点半就到了，比陆衍早，带着一个行李箱，里面是两本笔记本、几根白板笔、一台配了两块屏幕的外接扩展坞，还有一个键盘。
程一帆帮他把设备搬进 B207——B208 隔壁的小会议室，改成了他的工作间，门上贴了一张纸，写着「架构组」。
「就你一个人，」陆衍说，「写「组」会不会……」
「等人多了再改，」方宇明说，「先占个位置。」
沈默找到的那个人叫孟思远，今年六月刚从交通大学电子工程系硕士毕业，研究方向是数字信号处理，做过 FPGA 原型的课题，但没有接触过芯片流片，也没做过 AI 加速，是个白纸。
沈默把他推荐给方宇明的原因只有一句话：「他跑仿真的速度是我见过最快的，代码写得也干净。」
方宇明见了他一面，问了三个问题。第一个是：「你知道 Transformer 的注意力机制是什么吗？」孟思远说知道，把原理解释了一遍，没有错。第二个是：「SRAM 和 DRAM 在读写延迟上的差距大概是多少倍？」孟思远说「大概快一到两个数量级，具体取决于架构」。第三个，方宇明直接给他看了一个很简单的 RTL 代码片段，问他这里有没有问题。孟思远看了大概三十秒，指出了一个时序约束的潜在问题。
「行，」方宇明说，「周一来上班。」
第一周，方宇明几乎没有找陆衍说过什么，在 B207 里工作，偶尔出来倒水，孟思远在旁边跑仿真，两个人说话很少，白板上写的字陆衍走过去看了一眼，大半都看不懂。
周五下午，方宇明出来，把陆衍叫到走廊，「我需要你做一件事，」他说，「帮我找一份你们最真实的推理负载数据，不是平均数，是详细的，要到每个请求的输入长度分布、KV-cache 的命中率、批大小的分布，越详细越好。」
「程一帆能给你，」陆衍说，「需要脱敏吗？」
「不用，我只看模式，不需要真实内容，」方宇明说，「而且，另外一件事，你们现在运行的推理集群，如果我需要在上面跑一些实验性的代码——不会影响正常服务——方便吗？」
「我去问沈默，」陆衍说，「他会安排。」
「今晚之前，」方宇明说，「如果可以的话。」
那一周是陆衍第一次近距离看到一个技术人真正在工作时的样子。
不是会议，不是汇报，不是方案——就是一个人在房间里，白板上画了满满的图，有些图画完了擦掉重画，有些图下面标了问号，有些地方连了一圈又删掉，然后重新来。偶尔能听到方宇明和孟思远说话，大多数是方宇明说，孟思远回答，不超过三句，然后又是安静。
陆衍有一次中午去 B207 门口，门是开着的，方宇明站在白板前，手里拿着笔，但没有在写，只是在看那些图，看了大概两分钟，一笔都没有落下，然后转身坐回去，打开电脑，开始敲代码。
这个画面，陆衍记了很久。
第二周的周三，方宇明来找他，「我有个初步的架构方向，」他说，「你有时间听我讲一遍吗？」
「现在，」陆衍说。
两个人回到 B207，孟思远坐在角落，方宇明在白板上画了一个图，比之前那些草图干净很多，结构清晰，像是已经被反复推敲过的东西。
「砺火一号的核心设计思路，」方宇明说，「是把 KV-cache 的读写路径从通用内存里抽出来，做一个专门的片上快速缓冲层，不是增加一个外设，而是在微架构层面重新设计这个数据流——让它不需要经过主内存，直接在计算单元和快速缓冲层之间短路。」
陆衍听了个大概，「这意味着什么，」他说，「用性能表达出来。」
「意味着推理过程中访问 KV-cache 的延迟，可以从现在的大约一百纳秒压缩到大约十纳秒，低一个数量级，」方宇明说，「这直接决定了长序列推理的速度，因为长序列推理里，KV-cache 的访问次数是最多的，也是现在最大的瓶颈。」
「一个数量级，」陆衍把这个数字确认了一遍。
「理论上一个数量级，」方宇明说，「实际上第一次流片出来会多少，我没法保证，但按照这个架构方向，十倍是基本合理的期望。」
孟思远在角落的电脑上打了几个字，头没抬，「仿真跑下来，KV-cache 访问的理论极限大概是现有架构的十二点七倍，」他说，「但仿真有假设，实测会打折。」
「打多少折？」陆衍问。
「行业经验，仿真结果打七折到八折，」方宇明说，「就是大概七倍到十倍。」
陆衍在本子上写了「7x–10x」，然后看着方宇明，「这件事能做成，」他说，不是问句。
「这件事如果没有外部问题，能做成，」方宇明说，「但我需要更多人。」
「你需要谁？」
「架构这边，我需要一个做过片上内存设计的人，不是工程师，是真正做过定制内存结构的，」方宇明说，「这类人很少，国内加回来的大概总共不超过二十个，我试着联系几个，看有没有愿意来的。」
「你先联系，」陆衍说，「如果有人来，我来谈条件。」
「还有一件事，」方宇明说，「EDA 工具，我们现在用的是试用版，三十天之后会到期，需要正式授权，这个你们去处理。」
「林翔廷会跟进，」陆衍说，「还有什么？」
方宇明摇了摇头，「没了，现在没了。」
那天晚上陆衍把这些写进豆包：「方宇明说，七倍到十倍，片上 KV-cache 短路方案。」
豆包回了一段话：「这个方向和我知识边界里的技术趋势是吻合的。你需要知道的一件事是，这类架构创新在首次流片验证之前，理论数字会比实测好看，这是普遍的，不只是这颗芯片。但你们做的事，不是证明理论，是找到一条从理论到实测的路，那条路的价值不只在结果，而是做过这件事的人，是能找到这条路的团队。」
陆衍看完，觉得这说的不只是芯片。
他合上豆包，看了一眼窗外，上海的夜晚，亮着。
B207 的灯还开着。