第一百〇九章 需求
程一帆的报告周四发过来，一共十四页，附了三张图。
陆衍把文件打开，从第一页开始看。
程一帆把青舟企业 AI 平台的算力消耗拆成了三块。
第一块是推理服务——企业客户通过 API 调用青舟的智能分析模块，每次调用都要跑一次模型推理，这块是成本最大的，也是随使用量线性增长的部分。
第二块是向量检索和语义存储——每个企业客户上传文档、建立知识库，背后是持续运转的向量数据库，索引存在那里，计算在读写的时候发生，这块不是最贵的，但是随着客户数量增加会稳定增长。
第三块是训练和微调——青舟自己在跑的，每季度一次的模型微调，用企业客户的脱敏数据做领域适配，这块计算密集，但是间歇性的，不是每天都在用。
程一帆在第三页放了一张表格，把三块负载的增速分别标出来了：过去两个季度，推理服务增长了八十一个百分点，向量存储增长了四十七个百分点，训练微调增长了三十二个百分点。整体六十三个百分点，是加权平均之后的结果。
报告最后一页是程一帆的判断：「三块负载里，推理服务的成本结构对公有云最不友好——它发生频繁，时延敏感，峰谷差大，公有云按量付费的定价模式会系统性地把峰值成本叠加给使用方。如果继续用公有云，推理这块的边际成本不会因为规模扩大而降低，反而会随着客户增长持续升高。」
陆衍把最后那句话重新读了一遍，「边际成本不会因规模扩大而降低」，这是程一帆用工程师的方式说出了那个问题的本质——这条路的终点不是盈利，是一个越来越贵的陷阱。
他把文件关上，打开豆包。
「算力问题，」他对豆包说，「自建推理层，有哪几条路？」
豆包花了大约十二秒给出了三条。
第一条：租用第三方 GPU 机房，自建物理算力，折旧计提，成本变固定。这条最直接，但前期投入高，选型有压力——现在市面上的 GPU 集群方案选项很多，但主流的大参数模型加速卡需要排队采购，交期最长的要半年以上。
第二条：混合架构，公有云托底，自建专属推理节点跑高频场景。这条初始投入较小，可以边建边跑，但架构复杂，运维成本高，短期内不一定能真正降低成本，可能只是把成本转移了。
第三条：寻找专用 AI 推理加速方案，不采购通用 GPU，而是采购或定制针对推理场景的专用硬件。这条在 2019 年是小众路径，但有几家国内公司在做，性价比数据在某些场景下优于通用 GPU 集群。
陆衍看着这三条想了一会儿。
第一条是绝大多数互联网公司的选择，老实、可行，但麻烦在"选型有压力"这几个字——现在最主流的那几款推理加速卡，他大概知道两年后会发生什么，那个演进方向会让现在买的某些卡变成纸重。
第三条在 2019 年是小众的，但那个方向他一直在心里放着。
「第三条，」他说，「专用推理硬件，现在国内在做这个的有哪几家？」
豆包列了五个名字，附了简短的技术方向描述。陆衍扫了一遍，三家在做训练侧的加速，不是他要的；一家在做边缘推理，方向对但不是数据中心规模；还剩一家，方向是数据中心推理加速，有一款在售产品，性能数据在公开资料里有一些。
「这家的参数，」陆衍说，「和我们现在在公有云上跑的推理负载对比，延迟和吞吐量差多少？」
豆包说要看具体配置，但基于公开信息做了个粗估：在青舟目前的主要推理场景下，如果采购这家的方案，时延大约持平或略有下降，吞吐量可能提升三成左右，但实际效果需要实测，公开资料里的数字是在他们自己设计的 benchmark 上跑的，不等于在青舟的负载上也一样。
「需要实测，」陆衍自言自语地重复了一句，「那就需要测试机器。」
豆包：「他们应该有试用通道，或者你可以联系他们谈 POC。」
陆衍在本子上写了两个字：「POC」，然后在下面写了一行：「算力需求的底层，不是硬件型号，是负载特征。先整理负载特征，再谈采购。」
这句话写完之后，他又想了一下，在旁边加了一行字：「如果这条路走得通，下一个问题是：谁来做这个方案？」
程一帆把报告发出来之后，一直在等陆衍的回复。
陆衍打电话过去，没有谈方案，只问了一个问题：「你说的这三块负载，推理那块，你觉得我们的算法现在是在最优的状态吗？」
程一帆沉默了大概三秒，「不是，」他说，「推理那块的模型服务框架是半年前配的，那时候客户量只有现在的三分之一，很多批处理的策略没有做，峰值调度也没有细优化。」
「如果把这些先做一遍，能节省多少成本？」
「可能百分之十五到二十，」程一帆说，「但这是软件层的优化，天花板就在那里。」
「行，」陆衍说，「先把软件层的优化先做，这是一个月内的事。硬件层的事，我们这周再谈一次，我想跟你讲一些我的想法。」
「好，」程一帆停了一下，「陆哥，你是不是已经想好了方向？」
陆衍没有直接回答，「先把这次谈完，」他说，「你把那五家做推理硬件的公司的公开资料也整理一下，下次一起看。」
「那五家你怎么知道的？」
「查的，」陆衍说，「你整理一下，下次谈。」
那天晚上他重新打开豆包，说了另一件事。
「我想问你一个话题外的问题。」
豆包：「说。」
「算力，」陆衍说，「从长期看，你觉得青舟在这个方向上的终点是什么？」
豆包思考了一会儿，给出了一个它少见的、带有结构性判断的回答：
「算力这件事，短期看是成本管理，中期看是资源自主，长期看是技术主权。对于一家要做 AI 工具链平台的公司，如果一直依赖别人的硬件，那么你能提供什么服务、服务的上限在哪里，永远是被别人的芯片决定的。」
陆衍把这段话读了两遍。
「我知道，」他说，「我想问的是更具体的一层——如果我们最终不得不自己去解决这个问题，从推理硬件采购，到更往下，你觉得那条路最终会走到哪里？」
豆包沉默了几秒，比平常长一点：「如果你迟早要碰底层，算力是入口，芯片才是门。」
陆衍把这句话抄在了本子上。
「这条路，」他说，「以前我没有想过要在这个阶段碰。」
豆包：「你是说因为太早了？」
「不，」陆衍说，「是因为太硬了。软件的代价是时间，硬件的代价是真实资源，会流血的那种。」
豆包没有立刻接话，停了几秒，「但如果软件的成本最终变成了硬件问题，」它说，「那条路早走和晚走，哪个代价更小？」
陆衍把笔放下，靠在椅背上。
这个问题他其实已经知道答案了。他只是需要一个地方把那个问题说出来，确认它是真实的，不是他自己推导出来的某种错觉。
「早，」他说，「早走的代价更小。」
「那，」豆包说，「这一卷的事情做完之后，你下一步想谈的是什么？」
陆衍把本子翻到新的一页，在最上面写了两个字：「算力」，然后在下面留了大段的空白。
「下一步，」他说，「我要弄清楚，我们需要的那种算力，到底是什么形状的。」
程一帆那天晚上还在公司，发来一条消息：「那五家的资料我找了一下，有两家没有对外的公开数据，只有产品白皮书。另外三家有一些 benchmark 数据，但场景不一，可比性不强。」
「没关系，」陆衍回，「把能找到的都发过来，我先看。下周我们谈。」
程一帆发来了六个文件，一共大约八十页。
陆衍把文件拉到一边，没有立刻打开，在本子上写了一行备注：「问题不在选哪家，问题在我们需要的是什么。先把需求写清楚，再对照方案。」
他把笔盖上，把本子合起来。
明天再看，今天够了。