第一百一十二章 二月
第七卷·算力之墙
二月初，陆衍看到了那个数字的时候，在家里已经困了三周。
不是真的困，是没有办法去公司，只能在家工作。外面的事情发展得很快，快得他有些时候想用豆包问一下细节，又克制住了——有一些他知道的，不应该在这时候显现出来。
他打开青舟的运维仪表盘，把本周的 API 调用量跟三周前对比了一下。
三周前，日均 API 调用量是十一万次左右。
今天，日均 API 调用量是二十四万六千次，昨天是二十二万，前天是二十万出头。
曲线是直接往上翘起来的那种，不是缓慢爬坡，是折线，三周前还是平缓的，之后就陡了。
企业客户没有增加多少，但每家客户的调用密度翻了——大家都在家，跑更多的文档分析，发更多的企业内部问答请求，用更多的智能调度推演。
算力需求暴涨，公有云账单随之往上走。
程一帆已经在凌晨给他发了一条消息：「陆哥，账单快到预警线了，这周如果不处理，下周会超出阈值。」
他给程一帆打电话，那边接得很快，不像是刚睡醒，更像是根本没睡。
「现在的情况，」程一帆说，「公有云那边我已经把弹性扩容拉到最大了，但这是治标。如果需求继续增长，钱是一方面，另一方面是公有云的峰值排队问题——不是我们不愿意花钱，是流量太大了，有些区域实例不够用，会排队。」
「排队的情况有多严重？」
「昨天傍晚高峰的时候，有两个推理请求等了超过八秒才被调度到，」程一帆说，「如果客户那边发现了，投诉已经在路上了。」
陆衍把这个信息在脑子里放了一下。
八秒等待，在工业控制软件的场景里不是不能接受，但在知识管理和文档分析场景里，用户会直接刷新重试，然后打电话来问是不是系统挂了。
「你手上现在有没有能做基础架构的人，」他问，「不是调参，是能从零搭一套自建推理集群的人。」
程一帆沉默了几秒，「我认识一个，」他说，「不确定他现在什么状态，但他之前在某数据中心做过基础架构，出来有一段时间了，我去问一下。」
「今天问，」陆衍说，「越快越好。」
程一帆下午两点多发来消息：「他愿意聊，他叫沈默，你今天有空吗，我们视频一下。」
「有空，」陆衍回，「三点？」
「好，我拉你们进群。」
三点的视频会议，沈默一个人出现，背景是一个书房，书架上放了几本英文原版书，看起来是计算机系统相关的，他的脸很平，看起来三十出头，说话不快，没有废话。
「程一帆跟我说了情况，」沈默开口，「推理服务的调用量暴涨，公有云撑不住了，想自建集群。」
「是的，」陆衍说，「你做过吗？」
「做过，」沈默说，「但不是推理集群，是分布式存储和训练集群，在一家数据中心。推理这块我了解架构，但实际部署经验不多。」
「了解到什么程度？」
沈默想了一下，「大概知道坑在哪里，」他说，「推理和训练不一样，训练你可以容忍长时延，反正跑完就行；推理对延迟很敏感，网络拓扑和调度策略会直接影响用户体验。这方面我看过一些资料，也在前公司的一个小型推理 POC 里帮过忙，但那个项目后来停了。」
「停的原因是什么？」
「公司觉得公有云够用，不值得自建，」沈默说，「我觉得这个判断是短视的，但我说不动他们。」
陆衍在视频里看着他，把这句话听完，「你现在是什么状态？」
「在看机会，」沈默说，「前公司去年底没了，我一直在想找什么方向，还没想好。」
「推理集群这件事，」陆衍说，「如果你来做，第一步你会从哪里开始？」
沈默没有立刻回答，想了几秒，「我会先把你们现在的负载特征梳理一遍，」他说，「搞清楚峰谷分布、延迟要求、内存使用模式，然后再选硬件配置，最后是调度层的设计。如果跳过前两步直接买机器，大概率买错。」
「你现在能来上海吗？」
「现在不行，」沈默说，「出行受限，大概要等两个星期。」
「好，」陆衍说，「这两个星期，你帮我们远程看一下当前的负载数据，程一帆发给你，你给我一个初步判断，说明我们应该先搭什么规模的集群，用什么硬件，大概多少钱。」
沈默点了点头，「可以，」他说，「程一帆发给我，我这周给你回。」
「还有一件事，」陆衍说，「你说你觉得那家公司的判断是短视的，我想知道你的判断，不是基于他们那个项目，是基于你自己的理解：你觉得现在做 AI 推理的自建集群，时机对吗？」
沈默停了比之前任何一次都长的一下，「对，」他说，「但不是因为公有云不好，是因为公有云的价格体系对高频推理请求是不公平的，计费方式不适合这种负载。自建的核心价值不是便宜，是可预期。」
「可预期，」陆衍重复了一下，「这个词选得好。」
视频结束之后，陆衍给豆包发了一条：「有个候选人，叫沈默，前数据中心的基础架构工程师，正在考虑他。」
豆包说：「这类人不多，能做真实架构的人比能讲架构的人少很多，你怎么判断他是哪种？」
「他说「大概知道坑在哪里」，不说「我完全懂这件事」，」陆衍说，「后者说这话的人我不信。」
豆包：「这个判断逻辑成立。」
陆衍又发了一条：「还有一件事，」他说，「他说推理集群的核心价值是「可预期」，不是「便宜」，这个框架和你之前给我说的方向是一样的。」
豆包：「说明他想清楚了这件事的本质，而不是在用技术话术把你绕晕。」
「我们需要这样的人，」陆衍说，「不是将来，是现在。」
那天下午，程一帆把一份负载数据的整理发给了沈默，格式是他们内部用的监控日志，去掉了客户敏感信息，保留了调用频率、响应时延、内存占用、GPU 利用率几个关键维度。
晚上八点半，沈默发来了一条回复：「我看了一遍，你们的内存占用模式很典型，如果这是我的系统，我会从这几个地方开始想……」
后面跟了七点，每点是一个工程判断，有两点涉及调度算法，有三点涉及硬件选型的约束条件，有两点是关于集群拓扑的。
程一帆把这条消息转发给陆衍，附了一行字：「这个人是认真的。」
陆衍把七点看了一遍，然后回程一帆：「让他来。」
「出行限制，」程一帆说，「再等两周。」
「两周，」陆衍说，「好。」
他把手机放下，看了一眼窗外。
深夜的上海，从他家窗户能看到几栋楼的剪影，楼里大部分灯都灭了，只剩几处黄色的光点，像是有人也没睡，在想另外一些事情。
2020 年的第七卷，大约就从这里开始了。