DeepSeek又有大音书。

　　3月1日，DeepSeek发表题为《DeepSeek-V3/R1推理系统概览》的著作，全面揭晓V3/R1推理系统背后的关节奥秘。

　　最为引东说念主注宗旨是，著作初次表现了DeepSeek的表面资本和利润率等关节信息。据先容，假设GPU租借资本为2好意思元/小时，总资本为87072好意思元/天；若是统统tokens整个按照DeepSeek R1的订价操办，表面上一天的总收入为562027好意思元/天，资本利润率为545%。

　　笔据DeepSeek官方表现，DeepSeek V3和R1的统统就业均使用H800GPU，使用和检会一致的精度，即矩阵操办和dispatch传输选拔和检会一致的FP8设施，core-attention操办和combine传输选拔和检会一致的BF16，最猛经由保证了就业成果。

　　另外，由于白昼的就业负荷高，晚上的就业负荷低，因此DeepSeek好意思满了一套机制，在白昼负荷高的时期，用统统节点部署推理就业。晚上负荷低的时期，减少推理节点，以用来作念磋议和检会。

　　在最近24小时(2025年2月27日12:00至28日12:00)的统计周期内：GPU租借资本按2好意思元/小时操办，日均资本为87072好意思元；若统统输入/输出token按R1订价(输入1元/百万token、输出16元/百万token)操办，单日收入可达562027好意思元，资本利润率高达545%。

　　不外，DeepSeek官方坦言，骨子上莫得这样多收入，因为V3的订价更低，同期收费就业只占了一部分，另外夜间还会有扣头。

　　 DeepSeek的高利润率源于其改动的推理系统绸缪，中枢包括大规模跨节点巨匠并行(EP)、操办通讯访佛与负载平衡优化三大本事复古：巨匠并行(EP)擢升糊涂与反应速率，针对模子稀少性(每层仅激活8/256个巨匠)，选拔EP计策膨大总体批贬责规模(batch size)，确保每个巨匠获取实足的操办负载，显耀擢升GPU欺骗率；部署单位动态退换(如Prefill阶段4节点、Decode阶段18节点)，平衡资源分拨与任务需求。

　　操办与通讯访佛掩藏延长，Prefill阶段通过“双batch交错”好意思满操办与通讯并行，Decode阶段拆分attention为多级活水线，最大甩掉笼罩通讯支拨。

　　全局负载平衡幸免资源销耗，针对不同并行形状(数据并行DP、巨匠并行EP)绸缪动态负载平衡器，确保各GPU的操办量、通讯量及KVCache占用平衡，幸免节点空转。

　　轻便来说，EP就像是“多东说念主勾搭”，把模子中的“巨匠”分布到多张GPU上进行操办，大幅擢升Batch Size，榨干GPU算力，同期巨匠分布，裁汰内存压力，更快反应。

　　 DeepSeek在工程层面进一步压缩资本。日夜资源调配：白昼岑岭时段全力支捏推理就业，夜间闲置节点转用于研发检会，最大化硬件欺骗率；缓存掷中率达56.3%：通过KVCache硬盘缓存减少重复操办，在输入token中，有3420亿个(56.3%)平直掷中缓存，大幅裁汰算力耗尽。

　　玄虚自券商中国开yun体育网