Category GPU算力

GPU租赁按时、包月、包年怎么算才不亏?含闲置成本公式

先把成本公式摆出来,别只盯单卡小时价 挑 GPU 租用的时候,多数人扫一眼单卡小时价就下单了。这个数字没错,但它只是账单的一部分。真正决定月底花多少钱的是一条完整的式子: 月总成本 ≈ 单卡小时价 × 卡数 × 计费时长 + 存储费 + 带宽与流量费 + 环境重建与数据搬迁成本 前四项是供应商出账的,第五项是你自己掏的。前四项里,存储和流量经常被忽略;第五项要等到你想换一家供应商的时候才疼。 还有一个概念要先掰开:「计费时长」不等于「你用了多久」。按小时计费时两者相等;包月时计费时长固定按 720 小时(30 天)算,你跑不跑都收钱。 计费项 常见口径 容易漏掉的地方 GPU 卡时 按秒 / 按小时 / 包月 / 包年 关机后是否继续计费,各家规则不一样,签约前要逐条问清 系统盘与数据盘 按 GB / 月…

A100/H100/H800 训练选卡:先算模型规模,再谈哪张卡

经常有人上来就问:现在做训练是不是必须上 H100。我的回答通常是反问一句——你打算训多大的模型,几张卡,预算多少。选卡跟买手机不是一个逻辑,不是越新越好。一张 H100 的租金能换两三张 A100,如果 8 张 A100 就能把你的模型装下并且跑得动,把预算砸在更新更贵的卡上,多出来的钱往往买不到等比例的提速。 真正决定选型的就三件事:显存装不装得下、卡间互联够不够快、你的钱能烧多久。前两个决定能不能跑,第三个决定能跑多久。 三张卡的硬指标,以及每个指标对应什么 型号 显存与带宽 卡间互联(单卡双向) BF16 稠密算力(标称) 典型用途 A100 80GB SXM 80GB HBM2e,约 2TB/s NVLink 3.0,600GB/s 约 312 TFLOPS 30B 以下微调、中等规模继续预训练,生态最成熟 H100 80GB SXM 80GB HBM3,约 3.35TB/s NVLink 4.0,900GB/s 约 989…

租GPU服务器看哪些指标?企业采购对照清单与避坑

租GPU服务器该看哪些指标?本文从企业采购视角给出一张对照表,逐项拆解显存、卡型、带宽、存储与计费方式,点明共享卡和独享卡这个容易被话术盖过去的坑,并用微调、推理两个场景说明取舍,附签约前确认清单。训练还是推理、独享还是共享,先搞清楚再谈价格。