H100 SXM5、まだ現役だけど電気代と冷却コストが重い——その悩みの正体
H100 SXM5搭載のGPUクラスターを運用しているデータセンター事業者から、最近よく聞かれる相談があります。「性能的にはまだ現役で使えるのに、月々の電気代と冷却コストが年々重くなっている」というものです。
H100 SXM5は1基あたりTDP700W前後、8基搭載のDGX/HGX構成であればGPUだけで5.6kWを消費します。これにCPU、メモリ、NVSwitch、ストレージ、そして冷却の消費電力が加わると、1ラックあたりの電力密度は数年前のGPUサーバーとは比較にならないレベルに達します。
「壊れていないから使い続ける」という判断は一見合理的に見えますが、電力単価の上昇や冷却設備の老朽化、そして次世代Blackwell世代との性能効率差を踏まえると、実は「使い続けるコスト」のほうが「入替・売却コスト」を上回っているケースが少なくありません。
本記事では、H100 SXM5クラスターの電力密度・冷却コストの構造を整理し、「まだ使える」と「入替すべき」を分けるための具体的なチェックポイントを解説します。設備担当者・情シス部門・経営層がそれぞれの立場で判断材料にできる内容を目指しています。
GPUサーバーの廃棄・売却に関するご相談はこちらです。
NVLinkクラスターの電力密度上昇とBlackwell世代との効率差という背景
なぜH100世代でラック密度が跳ね上がったのか
H100 SXM5は、A100世代と比較してGPU単体の性能が大幅に向上した一方で、TDPも400W台から700W前後まで上昇しました。さらにNVLink 4.0による高速インターコネクトを活かすため、8基のGPUを1つのNVSwitchドメインに収める構成が主流化し、1ノードあたりの消費電力が急増しています。
この結果、従来は1ラックに10kW程度を想定していたデータセンターの電力設計が、H100 SXM5クラスターでは1ラックあたり30〜40kW、場合によっては50kWを超える高密度実装を要求されるようになりました。空冷では対応できず、液冷（液浸冷却・直接液冷）への移行を迫られた事業者も多いはずです。
Blackwell世代との効率差という新たな圧力
さらに追い打ちをかけているのが、後継のBlackwell世代（B200/GB200など）の存在です。Blackwellはトランジスタ数・メモリ帯域が大幅に向上しつつ、性能あたりの電力効率（パフォーマンス/ワット）もH100世代より改善されています。
具体的には、同じ学習ワークロードを実行する場合、Blackwell世代はH100世代に比べて必要ノード数を削減できるケースが報告されており、電力・冷却コストの総量を圧縮できる可能性があります。これは「H100を使い続けるコスト」と「Blackwellへ移行するコスト」を比較検討する動機として、多くの事業者の間で議論されています。
一方で、Blackwell世代への全面移行には初期投資、電源・冷却インフラの再設計、既存H100資産の処分という3つの課題が同時に発生します。この「処分」の部分こそが、本記事のテーマである売却・買取の検討ポイントになります。
H100 SXM5の電力・冷却コスト構造を分解する——PUEとラック密度の観点
PUE（Power Usage Effectiveness）から見えるコストの実態
PUEとは、データセンター全体の消費電力をIT機器の消費電力で割った指標です。PUE1.5であれば、GPU等のIT機器が使う電力1に対して、冷却・電源設備などの付帯設備が0.5の電力を消費していることを意味します。
H100 SXM5のような高密度クラスターでは、空冷設備のままPUEが1.6〜1.8まで悪化するケースが見られます。これは、IT機器の消費電力そのものに加えて、冷却のために同程度、場合によってはそれ以上の電力を追加で消費している状態です。
具体的な数字で考えてみましょう。8GPU構成のH100 SXM5サーバーを1台、24時間365日フル稼働させた場合、GPU単体の消費電力だけで年間約49,000kWh（5.6kW×24h×365日）に達します。これにサーバー全体の消費電力（CPU・メモリ・ストレージ含め概算8kW程度）とPUE1.7を掛けると、年間の総消費電力量は概算で約119,000kWhとなります。産業用電力単価を1kWhあたり25〜30円と仮定すると、1台あたり年間約300万円前後の電力コストが発生する計算になります。
このように、ラック密度が30kWを超えるゾーンに入ると、液冷設備への投資判断とセットで「今のH100を残すか、売却して次世代機に切り替えるか」という経営判断が必要になります。
「まだ使える」と「入替すべき」を分けるチェックポイント
技術的に稼働している機材を「まだ使える」と判断するか、「入替すべき」と判断するかは、単純な故障有無だけでは決まりません。以下の3つの観点から複合的に評価する必要があります。
稼働率（利用率）の実態
GPUクラスターの稼働率（GPU利用率）が常時80%以上を維持できているなら、投資回収の観点では継続運用に妥当性があります。しかし、当初の学習用途から検証・推論用途にシフトし、稼働率が30〜40%程度まで落ち込んでいる場合、同じ電力・冷却コストを払い続ける根拠は薄くなります。
ワークロード種別との適合性
大規模言語モデルの事前学習のような高負荷・長時間ワークロードにはBlackwell世代のような最新機の効率が活きますが、推論用途や中小規模のファインチューニングであればH100世代でも十分対応できる場合があります。「売却すべき」という判断は、ワークロードの種類とGPUの適性が噴合していない場合に強くなります。
保守契約・リース残存期間
メーカー保守契約やリース契約の残存期間も重要な判断軸です。保守切れが近い、あるいはリース満了が迫っている場合、契約更新のタイミングで売却・入替を同時に検討するのが最も費用対効果の高い動きになります。逆に保守契約が数年残っている場合は、残存期間を全て使い切ってから売却する方が資産価値の観点で有利なこともあります。
| 判断軸 | 継続運用が妥当なケース | 売却・入替を検討すべきケース |
|---|---|---|
| 稼働率 | 80%以上を維持 | 30〜40%以下に低下 |
| ワークロード | 高負荷学習と適合 | 推論中心にシフト済み |
| 保守・リース | 残存期間が長い | 更新・満了が近い |
| 冷却インフラ | 空冷で対応可能 | 液冷投資が必要な密度 |
これらのチェックポイントを総合的に見て、複数の項目で「売却検討」側に該当する場合は、次のステップとして買取業者への相談や資産査定を進めることをお勧めします。
現場のリアルな声——電気代の請求書を見て青ざめた話
筆者の私自身も、このようなケースのお客様によく遭遇します。「まだ壊れていないから」という理由だけで高密度クラスターを何年も使い続けて、ある月の電気代の請求書を見て青ざめたという話、実はかなり多いんです。
本音では「もっと早く相談してくれれば良かったのに」と感じていても、ご本人を前にすると、なかなかそうは言えません。減価償却が終わっていない、あるいは「まだ使えるものを売るのは損した気分になる」という心理的なハードルがあるのも理解しています。ですが、電力・冷却コストは資産価値と違って毎月確実に出ていくお金なので、そのバランスを一度でも数字で見てもらえると印象が変わることが多いんです。売却タイミングを逃して数か月悩んだ結果、その間の電気代だけで査定額の一部が消えてしまったというケースもあるので、そのへんも含めて一度相談してもらえると嬉しいです。
まとめ——H100 SXM5の入替判断は「今」検討する価値がある
H100 SXM5クラスターの入替タイミングは、故障やスペック不足という単純な理由だけでなく、電力密度・冷却コスト・ワークロードの適合性・保守契約の残存期間という複数の軸を組み合わせて判断するべきものです。
特に、ラック電力密度が30kWを超えて液冷投資が必要になるタイミングや、保守契約・リースの更新期が近づいているタイミングは、売却・入替を検討する自然な節目です。Blackwell世代への移行が進む中で、H100世代の中古市場での需要は現時点では一定水準を保っていますが、市場に出回る台数が増えるほど査定額は変動しやすくなります。
「まだ使えるかどうか」で悩んでいる期間そのものが、電力・冷却コストという形でキャッシュを消費し続けている状態でもあります。まずは現状のクラスター構成と稼働状況を整理し、査定を取ってみることから始めてみてください。
GPUサーバーの廃棄・売却に関するご相談はこちらです。
著者プロフィール
アスメディア代表 河野。ヤフオクの出店営業を経て2005年に独立。2011年にリユース業界へ本格参入し、以後一貫して買取事業に従事。2019年頃よりマイニングマシンの買取事業を開始し、現在はGPUサーバーなどAIインフラ資産の買取領域にも進出している。