「推論用に導入したはずなのに、稼働率が上がらない」という悩み
NVIDIA L40Sは、推論ワークロードや3D/グラフィックス処理、軽量な学習用途に強みを持つGPUとして、2023年以降多くの企業がオンプレミス環境やプライベートクラウド向けに導入を進めてきました。H100やA100と比べて調達しやすく、消費電力も比較的抑えられることから、「まずは推論基盤から自社でAIを試してみたい」という企業にとって現実的な選択肢だったはずです。
しかし、導入から半年〜1年ほど経過したタイミングで、情報システム部門や施設管理担当者からよく聞かれるのが、「思ったより使わなかった」という声です。
想定していた推論リクエスト数に届かない、社内でのAI活用プロジェクトがPoC（概念実証)段階で止まってしまった、あるいは想定していた内製化体制が組めずに外部クラウドサービスへ切り替えてしまった——理由は様々ですが、結果として高価なGPUサーバーがラックの中で低稼働のまま眠っている、というケースが増えています。
このような「導入したのに使い切れていない」資産をどう扱うべきか。放置し続けるコストと、売却して整理するという選択肢を、本記事では実務的な視点から解説します。
GPUサーバーの廃棄・売却に関するご相談はこちらから。
オンプレAI導入企業における需要予測とのギャップ
2023年から2024年にかけて、国内企業の多くが「自社でAI基盤を持つべきか、クラウドで十分か」という選択に迫られました。この時期、生成AIブームを背景に、経営層からのトップダウンで「まずはGPUサーバーを導入して社内活用を進めよう」という号令がかかった企業も少なくありません。
その結果、明確なユースケースが固まっていない段階で先行投資的にL40Sサーバーを複数台導入し、後から用途を探すという「逆算型」の導入プロセスを取った企業が一定数存在します。これは決して珍しい話ではなく、AIインフラ投資が急速に拡大した局面では、むしろよくある展開だったと言えます。
一方で、実際の運用が始まると、以下のようなギャップが表面化してきます。
想定していた需要と実際の需要のギャップ例
- 社内の複数部門での利用を想定していたが、実際に使うのは1〜2部門のみだった
- 推論APIとして社内展開したが、利用者数が予想の1/3程度に留まった
- モデルのファインチューニング用途を想定していたが、外部のマネージドサービスの方がコスト効率が良いと判断された
- セキュリティポリシー上、想定していたデータを学習・推論に使えないことが後から判明した
こうしたギャップが積み重なると、GPUサーバーの稼働率は当初の想定を大きく下回ります。稼働率が20〜30%程度に留まっているにもかかわらず、電力費・保守費・ラックスペースといった固定費は導入時と変わらず発生し続けるため、コスト対効果の面で経営層からの説明責任を求められる場面も増えてきています。
さらに、2025年以降はH100・H200・B200といった次世代GPUへの投資が本格化し、AIデータセンター市場全体で「世代交代」の動きが加速しています。この流れの中で、L40S世代の機材を「今後どう扱うか」という判断は、多くの企業にとって避けられない経営課題になりつつあります。
稼働率低下の典型パターンを整理する
低稼働状態に陥ったGPUサーバーには、いくつかの典型的なパターンが見られます。自社の状況がどのパターンに近いかを整理することは、その後の判断（継続利用・保守縮小・売却）を考える上での第一歩になります。
パターン1：PoC止まりで本番導入に至らなかったケース
最も多いのがこのパターンです。特定の部門がPoCとしてGPUサーバーを使い、一定の成果は出たものの、本番システムへの組み込みや全社展開の判断が下されず、そのままプロジェクトが自然消滅してしまうケースです。担当者が異動・退職してしまい、後任者が「このサーバーが何のために存在するのか」を把握できていない、というケースも珍しくありません。
パターン2：内製化を断念し、外部サービスへ切り替えたケース
自社でAIモデルの開発・運用を行う体制（MLOps体制）を構築するつもりで導入したものの、必要な専門人材の確保が難しく、結果的に外部のAI開発会社やクラウドサービスに業務を委託する形に切り替わったケースです。この場合、オンプレのGPUサーバーは「体制構築の失敗の名残」として残ってしまいます。
パターン3：ワークロードの見積もりを誤ったケース
推論リクエスト数やバッチ処理の頻度を過大に見積もり、実際に必要な処理能力に対してオーバースペックな構成を導入してしまったケースです。この場合、稼働率自体は低くないものの、投資対効果の観点で「もっと少ない台数で足りたのではないか」という指摘を受けやすくなります。
パターン4：組織再編・事業方針転換によるケース
AI活用を主導していた部門やプロジェクトチームが解散・縮小し、GPUサーバーの管理主体が不明確になってしまうケースです。この場合、技術的な問題以前に「誰がこの資産の判断権限を持っているのか」という組織的な課題が先に立ちはだかります。
これらのパターンに共通するのは、稼働率が低いこと自体よりも、「今後もこの状態が続く可能性が高い」という見通しの部分です。一時的な稼働率低下であれば待つ判断もあり得ますが、上記のような構造的な要因がある場合、稼働率が自然に回復する可能性は低いと考えるべきです。
低稼働資産を「売却」という選択肢で整理する考え方
稼働率の低いGPUサーバーに対して、多くの企業がまず検討するのは「使い道を探す」という方向性です。これは自然な発想ですが、実務上は以下の3つの選択肢を並べて比較検討することが望ましいと言えます。
選択肢1：保有を継続し、新たな用途を探す
社内で新しいAI活用案が出てくる可能性がある場合、保有を継続する選択もあります。ただし、この選択には「いつまで探すのか」という期限を設定することが重要です。期限を設けずに保有を続けると、電力費・保守費・ラックスペースといった固定費が積み重なり、いわゆる「サンクコスト」に引きずられた意思決定に陥りやすくなります。
選択肢2：リース会社への返却・下取り
リース契約で導入している場合、リース満了時に返却する、あるいはリース会社の下取りプログラムを利用するという選択肢もあります。ただし、リース会社の下取り価格は市場の実勢価格より低く設定されていることが多く、専門の買取業者と比較検討する価値は十分にあります。
選択肢3：買取専門業者への売却
GPUサーバーやマイニングマシンの買取を専門に行う業者に売却する方法です。L40Sのような比較的新しい世代のGPUは、推論用途やレンダリング用途としての需要が国内外の中小規模データセンター、映像・CG制作会社、研究機関などから一定数存在しており、型落ち後もある程度の残存価値が見込めます。
会計上の観点からも、売却によって固定資産を除却・売却損益として整理できることは、決算上の資産効率(ROA等)の改善につながる場合があります。特に上場企業やグループ会社を持つ企業では、遊休資産の圧縮が経営指標上の評価につながることもあるため、経理部門・情シス部門・施設管理部門が連携して判断することが望ましいでしょう。
保有コストと売却の比較で確認すべきポイント
- 年間の電力費・空調費（1台あたりの実消費電力から算出）
- 保守契約費・延長保証費用（残存期間分）
- ラックスペースの機会コスト（他の用途に転用できる価値）
- データセンター内の運用管理人件費の一部配分
- 現在の中古市場における同世代GPUサーバーの査定相場
これらを合算した「保有継続コスト」が、売却によって得られる金額を上回る、あるいは大きく変わらないのであれば、早期に売却して資産を整理する方が合理的な判断となるケースが多いと言えます。特にGPUは技術の進化が速く、世代交代のたびに中古市場での価値が下落していく傾向があるため、「売却を検討し始めたタイミング」自体が既に価値の目安として重要な意味を持ちます。
データ消去についても触れておく必要があります。推論用途であっても学習用データやモデルの重みファイルがストレージに残存している可能性があるため、売却前には必ず専門的なデータ消去(NIST SP800-88準拠等)を実施できる業者を選ぶことが重要です。
経験談：「PoCで終わってサーバーが眠っていた」という担当者の声
筆者の私自身も、このようなご相談によく遭遇します。情シス担当の方から「実はPoC用に導入したL40Sサーバーが2台、もう1年近くほぼ動かしていない状態でして……」というお話をいただくこと、正直かなり多いんです。
本音では「これはもう使わないだろうな」と担当者ご自身も感じていても、社内で導入を決めた経緯があるだけに、ご自分から「売却しましょう」とは言い出しにくい、というお気持ちもよく伝わってきます。ですが、稼働していない資産をそのまま抱え続けても電力費や保守費はかかり続けてしまうので、やはり一人で悩む前に、一度査定だけでも相談いただけたらな、と思っています。査定は無料で行っていますし、売却するかどうかはその後にゆっくり決めていただいて大丈夫です。
まとめ：稼働率の低下は「損失」ではなく「判断のタイミング」
L40Sサーバーの稼働率低下は、決して珍しい現象ではありません。AI活用のスピードが速い市場環境の中で、当初の想定通りに需要が育たないことは、多くの企業が経験している現実です。重要なのは、その状態を「失敗」として捉えて放置してしまうのではなく、「資産を見直すタイミングが来た」という前向きなサインとして捉えることです。
保有コストと売却価値を定量的に比較し、期限を決めて判断すること。そして売却する場合は、データ消去の確実性と査定の透明性を重視して業者を選ぶこと。この2点を押さえておけば、低稼働資産の整理は決して難しい判断ではありません。
GPUサーバーの廃棄・売却に関するご相談はこちら。稼働状況や台数が分からない状態でも、まずはお気軽にお問い合わせください。
著者プロフィール
アスメディア代表 河野。ヤフオクの出店営業を経て2005年に独立。2011年にリユース業界へ本格参入し、以後一貫して買取事業に従事。2019年頃よりマイニングマシンの買取事業を開始し、現在はGPUサーバーなどAIインフラ資産の買取領域にも進出している。