熱設計電力とAIサーバーの壁コンセント消費電力の違いとは？

エヴァ・ウォン

IceWhale author

エヴァ・ウォン は テクニカルライター であり ZimaSpaceの常駐ティンカーでもあります。 生涯のオタクであり、 ホームラボとオープンソースソフトウェアに情熱を持っています。彼女は複雑な技術的概念をわかりやすく、 実践的なガイドに翻訳することを専門としています。エヴァはセルフホスティングは楽しくあるべきで、怖がるものではないと信じています。彼女のチュートリアルを通じて、コミュニティが ハードウェアのセットアップを解明する手助けをしています。初めてのNAS構築からDockerコンテナの習得まで。

What Is the Difference Between Thermal Design Power and AI Server Wall Power? - Zima Store Online

熱設計電力（TDP）はコンポーネント単位の設計仕様であり、壁面電力はAIサーバー全体が消費する測定済みの電気入力です。

熱設計値が65ワットのプロセッサだからといって、家庭用AIシステム全体がコンセントから65ワットを消費するとは限りません。メモリ、ストレージ、アクセラレーター、マザーボードの電力変換、ファン、ネットワーク機器、電源装置の損失なども電力に影響します。ブースト制限、ワークロードのフェーズ、アイドル状態、周囲温度、メーカーによる定義の違いによっても、コンポーネント仕様と実測電力には差が生じます。

TDPは熱またはベース電力の設計基準を定義する

TDPは、指定されたワークロードまたはベース動作条件におけるプロセッサの冷却設計や特性評価に使用されます。すべてのベンダーや世代に共通する万能な測定方法ではなく、サーバー内部のすべてのコンポーネントの消費電力を合計したものでもありません。

IntelのIntelのTDP定義では、システム設計向けにTDPをワット単位で定義し、新しい製品ではProcessor Base Powerという用語を使用していると説明しています。この定義は動作仕様に基づくものであり、すべてのワークロードで一定の電力を消費することを保証するものではありません。

AI推論では、モデルの読み込み、プロンプトのプリフィル、トークンのデコード、アイドル期間が切り替わります。短時間のブーストやアクセラレーターのピークはプロセッサの公称設計値を上回ることがありますが、システム全体の時間平均消費電力は、まったく別の要因によって低くなったり高くなったりします。

壁面電力には変換チェーン全体が含まれる

コンセントメーターは、電源装置に入力される交流電力を測定します。サーバーが消費するのは変換後の直流電力であり、その差分は変換損失になります。損失の割合は、負荷、電圧、電源装置の設計、効率によって変化します。接続されたスイッチや外付けドライブ筐体は、測定範囲を共有している場合にのみ含まれます。

ENERGY STARのシステムのエネルギー使用量基準では、コンピューターのエネルギー使用量をシステムレベルで評価し、動作モードを区別しています。この広い測定範囲は、プロセッサの熱仕様よりも家庭の電気料金に近いものです。この違いは、後の家庭環境でのテストでも確認できます。

壁面電力には、メモリのリフレッシュ、ディスク、ファン、マザーボードのコントローラー、USBデバイス、アクセラレーターのアイドル時消費電力も含まれます。そのため、CPUのTDPが同じ2つのシステムでも、アイドル時や推論時のエネルギー消費が異なることがあります。自動化を進める前に、中間結果を検証できる状態に保つ必要があります。

冷却能力と電気料金は異なる問いに答える

冷却設計では、持続的なコンポーネントの制限や再循環する空気を含め、熱がどこでどのように放出されるかに対応する必要があります。電力計画では、時間経過に伴う実測ワット数、ピーク需要、UPSの損失、場合によっては補助的なネットワーク機器やストレージ機器も考慮します。一方の数値で他方を安全に置き換えることはできません。

詳細なTDPの限界では、TDPだけでは電力消費の全体像を把握できない理由を説明し、ベンダーの定義やワークロードの挙動を取り上げています。初期のサイジングには仕様を使用し、導入後のシステムには実測を使用するという考え方を裏付ける内容です。

コンセントで測定した平均値を、バースト時にも冷却が十分である証拠として扱ったり、TDPを合計して電力消費を予測したりすることが、問題の境界になります。サーマルスロットリング、ファンカーブ、PSU効率、デューティサイクルを常に把握できる状態にしておく必要があります。

Featured

ZimaCube 2 パーソナルクラウドホームNAS

ZimaCube2

アイドル時、持続時、バースト時の壁面電力を測定する

信頼できるコンセントメーターを使用し、起動、アイドル、モデルの読み込み、長時間のプリフィル、安定したデコード、画像推論、ディスクの動作、複合的な最悪条件のワークロードを記録します。意味のあるバーストを捉えられるサンプリングレートで、コンポーネントのテレメトリー、温度、クロック、ファン速度、スロットリングを壁面電力と併せて記録してください。

筐体の発熱に記載されたエアフローの比較を使って、筐体温度を評価します。メーターにNAS、スイッチ、アクセラレーター筐体が含まれるかを定義し、瞬間的なピークだけを比較するのではなく、タスクあたりのエネルギーと1日あたりのワット時を計算します。

冷却と電力供給は、文書化された上限に加え、実測した持続時および過渡時の挙動に基づいてサイジングします。家庭でのエネルギー消費とUPSの計画には壁面電力の測定値を使用し、1つのプロセッサやアクセラレーターの熱仕様からサーバー全体の消費電力を推測しないでください。