CPUスロットリングはどのようにして共有ホームサーバーのコンテナを遅くするのですか？

CPUスロットリングは、コンテナが割り当てられたプロセッサ時間をクォータ期間内に消費すると、実行可能な作業を一時停止することで共有ホームサーバーのコンテナの速度を遅くします。

サービスがクラッシュすることはなく、ホストのCPU使用率が100％になることもありません。リクエストは単に次のスケジューリング期間まで待機し、その結果レイテンシが増加し、スループットが低下し、プロキシ、データベース、メディアパイプラインにキューが発生することがあります。共有コンテナはCPU競合と遅延依存の両方を通じて互いに影響を与えます。

CPU制限は速度ではなく時間で強制される

コンテナのCPU制限は、スケジューリング期間内の実行可能なCPU時間のクォータに変換されます。マルチスレッドのワークロードは複数のコアにまたがってそのクォータを素早く使い切り、その後期間が更新されるまで実行が制限されます。コンテナクォータ分析では、平均割り当ては妥当そうに見えても短時間のバーストで停止が起きる理由が説明されています。

この挙動は、ハードウェアがクロック周波数を下げるサーマルスロットリングとは異なります。コンテナスロットリングはスケジューラによる強制であり、CPUが冷えていてホストに余裕があっても、コントロールグループが設定された境界に達すると発生します。

バーストがリクエスト完了前に期間を使い果たすことがある

画像デコード、暗号化、圧縮、インデックス作成、ガベージコレクションはしばしば複数のスレッドを短時間使用します。これらのスレッドがリクエスト開始時に残りのクォータを消費すると、数ミリ秒の作業が残っていてもリクエストは待機します。現在のCPUスロットリングガイドでは、これを目に見える障害ではなく静かなレイテンシとして説明しています。

この影響はテールレイテンシで最も顕著です。ほとんどのリクエストはクォータの一時停止間に完了しますが、一部のリクエストは強制待機にかかります。ユーザーは時折遅いページ表示、バッファリング再生、タイムアウトを経験しますが、平均CPUグラフでは見えにくくなります。

一つのスロットリングされた依存関係が他のコンテナを遅くする

ウェブコンテナはデータベース、認証サービス、サムネイルワーカー、DNSリゾルバに依存することがあります。依存先がクォータに達すると、呼び出し元は自分のソケットやリクエストワーカーが占有されたまま待機します。ユーザーは一つのコントロールグループだけがスロットリングされていてもアプリケーション全体の遅延を感じます。

UberのCPUクォータとテールレイテンシの調査では、マルチスレッドが早期にクォータを消費し長時間の待機を生むことがわかりました。規模はホームサーバーとは異なりますが、スケジューリングの仕組みは同じです。

シェア、クォータ、CPUピニングは異なる問題を解決する

相対CPUウェイトは忙しいホストでコンテナがどのように共有するかを決め、ハードクォータはホストがアイドルでも一つのグループを制限します。CPUピニングは作業を特定のプロセッサに制限し、移動や競合を減らせますが、スケジューリングの柔軟性を失います。これらの制御は互換的な調整ノブとして扱うべきではありません。

IndeedのCPU制限レイテンシケーススタディは、クォータのバグや設定が最悪の応答時間を支配する理由を示しています。より新しいCPU制限の研究では、個別リクエストの一時停止とそれに続くキュー形成を区別しています。

スロットリングをワークロードのレイテンシと並行して測定する

CPU使用率、クォータ、期間カウント、スロットリング期間、スロットリング時間、実行キュー、サービスごとの応答レイテンシを記録します。すべての制限を一度に外すのではなく、制御された変更で同じワークロードをテストしてください。安全な制限はNASを暴走プロセスから守り、制限が小さすぎると通常のバーストが繰り返し停止に変わります。

メディアとローカルAIワークロード分析は、共有計算が無関係なストレージタスクを遅くする理由を示しています。再生特有の診断には、メディアサーバーのCPU挙動が直接ストリーミングとトランスコーディングなどのプロセッサ負荷の高い作業を区別しています。

FAQ

ホームサーバーがアイドル時でもコンテナはCPUスロットリングされますか？

はい。ハードなコントロールグループのクォータは、他のホストコアが利用可能でもそのコンテナを一時停止できます。ホスト全体の利用率とコンテナごとのクォータ強制は異なる指標です。

CPU制限を外せば常にパフォーマンスが向上しますか？

クォータの一時停止はなくなりますが、一つのサービスがホストを独占し、他のすべての隣接サービスに悪影響を与える可能性もあります。隔離を無闇に解除するのではなく、測定したバーストとレイテンシのニーズに基づいて制限を調整してください。

なぜスロットリングはマルチスレッドコンテナにすぐに影響するのですか？

複数のスレッドがグループの時間割当を並行して使い切ることができるためです。リクエストが少しのCPU作業しか必要なくても、期間が更新されるまでコンテナは待機します。