ビデオエンジン、演算性能、VRAM、電力、ドライバーに十分な余裕があれば、1枚のGPUで動画のトランスコードとローカルAIを同時に処理できる場合が多くあります。
メディアのトランスコードでは専用のデコード/エンコードブロックを使う一方、AIモデルは主に行列演算または汎用演算に依存し、モデルの重みとコンテキストをVRAMに保持します。この分離により同時実行は可能になりますが、互いに影響しないわけではありません。フィルター、トーンマッピング、モデルの読み込み、メモリ負荷、クロック、温度、共有ドライバーコンテキストによって、もう一方のワークロードが中断されることがあります。実際のカードで段階的な同時実行テストを行い、答えを確認する必要があります。
各ワークロードが使用するGPUエンジンを確認する
ハードウェアトランスコードを1つ実行し、デコード、エンコード、演算、メモリコントローラー、VRAM、電力の動作状況を記録します。次にトランスコードを停止し、同じ測定項目で代表的なAIリクエストを1つ実行します。
メディアサーバーは固定機能のビデオエンジンを使い、AIランタイムはCUDA、ROCm、oneAPIなどの演算経路を使う場合があります。そのため、同時に動作できることが多いものの、字幕の焼き付け、拡大縮小、トーンマッピングによって、ビデオ処理の一部が汎用演算に移ることがあります。
メディアセッションでCPUしか使われていない場合は、同時使用をテストする前にハードウェアトランスコードを修復します。AIモデルがVRAMに収まらず、主にCPUで動作している場合、GPU共有の問題はすでにシステムメモリとCPU性能のより広範な問題になっています。
単一ワークロードの安定時のベースラインを確立する
起動、ピーク時のシーン、シーク、再開まで、メディアストリーム単体を測定します。トランスコード速度、バッファの状態、GPUエンジンの負荷、VRAM、CPU使用率、電力を記録します。
想定する量子化、コンテキストサイズ、バッチ、同時実行数でAIモデル単体を実行します。モデルの読み込み時間、1秒あたりのトークン数、最初のトークンが出るまでの時間、読み込み後のVRAM使用量、コンテキストの拡大に伴う最大メモリ使用量を記録します。OllamaのユーザーからはGPUオフロードの部分的な適用が報告されており、GPUに完全に常駐する状態のベースラインとは区別する必要があります。
ZimaSpaceのホームNAS向けGPUの確認ガイドでは、同時テストの前に必要な周辺ハードウェアと電力の確認方法を紹介しています。
モデルと動画パイプラインの両方にVRAMを確保する
アイドル時のVRAM使用量、モデル常駐時のVRAM使用量、コンテキストの増加量、動画のデコード、フィルター、エンコード開始時に追加で割り当てられるメモリを記録します。グラフィックカードに記載された容量だけを基準にせず、余裕を意識して計画してください。
AIモデルはリクエストの処理後もメモリ上に残り、他のGPU処理を妨げることがあります。あるOllamaの問題報告では、別のアプリケーションがGPUを必要とした際、サービスを再起動するまでモデルがVRAMに残り続けたと説明されています。
複合ピーク時の使用量がVRAMの上限に近づいたら、より低い量子化、短いコンテキスト、低い並列度、短いキープアライブ、または小さいモデルを使用します。システムメモリへのスワップを同等の容量として扱わないでください。遅延が大幅に増加し、両方のサービスが不安定になるおそれがあります。
段階的な同時負荷テストを実施する
AIモデルを起動してメモリ上に常駐させてから、通常のハードウェアトランスコードを1つ開始します。ビットレートの高いシーンで長いプロンプトを入力するか、AIリクエストを同時に実行し、両方のサービスを数分間観察します。
一度に変更するのは1つの要素だけにします。メディアストリームをもう1つ追加する、コンテキストを長くする、AIリクエストをもう1件追加する、字幕を映像に焼き込む、HDRトーンマッピングを行う、などです。トランスコード速度がリアルタイムを下回る、再生がバッファリングする、AIの遅延が急増する、またはGPUがリセットされる最初の時点を記録してください。
| 発生した障害 | 共有されている可能性が高い制約 | 次のテスト |
|---|---|---|
| AIモデルを読み込めない | VRAMの割り当て | モデルをアンロードするか、モデルまたはコンテキストのサイズを小さくする |
| 生成中のみ動画がバッファリングされる | 計算、電力、またはフィルターの競合 | GPUフィルターなしで通常のSDRトランスコードをテストする |
| AIは遅くなるが、動画は安定している | コンピューティングのスケジューリング | AIの同時実行数を制限するか、再生を優先する |
| 両方のコンテナがGPUにアクセスできなくなる | ドライバーまたはコンテキストの障害 | カーネルとコンテナランタイムのログを確認する |
実用上の限界は、ダッシュボードに一時的に表示されるセッション数ではなく、起動時やピーク負荷時にも安定して動作する最後の組み合わせです。
ドライバーとコンテナのコンテキスト障害に注意する
同じ物理GPUを意図的に両方のコンテナに公開し、デバイス識別子、ドライバーライブラリ、ランタイムバージョン、権限を確認してください。誤って異なるレンダーノードを渡したり、片方のサービスからGPUを見えなくしたりしないでください。
共有アクセスは、何時間も正常に動作した後でも失敗することがあります。OllamaのDockerに関する報告では、CUDAコンテキストエラーが発生し、その後コンテナを再起動するまでJellyfinでNVIDIAハードウェアトランスコードが利用できなくなったとされています。これはサービス間でGPUコンテキスト障害が発生することを示しています。
AI、メディアサーバー、コンテナランタイム、カーネル、GPUドライバーのログを、同じ時刻のものとして収集してください。コンテナを1つ再起動すればサービスが復旧することはありますが、恒久的な修正が必要なのは、共有障害の引き金となったドライバー、ランタイム、モデルメモリ、または同時実行の境界です。
モデルの常駐、キューイング、サービス優先度を制御する
モデルを一日中ロードしたままにする必要があるのか、それともアイドル状態が続いた後にアンロードできるのかを判断してください。モデルを常駐させると最初のトークンまでの遅延は短縮されますが、メディアサーバーに一時的な処理能力が必要な場合でもVRAMを確保したままになります。
複数のGPUアプリケーションは技術的には1台のデバイスを共有できますが、一方がメモリをほぼ使い切ると、互いに深刻な競合が発生することがあります。NVIDIAコンテナのユーザーからは、あるコンテナがGPUメモリを使い切る一方で、別のワークロードも実行されることが想定されるケースが具体的に報告されています。
再生には、より厳しいサービス目標を設定してください。AIの並列処理数を制限し、長時間の生成はキューに入れ、家族が視聴する時間帯の前に大きすぎるモデルをアンロードするか、バッチ処理の埋め込み生成をスケジュールに従って実行します。一般的なコンテナのCPU優先度でGPUメモリや実行動作を制御できると考えてはいけません。
ワークロードを分離するタイミングを見極める
使用するモデルに十分な余裕があり、通常のトランスコードがリアルタイムより高速で、AIの応答時間が許容範囲内に収まり、コンテナ間で障害が波及しない場合は、GPUを1台にまとめましょう。検証済みのモデル、コンテキスト、ストリーム数、フィルター経路を記録してください。
大規模モデルがVRAMをほぼ使い切る、複数のユーザーが同時にトランスコードする、HDRや字幕のフィルターに計算能力が必要になる、AIリクエストの遅延が許容されない、またはドライバーのメンテナンス中もサービスを稼働させる必要がある場合は、ワークロードを分離してください。
ZimaSpaceのローカルAIの警告サインチェックリストは、共有コンピューティングによってサーバーの中核となるストレージやメディアの信頼性が損なわれ始めたときに、停止する基準を示します。
サポートとヒント
続きを読む

家族に見られないように、NAS上のアダルト動画を隠す方法
家族で使うNASでは、アダルト動画を非公開に保ちましょう。フォルダーのアクセス権、PlexとJellyfinのライブラリーへのアクセス、サムネイル、視聴履歴、共有テレビのログイン情報、DLNAを確認してください。

Transformersでコミュニティモデルを読み込む前に確認すべきこと
TransformersのJinjaサンドボックスアップデートを使って、モデルの来歴、チャットテンプレート、リモートコード、シリアライズされた重み、隔離された初回実行を確認しましょう。

Mirageをローカルで実行:1枚の画像から文字認識と物体検出
Cactus Computeの小型ローカルビジョンモデルを試し、実際の入力でOCRとオブジェクト抽出を検証して、メモリ、言語、プライバシーの制限を把握しましょう。



