家庭用NVRが分析できるストリーム数は、各カメラに設定された検出レートを低下させずに、検出器と映像処理パイプラインが処理できる範囲に限られます。
8台のカメラがそれぞれ毎秒5フレームの検出を要求する場合、オーバーヘッドを考慮したうえで、検出器は毎秒少なくとも40回の推論を処理できなければなりません。しかし、デコード、リサイズ、トラッキング、録画、モーションゲーティングもCPU、GPU、メモリ帯域幅、I/Oを消費します。実際のストリーム上限は、家庭内で複数の処理が同時に発生した際に、カメラごとの検出頻度やイベント遅延に影響が出始める時点で決まります。
検出負荷はストリーム数×検出FPS
最も単純な最低必要性能は、カメラ台数に設定した検出フレームレートを掛けた値です。10台のカメラを5 FPSで動かすと、毎秒50フレームの分析が必要になります。モーションゲーティングによって実際の処理量は減らせますが、多くのカメラが同時にアクティブになる時間帯を想定して容量を計画すべきです。
ローカル物体検出プロジェクトは、ローカル録画とリアルタイム物体検出を分離しており、CPUのみの検出よりも専用アクセラレーションを推奨しています。これらの処理経路は、同じサーバーに異なる負荷をかけます。
カメラのソースFPSと検出FPSは必ずしも同じではありません。25 FPSの録画ストリームから5 FPSの検出ストリームを生成すれば、録画映像の滑らかさを維持したまま推論負荷を減らせます。この2つを混同すると、容量見積もりが過剰になったり、安全性を欠いたりします。
デコードと前処理が先にボトルネックになることがある
推論の前に、圧縮映像をデコードし、拡大縮小、色変換、検出器へのコピーを行う必要があります。ハードウェアデコードでCPU負荷を軽減できますが、コーデック、解像度、ビット深度、同時セッション数の上限が影響します。録画データの書き込みやライブビューのトランスコードも、同じ処理パイプラインを奪い合います。
AIアクセラレーターの概要では、アクセラレーターは反復的な推論において、ホスト側のオーバーヘッドを抑えながら汎用CPUを上回る性能を発揮できると説明されています。ただし、デコードは引き続きフレームを時間どおりに供給しなければなりません。
したがって、高速な検出器を搭載していても、処理できるカメラ台数が増えるとは限りません。推論前にフレームキューが増大する場合、検出器の処理能力を追加してもアイドル状態になります。ストレージが処理を妨げると、検出FPSが正常に見えても録画に支障が出る可能性があります。
単純な割り算では判断できないケース
検出器のFPSをカメラごとのFPSで割る方法は、モデルの処理コストが同じで、各フレームが独立していることを前提としています。顔、ナンバープレート、姿勢、分類用の追加モデルは、選択された検出に対してのみ処理を追加します。解像度が変動するタイル処理やリモートストリームでは、処理コストに偏りが生じることがあります。
追加認識の製品説明では、検出結果を効率的に共有できない場合、追加認識によってパイプラインが遅くなる可能性があると説明されています。基本FPSが同じでも、機能の選択によって処理可能な台数は変わります。
また、上限がスループットではなく遅延によって決まる場合、この見積もりは機能しません。検出器の平均処理速度が60 FPSでも、キューの公平性が確保されていなければ、あるカメラの処理が数秒遅れることがあります。平均レートが同じでも、ストリームごとの応答性が同じになるとは限りません。
最も遅いカメラに影響が出るまでストリーム数を増やす
最終的に使用するコーデック、解像度、録画モード、検出FPSを設定し、カメラを1台ずつ追加します。すべての映像で同時にモーションを発生させ、カメラごとの実測検出FPS、フレームキューの経過時間、推論時間、デコード使用率、ドロップフレーム数、イベント遅延、ディスク遅延を記録します。
テストは、映像サービスとAIサービスを共有する予定の同じ共有映像コンピュートホスト構成で実施します。本番環境でもスケジュールから外す予定がある場合に限り、無関係なジョブを無効にしてください。
最も遅いストリームでも、設定した検出レートの少なくとも95%を維持し、イベント遅延のp95値が設定した目標範囲内に収まるカメラ台数を上限とします。同時モーションや追加モデルに備え、検出とデコードには20%の余裕を確保してください。
テック&AIハブ
もっと読む

ローカルRAGの検索品質を測定し、再現率・適合率・引用カバレッジを解釈する方法
ローカルRAGのテストセットを構築し、主要な検索指標を算出し、それらのトレードオフを解釈し、回答の主張が引用された根拠によって裏付けられているかを監査する。

サンプリングレートが同じ場合、センサー数の増加に伴ってスマートホームの機能計算がより重要になるのはなぜですか?
デバイス数の増加に伴うセンサーごとおよびセンサー間の計算処理を追跡し、非線形な融合コストを特定して、自動化処理に遅延が生じる前に特徴量パイプラインのベンチマークを実施します。

同じクエリ量でも、ドキュメントライブラリが拡大するとRAG評価コストが重要になるのはなぜか?
ユーザークエリを増やさずにコーパスの拡大がRAG評価の工数を増加させる理由と、層別テストによってコストをリスクに応じて抑えられる仕組みを理解する。

