하드웨어 트랜스코딩과 비디오 AI를 함께 실행할 때 CPU 포화가 발생하는 원인은 무엇인가요?

에바 왕

IceWhale author

에바 왕 는 기술 작가 그리고 이자 ZimaSpace의 상주 장인입니다. 평생을 기술에 열정을 가진 사람으로서 홈랩과 오픈소스 소프트웨어에 열정을 가지고 있으며,복잡한 기술 개념을 쉽게 이해할 수 있는 실습 가이드로 번역하는 데 전문성을 가지고 있습니다.에바는 셀프 호스팅이 어렵지 않고 재미있어야 한다고 믿습니다. 그녀의 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 신비를 풀도록돕고 있습니다. 첫 NAS 구축부터 Docker 컨테이너 마스터링까지.

What Causes CPU Saturation When Hardware Transcoding and Video AI Run Together? - Zima Store Online

하드웨어 트랜스코딩과 비디오 AI가 호스트 측 디코딩 지원, 프레임 준비, 메모리 복사, 오디오 및 스케줄링 작업을 여전히 공유하기 때문에 CPU 포화가 발생합니다.

카메라 AI 또는 미디어 분석이 시작된 후 홈 서버에서 하드웨어 인코더가 활성화된 상태로 CPU 사용률이 100%에 도달할 수 있습니다. 코덱 블록은 지원되는 디코드 또는 인코드 작업을 가속할 뿐 전체 파이프라인을 가속하지는 않습니다. 디먹싱, 지원되지 않는 프로파일, 스케일링, 색 공간 변환, 프레임 다운로드, 객체 탐지 전처리, 추적, 오디오, 자막, 네트워킹 및 스토리지가 모두 동일한 코어와 메모리 대역폭을 놓고 경쟁할 수 있습니다.

부분적인 하드웨어 오프로딩으로 상당한 CPU 단계가 남습니다

미디어 경로는 컨테이너를 파싱하고, 비디오를 디코딩하고, 프레임을 필터링하고, 출력을 인코딩하고, 오디오를 처리하고, 전송 패킷을 기록합니다. 하드웨어 지원은 특정 코덱, 비트 깊이, 해상도 또는 필터만 지원할 수 있으며, 지원되지 않는 단계는 소프트웨어로 처리됩니다.

부분 트랜스코딩 오프로딩 개요에서는 지원되는 디코드 및 인코드 경로와 CPU로 폴백할 수 있는 필터 및 프로파일을 구분합니다. 필터, 오디오, 자막 또는 폴백 디코드를 위한 소프트웨어 스레드와 함께 하나의 하드웨어 엔진이 활성화되는 것이 대표적인 신호입니다.

하드웨어 트랜스코딩 배지가 엔드투엔드 오프로딩을 입증하는 것은 아닙니다. AI를 포화의 유일한 원인으로 판단하기 전에 단계별 코덱 및 필터 선택을 확인하세요. 이러한 구분은 이후의 가정용 테스트에서도 확인할 수 있습니다.

비디오 AI는 디코딩, 복사 및 전처리를 추가합니다

객체 탐지는 모델 입력 형식에 맞는 선택된 프레임을 필요로 합니다. 추론 자체가 가속기에서 실행되더라도 시스템은 두 번째 스트림을 디코딩하고, GPU에서 CPU로 서피스를 복사하고, 크기를 조정하고, 정규화하고, 색상을 변환하고, 텐서를 배치 처리하고, 결과를 추적할 수 있습니다.

컴퓨터 비전 전처리 개요에서는 크기 조정, 정규화, 색상 변환 및 기타 변환이 컴퓨터 비전 추론에 앞서 수행되는 이유를 설명합니다. 모델 자체가 가속기에서 실행되더라도 이러한 단계는 호스트 코어에 부하를 줄 수 있습니다. 자동화가 이어지기 전에 중간 결과를 계속 점검할 수 있어야 합니다.

AI 프레임 속도를 낮췄을 때 추론 장치 사용률은 비슷하게 유지되면서 CPU 사용량이 감소한다면 전처리 또는 추적이 지배적인 원인일 가능성이 높습니다. 코덱 프로파일을 변경한 후에만 CPU 사용량이 감소한다면 디코드 폴백일 가능성이 더 큽니다. 이러한 경계는 현실적인 운영 조건에서 별도로 측정해야 합니다.

공유 메모리 대역폭과 스케줄링은 경합을 증폭시킵니다

통합 GPU, 코덱 엔진, CPU 코어 및 AI 가속기는 시스템 RAM을 공유할 수 있습니다. 동시에 발생하는 프레임 복사와 대형 서피스는 캐시 미스와 메모리 압박을 증가시키며, 많은 작업자 스레드는 컨텍스트 전환과 큐 경합을 일으킵니다.

코덱 가속 지원 매트릭스는 가속 지원이 코덱, 프로파일, 비트 깊이 및 하드웨어 세대에 따라 달라진다는 점을 보여줍니다. 일치하지 않는 형식이나 전송은 작업을 CPU와 공유 메모리로 되돌릴 수 있습니다. 여러 소스가 제한된 컨텍스트를 놓고 경쟁할 때 이러한 실제 영향이 나타납니다.

실패 경계는 같은 시간대에 관련 없는 스캔, 썸네일 생성 또는 스토리지 암호화로 인해 CPU 사용량이 높아지는 경우입니다. 전체 CPU 사용량만 사용하지 말고 프로세스별 스레드와 파이프라인 단계를 상호 연관해 확인하세요. 이 종속성은 최종 인터페이스에 명시적으로 남겨야 합니다.

-15% OFF

ZimaBoard 2 - 당신의 큰 아이디어를 위한 미니 홈 서버

Single board computer zimaboard2

단계별 CPU 및 서피스 복사 프로파일을 구축하세요

고정된 미디어와 카메라 클립을 재생하면서 디먹스, 디코드 엔진, 소프트웨어 폴백, 필터 그래프, 스케일링, 색 공간 변환, 서피스 복사, 인코드, 오디오, 자막, AI 프레임 속도, 전처리, 추론, 추적, 메모리 대역폭, 실행 큐, 스토리지 및 프로세스별 CPU 사용량을 기록하세요.

CPU 병목 테스트를 사용해 CPU, 메모리, 네트워크 및 스토리지 제한을 분류하세요. 소스 클립을 변경하지 않고 트랜스코딩만 실행하는 경우, AI만 실행하는 경우, 둘을 함께 실행하는 경우, 제로 카피 경로 및 AI 프레임 속도를 낮춘 경우를 테스트하세요. 따라서 결과를 원래 근거와 대조해 확인해야 합니다.

두 작업을 함께 실행한 경우에만 증가하는 단계를 수정하세요. 지원되는 형식을 일치시키고, 중복 디코드와 복사를 피하고, 전처리 작업자 수를 제한하거나, 작업을 예약하세요. 지원되지 않는 필터 하나가 소프트웨어 폴백을 강제하는 상황에서는 더 빠른 CPU를 구매하는 것이 시기상조입니다.