열 설계 전력과 AI 서버 벽면 전력의 차이는 무엇인가요?

에바 왕

IceWhale author

에바 왕 는 기술 작가 그리고 이자 ZimaSpace의 상주 장인입니다. 평생을 기술에 열정을 가진 사람으로서 홈랩과 오픈소스 소프트웨어에 열정을 가지고 있으며,복잡한 기술 개념을 쉽게 이해할 수 있는 실습 가이드로 번역하는 데 전문성을 가지고 있습니다.에바는 셀프 호스팅이 어렵지 않고 재미있어야 한다고 믿습니다. 그녀의 튜토리얼을 통해 커뮤니티가 하드웨어 설정의 신비를 풀도록돕고 있습니다. 첫 NAS 구축부터 Docker 컨테이너 마스터링까지.

What Is the Difference Between Thermal Design Power and AI Server Wall Power? - Zima Store Online

열 설계 전력(TDP)은 부품 수준의 설계 사양인 반면, 벽면 전력은 전체 AI 서버가 실제로 소비하는 측정된 전기 입력입니다.

열 설계 전력이 65와트로 표시된 프로세서라고 해서 완전한 홈 AI 시스템이 콘센트에서 65와트를 끌어온다는 의미는 아닙니다. 메모리, 스토리지, 가속기, 메인보드 전력 변환, 팬, 네트워크 장치, 전원 공급 장치 손실이 모두 전력에 영향을 줍니다. 부스트 제한, 워크로드 단계, 유휴 상태, 주변 온도, 제조업체의 정의에 따라서도 부품 사양과 실제 측정 전력 사이에 차이가 생길 수 있습니다.

TDP는 열 또는 기본 전력 설계 기준점을 정의합니다

TDP는 지정된 워크로드 또는 기본 작동 조건에서 냉각 설계를 결정하고 프로세서 특성을 설명하는 데 사용됩니다. 모든 제조업체와 세대에 걸쳐 동일한 방식으로 측정되는 보편적인 기준은 아니며, 서버 내부의 모든 부품을 합산한 값도 아닙니다.

Intel Intel TDP 정의는 시스템 설계를 위해 TDP를 와트 단위로 정의하며, 최신 제품에는 프로세서 기본 전력이라는 용어가 사용된다고 설명합니다. 이 정의는 작동 사양에 기반한 것으로, 모든 워크로드가 하나의 고정된 전력을 소비한다는 약속이 아닙니다.

AI 추론은 모델 로딩, 프롬프트 프리필, 토큰 디코딩, 유휴 상태를 번갈아 수행합니다. 짧은 부스트 또는 가속기 피크는 프로세서의 정격 설계 기준점을 초과할 수 있지만, 시간 평균 시스템 소비 전력은 전혀 다른 이유로 더 낮거나 높게 유지될 수 있습니다.

벽면 전력에는 전체 변환 과정이 포함됩니다

콘센트 측정기는 전원 공급 장치로 들어가는 AC 입력을 측정합니다. 서버는 변환된 DC 전력을 소비하며, 그 차이는 부하, 전압, 전원 공급 장치 설계, 효율에 따라 비율이 달라지는 변환 손실이 됩니다. 연결된 스위치나 외장 드라이브 인클로저는 측정 범위에 함께 포함된 경우에만 계산됩니다.

ENERGY STAR 시스템 에너지 사용량 기준은 시스템 수준에서 컴퓨터의 에너지 사용량을 평가하고 작동 모드를 구분합니다. 이러한 더 넓은 측정 범위는 프로세서의 열 사양보다 가정의 전기 요금에 더 가깝습니다. 이러한 차이는 이후 가정 환경 테스트에서도 확인할 수 있습니다.

벽면 전력에는 메모리 리프레시, 디스크, 팬, 메인보드 컨트롤러, USB 장치, 가속기의 유휴 소비 전력도 포함됩니다. 따라서 동일한 CPU TDP를 가진 두 시스템이라도 유휴 상태와 추론 시 에너지가 다를 수 있습니다. 자동화가 이어지기 전에 중간 결과를 계속 확인할 수 있어야 합니다.

냉각 용량과 에너지 비용은 서로 다른 질문에 답합니다

냉각 설계에서는 지속적인 부품 한계와 재순환 공기를 비롯해 열이 어디에서 어떻게 방출되는지를 처리해야 합니다. 전력 계획에는 시간에 따른 측정 와트, 최대 수요, UPS 손실, 경우에 따라 보조 네트워크 또는 스토리지 장비까지 고려해야 합니다. 하나의 숫자로 다른 값을 안전하게 대신할 수는 없습니다.

상세한 TDP의 한계 설명은 TDP만으로 전체 전력 상황을 알 수 없는 이유를 설명하고 제조업체의 정의와 워크로드 동작을 강조합니다. 이 자료는 초기 용량 산정에는 사양을 사용하고, 실제 배포된 시스템에는 직접 측정값을 사용해야 한다는 점을 뒷받침합니다.

콘센트 평균 전력을 급격한 부하에서도 냉각이 충분하다는 증거로 간주하거나, TDP를 합산해 전기 사용량을 예측하는 것이 오류가 발생하는 지점입니다. 열 스로틀링, 팬 곡선, PSU 효율, 듀티 사이클을 계속 확인할 수 있어야 합니다.

Featured

ZimaCube 2 개인용 클라우드 홈 NAS

ZimaCube2

유휴, 지속, 순간적인 벽면 전력을 측정하세요

신뢰할 수 있는 콘센트 측정기를 사용하고 부팅, 유휴 상태, 모델 로드, 긴 프리필, 안정적인 디코딩, 비전 추론, 디스크 활동, 여러 작업을 결합한 최악의 부하를 기록하세요. 의미 있는 순간 피크를 포착할 수 있는 샘플링 속도로 부품 텔레메트리, 온도, 클럭, 팬 속도, 스로틀링 상태를 벽면 전력과 함께 기록하세요.

인클로저 발열의 공기 흐름 비교를 사용해 인클로저 온도를 해석하세요. 측정기에 NAS, 스위치, 가속기 인클로저가 포함되는지 정의한 다음, 순간 피크만 비교하지 말고 작업당 에너지와 일일 와트시를 계산하세요.

문서화된 한계와 측정된 지속 및 일시적 동작을 바탕으로 냉각 및 전력 공급 용량을 산정하세요. 가정의 에너지 사용량과 UPS 계획에는 벽면 측정값을 사용하고, 하나의 프로세서 또는 가속기 열 사양만으로 전체 서버 소비 전력을 추정하지 마세요.