Wat is het verschil tussen Thermal Design Power en het stroomverbruik van een AI-server aan de wand?
Thermal Design Power is een ontwerpspecificatie op componentniveau, terwijl netspanning het gemeten elektrische ingangvermogen is dat door de volledige AI-server wordt verbruikt.
Een processor met een thermische waarde van 65 watt betekent niet dat een compleet AI-thuissysteem 65 watt uit het stopcontact afneemt. Geheugen, opslag, accelerator, moederbordconversie, ventilatoren, netwerkapparaten en verliezen in de voeding dragen allemaal bij. Boostlimieten, de fase van de werklast, de inactieve toestand, de omgevingstemperatuur en definities van fabrikanten kunnen er ook voor zorgen dat componentspecificaties afwijken van het gemeten vermogen.
TDP definieert een thermisch of basisvermogensontwerppunt
TDP wordt gebruikt om koeling te dimensioneren en een processor te karakteriseren onder een gespecificeerde werklast of basisbedrijfstoestand. Het is geen universele meetmethode die voor elke fabrikant en generatie hetzelfde is, en het telt niet alle componenten in de server bij elkaar op.
De TDP-definitie van Intel definieert TDP in watt voor systeemontwerp en vermeldt dat nieuwere producten de terminologie Processor Base Power gebruiken. De definitie is gekoppeld aan bedrijfsspecificaties en is geen belofte dat elke werklast een vast aantal watt verbruikt.
AI-inferentie wisselt model laden, prompt-prefill, tokendecodering en inactieve perioden af. Korte pieken van de boostfunctie of accelerator kunnen het nominale ontwerppunt van een processor overschrijden, terwijl het tijdgemiddelde systeemverbruik om geheel andere redenen lager of hoger blijft.
Netspanning omvat de volledige conversieketen
Een verbruiksmeter aan het stopcontact meet de AC-ingang van de voeding. De server verbruikt omgezette DC-energie, en het verschil bestaat uit conversieverlies. Het aandeel daarvan varieert met de belasting, spanning, het ontwerp van de voeding en de efficiëntie. Aangesloten switches of externe drivebehuizingen tellen alleen mee als ze binnen de gemeten grens vallen.
De criteria van ENERGY STAR voor energiegebruik van systemen beoordelen computerenergiegebruik op systeemniveau en maken onderscheid tussen bedrijfsmodi. Die bredere grens sluit beter aan bij de kosten van huishoudelijke elektriciteit dan een thermische processorspecificatie. Dit onderscheid blijft zichtbaar tijdens latere tests in huishoudelijke omstandigheden.
Netspanning omvat ook geheugenverversing, schijven, ventilatoren, moederbordcontrollers, USB-apparaten en het inactieve verbruik van de accelerator. Twee systemen met dezelfde CPU-TDP kunnen daardoor een verschillend energieverbruik in rust en tijdens inferentie hebben. Het tussenresultaat moet controleerbaar blijven voordat automatisering wordt toegepast.
Koelcapaciteit en energiekosten beantwoorden verschillende vragen
Bij het ontwerpen van koeling moet rekening worden gehouden met waar en hoe warmte wordt afgegeven, inclusief aanhoudende componentlimieten en recirculerende lucht. Voor elektriciteitsplanning zijn gemeten watt over tijd, piekbelasting, UPS-verliezen en soms ondersteunende netwerk- of opslagapparatuur nodig. Het ene getal kan het andere niet veilig vervangen.
Een uitgebreide uitleg over TDP-beperkingen laat zien waarom TDP niet het volledige vermogensverhaal vertelt en benadrukt definities van fabrikanten en het gedrag van werklasten. Dit ondersteunt het gebruik van specificaties voor een eerste dimensionering en directe metingen voor het daadwerkelijk gebruikte systeem.
De foutgrens ontstaat wanneer een gemiddelde meting aan het stopcontact wordt gezien als bewijs dat de koeling tijdens pieken toereikend is, of wanneer opgetelde TDP-waarden als voorspelling van het elektriciteitsverbruik worden gebruikt. Thermische throttling, ventilatorcurves, de efficiëntie van de voeding en de inschakelduur moeten zichtbaar blijven.
Meet het netverbruik in rust, onder aanhoudende belasting en tijdens pieken
Gebruik een betrouwbare verbruiksmeter aan het stopcontact en registreer het opstarten, inactiviteit, het laden van het model, een lange prefill, stabiele decodering, vision-inferentie, schijfactiviteit en gecombineerde worstcasescenario's. Registreer telemetrie van componenten, temperatuur, klokfrequentie, ventilatorsnelheid en throttling naast het gemeten vermogen aan het stopcontact, met een bemonsteringssnelheid die betekenisvolle pieken vastlegt.
Interpreteer de temperatuur van de behuizing aan de hand van de luchtstroomvergelijking in warmte in de behuizing. Definieer of de meter de NAS, switch en acceleratorbehuizing omvat, en bereken vervolgens het energieverbruik per taak en het dagelijkse aantal wattuur in plaats van alleen momentane pieken te vergelijken.
Dimensioneer koeling en stroomvoorziening op basis van gedocumenteerde limieten en gemeten aanhoudend en tijdelijk gedrag. Gebruik metingen aan het stopcontact voor huishoudelijk energiegebruik en UPS-planning, en leid het totale verbruik van de server nooit af uit de thermische specificatie van slechts één processor of accelerator.
Aanbevolen producten
Tech & AI HUB
Meer om te lezen
Kunnen thuiscamera's gebeurtenissen synchroniseren zonder cloudtijdservices?
Een mechanismegerichte uitleg van cameratiijd zonder cloud, de afwegingen bij gedeelde bronnen, drie veelgestelde vragen over query-fan-out en een praktisch verificatieprotocol.
Kan een lokale AI-service beschadigde modellagen detecteren vóór de inferentie?
Een mechanismegerichte uitleg van detectie van beschadigingen in modellagen, de afwegingen rond gedeelde bronnen, drie veelgestelde vragen over query-fan-out en een praktisch verificatieprotocol.
Kan een RAG-systeem worden hersteld zonder elke embedding opnieuw te genereren?
Een mechanismegerichte uitleg van RAG-herstel zonder opnieuw te embedden, de afwegingen rond gedeelde bronnen, drie veelgestelde vragen over query-fan-out en een praktisch verificatieprotocol.
