Dlaczego ciepło generowane przez lokalną sztuczną inteligencję odczuwa się inaczej na otwartej półce niż w zamkniętej szafce?
Lokalne AI odczuwa się inaczej, ponieważ otwarta półka wymienia ciepłe powietrze z pomieszczeniem, podczas gdy zamknięta szafka może zatrzymywać i ponownie cyrkulować ogrzane powietrze.
Serwer GPU może pobierać taką samą moc 180 W w obu miejscach, a mimo to powietrze w szafce będzie się stopniowo nagrzewać, a obudowa będzie wydawać się cieplejsza. W obu przypadkach energia elektryczna zamienia się w ciepło. Różnica polega na tym, jak szybko ciepło opuszcza środowisko wlotowe urządzenia oraz czy powietrze wylotowe wraca do wentylatorów rozmieszczonych w pobliżu półek, przewodów i zamkniętych paneli.
Obciążenie określa ilość generowanego ciepła, ale miejsce instalacji decyduje o jego odprowadzaniu
Niemal cała energia elektryczna zużywana przez lokalny serwer AI ostatecznie zamienia się w ciepło w pomieszczeniu. Otwarta półka zazwyczaj zapewnia powietrzu wlotowemu i wylotowemu dużą wspólną przestrzeń. Szafka zwiększa opór przepływu przez drzwi, filtry, wąskie szczeliny i półki.
Poradnik dotyczący chłodzenia szaf rackowych opisuje zarządzanie przepływem powietrza jako podstawę kontroli temperatury sprzętu. Ograniczenie przepływu zmniejsza masę chłodnego powietrza dostępną do odprowadzania ciepła.
W stanie ustalonym wzrost temperatury zależy od obciążenia cieplnego i wymiany powietrza. Jeśli przepływ w szafce zmniejszy się o połowę, a moc pozostanie stała, powietrze musi zazwyczaj nagrzać się bardziej, aby odprowadzić taką samą ilość ciepła. Ciepło wyczuwalne na powierzchni jest opóźnioną wskazówką, a nie bezpośrednim miernikiem mocy.
Recyrkulacja podnosi temperaturę powietrza wlotowego przed wzrostem temperatury w pomieszczeniu
W obudowie powietrze wylotowe może krążyć wokół półki lub drzwi i ponownie trafiać do serwera. Wentylatory nadal tłoczą powietrze i mogą wskazywać prawidłową prędkość, ale strumień wlotowy zaczyna się od wyższej temperatury. Komponenty muszą wtedy uzyskać większy wzrost temperatury albo wentylatory muszą pracować szybciej, aby odprowadzić taką samą ilość ciepła.
Analiza recyrkulacji gorącego powietrza w środowiskach serwerowych pokazuje, jak powracające gorące powietrze podnosi temperaturę wlotową, nawet gdy całkowita wydajność chłodzenia wydaje się wystarczająca. Droga przepływu jest równie ważna jak nominalna objętość powietrza tłoczonego przez wentylatory.
Otwarta półka również może działać nieprawidłowo, jeśli stoi przy ścianie albo jest otoczona innymi źródłami powietrza wylotowego. „Otwarta” nie oznacza automatycznie chłodna; decydujące są niezakłócony wlot, droga ujścia powietrza oraz oddzielenie wlotu od wylotu.
Kiedy umiejscowienie w szafce nie jest główną przyczyną
Wyjaśnienie związane z obudową nie ma zastosowania, jeśli temperatura wlotu, temperatura komponentów, pobór mocy i zachowanie wentylatorów pozostają takie same w obu miejscach. Cieplejsza w dotyku metalowa powierzchnia może wynikać z kontaktu, emisyjności lub sposobu rozchodzenia się ciepła, a nie z wyższej temperatury krzemu.
Praktyczny przegląd wentylacji wymuszonej rozróżnia konwekcję naturalną, wentylację wymuszoną i aktywne chłodzenie. Różne konstrukcje obudów mogą skutecznie wymieniać ciepło mimo zamkniętych paneli.
Mechanizm ten przestaje mieć zastosowanie również wtedy, gdy obciążenia nie są w rzeczywistości takie same. Taktowanie GPU, wykorzystanie CPU, aktywność pamięci masowej, temperatura otoczenia, ilość kurzu i limity mocy muszą pozostać stałe. Szafka nie jest z definicji niebezpieczna; granicę wyznacza niewystarczająca, zmierzona wymiana powietrza.
Porównaj wzrost temperatury wlotowej przy kontrolowanym obciążeniu AI
Uruchom w obu miejscach obciążenie AI o takim samym, stałym czasie trwania, po osiągnięciu równowagi cieplnej. Rejestruj moc pobieraną ze ściany, temperaturę pomieszczenia, temperaturę powietrza na wlocie i wylocie serwera, temperaturę CPU i GPU, taktowanie, prędkość wentylatorów w obr./min oraz występowanie throttlingu. Umieść sondy w szafce z dala od bezpośredniego kontaktu z metalem.
Użyj powtarzalnego obciążenia długotrwałego lokalnego obciążenia AI i zachowaj logi na serwerze. Utrzymuj stałe parametry modelu, rozmiar partii, limit mocy oraz stan systemu HVAC w pomieszczeniu.
Jeśli różnica między temperaturą wlotu a temperaturą pomieszczenia wzrasta w szafce, popraw drogę przepływu powietrza albo zmniejsz długotrwały pobór mocy. Jeśli rośnie wyłącznie temperatura komponentów przy takiej samej temperaturze wlotu, sprawdź przepływ powietrza w obudowie. Jeśli wszystkie mierzone wartości są takie same, ale odczucie przy dotyku się różni, nie wyciągaj wniosku o usterce chłodzenia wyłącznie na podstawie temperatury powierzchni.
Polecane produkty
Centrum Technologii i Sztucznej Inteligencji
Więcej do przeczytania
Dlaczego serwer domowy wydaje się cichszy w nocy, nawet przy tej samej prędkości wentylatora?
Zrozum, dlaczego niezmieniona prędkość wentylatora nie gwarantuje niezmiennej głośności odbieranej przez człowieka oraz jak odróżnić maskowanie, warunki panujące w pomieszczeniu i rzeczywistą zmianę akustyczną.
Dlaczego zdeduplikowane kopie zapasowe wyglądają na mniejsze niż zajmowane miejsce po przywróceniu?
Dowiedz się, jak deduplikacja zmienia liczbę przechowywanych bajtów, ale nie zmienia przywróconego znaczenia, dlaczego pliki rzadkie i skompresowane komplikują obliczanie sum oraz jak dobrać...
Dlaczego wykorzystanie pamięci masowej wygląda inaczej w interfejsie NAS i systemie plików?
Dowiedz się, co mierzy każda wartość pamięci masowej, dlaczego prawidłowe sumy się różnią oraz jak uzgodnić pojemność bez usuwania danych na podstawie niewłaściwego licznika.
