Tak, jeden GPU może często jednocześnie obsługiwać transkodowanie wideo i lokalne AI, jeśli silniki wideo, moc obliczeniowa, VRAM, zasilanie i sterowniki zachowują wystarczający zapas wydajności.
Transkodowanie multimediów może korzystać z dedykowanych bloków dekodowania i kodowania, podczas gdy model AI polega głównie na obliczeniach macierzowych lub ogólnych i przechowuje wagi modelu oraz kontekst w VRAM. Taki podział umożliwia współbieżną pracę, ale nie oznacza izolacji: filtry, mapowanie tonów, ładowanie modelu, presja na pamięć, taktowanie, temperatury i współdzielone konteksty sterownika mogą nadal powodować wzajemne zakłócanie się obciążeń. Odpowiedź można uzyskać wyłącznie dzięki etapowemu testowi współbieżnej pracy na rzeczywistej karcie.
Sprawdź, z których silników GPU korzysta każde obciążenie
Uruchom jedno transkodowanie sprzętowe i zarejestruj aktywność dekodowania, kodowania, obliczeń, kontrolera pamięci, VRAM i poboru mocy. Następnie zatrzymaj je i uruchom jedno reprezentatywne zapytanie AI, wykonując te same pomiary.
Serwer multimediów może korzystać z dedykowanych silników wideo, podczas gdy środowisko uruchomieniowe AI używa CUDA, ROCm, oneAPI lub innej ścieżki obliczeniowej. Często umożliwia to jednoczesną pracę, ale wypalanie napisów, skalowanie i mapowanie tonów mogą przenieść część procesu wideo na ogólne zasoby obliczeniowe.
Jeśli sesja multimediów wykazuje wyłącznie użycie CPU, napraw sprzętowe transkodowanie przed testowaniem współbieżnej pracy. Jeśli model AI działa głównie na CPU, bo nie mieści się w VRAM, problem współdzielenia GPU dotyczy już szerzej pamięci systemowej i wydajności CPU.
Ustal stabilne wartości bazowe dla pojedynczych obciążeń
Zmierz pojedynczy strumień multimediów podczas uruchamiania, sceny o szczytowym obciążeniu, przewijania i wznawiania odtwarzania. Zapisz szybkość transkodowania, stan bufora, obciążenie silnika GPU, użycie VRAM, CPU i pobór mocy.
Uruchom sam model AI z docelową kwantyzacją, rozmiarem kontekstu, wielkością partii i poziomem współbieżności. Zapisz czas ładowania modelu, liczbę tokenów na sekundę, czas do pierwszego tokenu, użycie VRAM po załadowaniu oraz szczytowe zużycie pamięci przy zwiększaniu kontekstu. Użytkownicy Ollama udokumentowali częściowe odciążenie GPU, które należy odróżnić od punktu odniesienia, w którym model w całości mieści się w pamięci GPU.
Poradnik ZimaSpace dotyczący sprawdzania GPU pod kątem domowego NAS-a zawiera niezbędne kontrole sprzętu i zasilania, które należy przeprowadzić przed testami obciążeniowymi.
Zarezerwuj pamięć VRAM dla modelu i potoku wideo
Zapisuj ilość wolnej pamięci VRAM, pamięć zajmowaną przez załadowany model, wzrost zapotrzebowania na pamięć kontekstu oraz dodatkową pamięć przydzielaną po rozpoczęciu dekodowania wideo, stosowania filtrów i kodowania. Zachowaj odpowiedni zapas zamiast planować wykorzystanie na podstawie pojemności podanej na karcie.
Modele AI mogą pozostawać załadowane po obsłużeniu żądania i blokować inne zadania GPU. Zgłoszenie dotyczące Ollama opisuje model, który pozostawał w pamięci VRAM aż do ponownego uruchomienia usługi, gdy inna aplikacja potrzebowała GPU.
Gdy łączne maksymalne zapotrzebowanie zbliża się do limitu pamięci VRAM, użyj modelu o mniejszej kwantyzacji, krótszego kontekstu, mniejszej równoległości, krótszego czasu podtrzymania lub mniejszego modelu. Nie traktuj wykorzystania pamięci systemowej jako równoważnej pojemności: może ono znacznie zwiększyć opóźnienia i destabilizować obie usługi.
Przeprowadź etapowy test obciążenia współbieżnego
Uruchom model AI i poczekaj, aż zostanie załadowany do pamięci, a następnie rozpocznij zwykłe transkodowanie sprzętowe. Podczas odtwarzania sceny o wysokiej przepływności wyślij długi prompt lub równoczesne żądanie AI i obserwuj działanie obu usług przez kilka minut.
Zwiększaj tylko jeden parametr naraz: dodaj kolejny strumień multimediów, wydłuż kontekst, dodaj kolejne żądanie AI, wypal napisy albo włącz mapowanie tonów HDR. Zanotuj moment, w którym szybkość transkodowania spadnie poniżej czasu rzeczywistego, odtwarzanie zacznie buforować, opóźnienia AI gwałtownie wzrosną albo nastąpi reset GPU.
| Zaobserwowana awaria | Prawdopodobne wspólne ograniczenie | Następny test |
|---|---|---|
| Nie można załadować modelu AI | Rezerwacja pamięci VRAM | Zwolnij pamięć, wyładowując model lub zmniejszając jego rozmiar albo długość kontekstu |
| Wideo buforuje tylko podczas generowania | Konflikt o zasoby obliczeniowe, zasilanie lub filtry | Przetestuj transkodowanie zwykłego SDR bez filtrów GPU |
| AI działa wolniej, ale wideo pozostaje stabilne | Planowanie obliczeń | Ogranicz współbieżność zadań AI lub nadaj priorytet odtwarzaniu |
| Oba kontenery tracą dostęp do GPU | Błąd sterownika lub kontekstu | Sprawdź dzienniki jądra i środowiska uruchomieniowego kontenerów |
Praktyczny limit to ostatnia stabilna kombinacja podczas uruchamiania i szczytowego obciążenia, a nie liczba sesji, które tylko na chwilę pojawiają się w panelu.
Uważaj na błędy sterownika i kontekstu kontenera
Celowo udostępnij tę samą fizyczną kartę GPU obu kontenerom i zweryfikuj identyfikatory urządzeń, biblioteki sterowników, wersje środowiska uruchomieniowego i uprawnienia. Nie przekazuj przypadkowo różnych węzłów renderowania ani nie ukrywaj karty GPU przed jedną z usług.
Współdzielenie zasobów może zawieść nawet po wielu godzinach normalnego działania. Zgłoszenie dotyczące Ollama w Dockerze opisywało błędy kontekstu CUDA i informowało, że Jellyfin utracił dostęp do sprzętowego transkodowania NVIDIA aż do ponownego uruchomienia kontenera, co pokazuje awarię kontekstu GPU wpływającą na wiele usług.
Zbierz logi AI, serwera multimediów, środowiska uruchomieniowego kontenerów, jądra i sterownika GPU z tego samego momentu. Ponowne uruchomienie jednego kontenera może przywrócić usługę, ale trwałe rozwiązanie problemu wymaga działania na poziomie sterownika, środowiska uruchomieniowego, pamięci modelu lub współbieżności, który doprowadził do awarii współdzielonego zasobu.
Kontroluj rezydencję modeli, kolejkowanie i priorytety usług
Zdecyduj, czy model musi pozostawać załadowany przez cały dzień, czy można go wyładować po okresie bezczynności. Stała rezydencja zmniejsza opóźnienie do wygenerowania pierwszego tokenu, ale rezerwuje pamięć VRAM także wtedy, gdy serwer multimediów potrzebuje jej do obsługi skokowego wzrostu obciążenia.
Kilka aplikacji GPU może technicznie współdzielić urządzenie, a mimo to destrukcyjnie ze sobą konkurować, gdy jedna z nich zużyje niemal całą pamięć. Użytkownicy kontenerów NVIDIA zwracali uwagę na przypadek, gdy jeden kontener zapełnia pamięć GPU, a inny musi w tym samym czasie wykonywać swoje zadania.
Ustal bardziej rygorystyczny cel jakości usługi dla odtwarzania: ogranicz równoległość zadań AI, ustaw kolejkę długich generacji, wyładuj zbyt duże modele przed godzinami, w których rodzina ogląda materiały, lub zaplanuj przetwarzanie wsadowe osadzeń. Nie polegaj na ogólnym priorytecie procesora kontenera, który nie kontroluje pamięci GPU ani sposobu wykonywania zadań.
Wiedz, kiedy rozdzielić obciążenia
Korzystaj z jednej karty GPU, gdy model mieści się z zapasem, zwykłe transkodowanie przebiega szybciej niż w czasie rzeczywistym, opóźnienia AI są akceptowalne, a awarie nie przenoszą się między kontenerami. Zapisz przetestowany model, kontekst, liczbę strumieni i ścieżkę filtrów.
Rozdziel obciążenia, gdy duże modele zużywają niemal całą pamięć VRAM, kilku użytkowników jednocześnie transkoduje materiały, filtry HDR lub napisów wymagają mocy obliczeniowej, zapytania AI są wrażliwe na opóźnienia albo jedna usługa musi pozostać dostępna podczas konserwacji sterownika.
Lista kontrolna ZimaSpace zawierająca oznaki problemów z lokalnym AI wyznacza granicę, po której należy przerwać, gdy współdzielone obliczenia zaczynają zagrażać podstawowej niezawodności pamięci masowej i multimediów serwera.
Wsparcie i porady
Więcej do przeczytania

Jak ukryć filmy dla dorosłych na serwerze NAS przed członkami rodziny
Przechowuj filmy dla dorosłych prywatnie na rodzinnym serwerze NAS. Sprawdź uprawnienia folderów, dostęp do bibliotek Plex i Jellyfin, miniatury, historię oglądania, wspólne loginy do...

Co sprawdzić przed załadowaniem modelu społecznościowego w Transformers
Użyj aktualizacji piaskownicy Jinja dla Transformers, aby sprawdzić pochodzenie modelu, szablony czatu, zdalny kod, serializowane wagi i pierwsze uruchomienia w izolowanym środowisku.

Uruchom Mirage lokalnie: OCR i wykrywanie obiektów na podstawie jednego obrazu
Przetestuj niewielki lokalny model wizyjny Cactus Compute, zweryfikuj OCR i ekstrakcję obiektów na rzeczywistych danych wejściowych oraz poznaj ograniczenia związane z pamięcią, językiem i...



