Dlaczego duże kopiowanie plików na NAS opóźnia działanie interaktywnych aplikacji self-hosted?

Duże kopiowanie plików na NAS opóźnia interaktywne aplikacje self-hosted, ponieważ utrzymujący się transfer masowy może zajmować te same kolejki dyskowe, pamięci podręczne, przepustowość pamięci, czas CPU, ścieżkę sieciową i potok zapisu, które są używane przez bazy danych, usługi multimedialne, pulpity nawigacyjne, indeksy wyszukiwania i kontenery automatyzacji.

Kopiowanie może raportować doskonałą przepustowość sekwencyjną, podczas gdy te aplikacje stają się wolne lub niestabilne. Prędkość transferu masowego mierzy, ile danych NAS przesuwa w czasie; wydajność interaktywna zależy od tego, jak szybko małe i często synchroniczne żądania są realizowane podczas aktywnego obciążenia masowego.

Dlaczego szybkie kopiowanie sekwencyjne nadal może szkodzić opóźnieniom interaktywnym?

Transfery sekwencyjne są wydajne, ponieważ przesuwają duże przyległe obszary z relatywnie niewielkim narzutem na wyszukiwanie lub żądania. Jednak przepustowość masowa i opóźnienia interaktywne to różne cele. Urządzenie może pozostawać produktywne w MB/s, podczas gdy małe operacje bazodanowe lub metadane czekają dłużej.

Narzędzie do kopiowania zwykle utrzymuje kilka odczytów i zapisów w toku, aby pamięć masowa i sieć pozostawały zajęte. Aplikacje interaktywne wysyłają mniejsze żądania, które zużywają niewiele przepustowości, ale często blokują odpowiedź skierowaną do użytkownika, dopóki nie zostanie zakończony konkretny odczyt, zapis dziennika lub zatwierdzenie transakcji.

Średnia przepustowość kopiowania może pozostać płynna, podczas gdy opóźnienie końcowe aplikacji gwałtownie rośnie. NAS nie jest wystarczająco długo bezczynny między operacjami kopiowania, aby natychmiast obsłużyć małe żądanie.

Jak długie kopiowanie zajmuje kolejkę pamięci masowej?

Duży plik lub drzewo katalogów może przez minuty lub godziny nieprzerwanie wykonywać operacje I/O. duże transfery mogą utrzymywać kolejki pamięci masowej w ciągłym obciążeniu, pozostawiając żądania wrażliwe na opóźnienia w kolejce, która już zawiera masową pracę.

W pulach HDD przeplatanie małych losowych operacji I/O aplikacji z sekwencyjnym kopiowaniem może wymusić ruch aktuatora i zmniejszyć efektywność obu wzorców. Na SSD kontroler może przetwarzać więcej pracy równolegle, ale skończone kolejki, kanały NAND, zbieranie śmieci i harmonogramowanie oprogramowania układowego nadal narzucają limit opóźnień.

Głębokie kolejki mogą maksymalizować wykorzystanie urządzenia, ale zwiększają czas przebywania. Odczyt bazy danych o rozmiarze czterech kilobajtów może zajmować niewiele czasu obsługi po wybraniu, ale spędzać większość życia czekając za megabajtami ruchu kopiowania.

Dlaczego ruch kopiowania może usuwać użyteczne dane z pamięci podręcznej?

System operacyjny i stos pamięci masowej buforują ostatnio dostępne dane, aby uniknąć wolniejszych odczytów z urządzenia. Długie skanowanie lub kopiowanie dotyka dużego zakresu adresów, więc masowe odczyty mogą usuwać z pamięci podręcznej wpisy wrażliwe na opóźnienia, gdy pamięć podręczna nie rozróżnia danych strumieniowych do wyrzucenia od aktywnego zestawu roboczego aplikacji.

Baza danych, indeks zdjęć, katalog mediów lub aplikacja internetowa mogły polegać na gorących metadanych i indeksach pozostających w pamięci RAM. Po zastąpieniu tych stron przez kopiowanie, następne interaktywne żądanie musi pobrać je z wolniejszej pamięci masowej.

Spowolnienie może utrzymywać się po spadku widocznej szybkości kopiowania, ponieważ użyteczny zestaw roboczy musi zostać ponownie rozgrzany. Kopiowanie zostało zakończone, ale jego ślad w pamięci podręcznej zmienił, które dane mają dostęp o niskim opóźnieniu.

Jakie dodatkowe prace pojawiają się poza odczytem i zapisem pliku?

NAS może potwierdzać zapisy do pamięci lub pamięci flash przed zatwierdzeniem ich na ostatecznych dyskach. write-back przesuwa pracę na późniejsze opróżnienie, więc szybkie początkowe kopiowanie może być następnie kontynuowane przez utrzymujący się zapis brudnych danych.

Systemy plików aktualizują również mapy alokacji, katalogi, znaczniki czasu, sumy kontrolne, dzienniki i metadane copy-on-write. RAID lub kodowanie erasure może dodawać pracę parzystości, podczas gdy migawki mogą zachowywać stare bloki, które w przeciwnym razie zostałyby zwolnione.

Kopiowanie w ramach tego samego NAS może być droższe niż sugeruje pasek postępu, gdy dane są odczytywane i zapisywane z powrotem do tego samego zasobu. Kopia po stronie serwera lub wsparcie reflink może uniknąć fizycznego przenoszenia, ale tylko wtedy, gdy protokół, system plików i narzędzie do kopiowania korzystają z tych możliwości.

Jak presja sieci i pamięci wpływa na aplikacje kontenerowe?

Narzędzia o wysokiej przepustowości często używają współbieżności, aby utrzymać pełny potok, a równoległe transfery zwiększają obciążenie współdzielonych zasobów. Na domowym serwerze ta sama metoda może zużywać więcej buforów gniazd, pamięci podręcznej stron, kopiowania pamięci, cykli CPU oraz slotów żądań SMB lub NFS.

Brudne strony mogą się powiększać, aż jądro zacznie zapisywać dane na pierwszym planie lub w tle. W tym momencie niezwiązane kontenery mogą konkurować o odzyskiwanie pamięci, blokady systemu plików, planowanie I/O i czas procesora potrzebny do przetwarzania własnych żądań.

Pamięci podręczne aplikacji już konkurują z trwałą pamięcią masową. Duża kopia dodaje ciągłe obciążenie ukierunkowane na pojemność do ścieżki I/O, która może już obsługiwać logi, miniatury, bazy danych i stan kontenerów.

Jak domowy NAS może chronić interaktywne obciążenia?

Najsilniejszą ochroną jest utrzymanie aktywnego zestawu roboczego aplikacji na warstwie o niższej latencji. pamięć podręczna o niskiej latencji chroni aktywny zestaw roboczy, gdy jest odpowiednio rozmiarowana i umieszczona dla danych, które muszą pozostać responsywne.

Inne kontrolki to limity prędkości kopiowania, priorytety I/O, wagi cgroup, limity na zestaw danych, zaplanowane okna migracji, oddzielne pule SSD i HDD oraz lokalne bazy danych aplikacji z NAS używanym do pojemności i kopii zapasowych.

Mierz opóźnienie aplikacji podczas działania kopiowania, nie tylko MB/s kopiowania. Celem nie jest koniecznie spowolnienie każdego transferu; chodzi o pozostawienie wystarczającej rezerwy w kolejce, pamięci podręcznej, CPU i zapisie dla usług samodzielnie hostowanych, które użytkownicy oczekują, że zareagują natychmiast.

Najczęściej zadawane pytania

Dlaczego kopiowanie jest szybkie, jeśli spowalnia aplikacje?

Kopiowanie jest zoptymalizowane pod kątem utrzymania przepustowości, podczas gdy aplikacje zależą od czasu zakończenia małych żądań. Wysoka przepustowość i niskie opóźnienia to powiązane, ale różne cele wydajnościowe.

Czy NVMe wyeliminuje ten problem?

Zmniejsza czas obsługi i wspiera większą równoległość, ale NVMe nadal ma ograniczone kolejki, przepustowość kontrolera, zasoby NAND, pamięć podręczną, CPU i limity termiczne.

Czy jeden duży plik jest mniej szkodliwy niż wiele małych plików?

Pojedynczy duży plik jest zwykle bardziej sekwencyjny i efektywny pod względem metadanych. Wiele małych plików dodaje operacje katalogowe, alokacyjne, uprawnienia, otwieranie, zamykanie i metadane, ale oba obciążenia mogą powodować stałe obciążenie kolejki i pamięci podręcznej.

Czy bazy danych aplikacji samodzielnie hostowanych powinny znajdować się na NAS?

Mogą, ale bazy danych wrażliwe na opóźnienia korzystają z pamięci masowej o przewidywalnej wydajności małych operacji I/O. Oddzielna pula SSD lub lokalna pamięć aplikacji mogą zapewnić czystsze oddzielenie od masowych kopiowań.

Ostateczne wnioski

Duże kopiowanie plików NAS opóźnia działanie aplikacji interaktywnych, gdy obciążenie ukierunkowane na pojemność zajmuje wspólną kolejkę, pamięć podręczną, pamięć, sieć i ścieżkę zapisu. Kopiowanie może pozostać szybkie, ponieważ mierzone jest przez przepustowość, podczas gdy żądania użytkownika stają się wolne, ponieważ mierzone są przez opóźnienie zakończenia. Warstwowanie, limity prędkości, priorytety I/O, oddzielne pule i harmonogramy poza szczytem zachowują pojemność transferu masowego bez poświęcania czasu reakcji każdej aplikacji.