Pula dysków SSD SATA a dublowane vdevy HDD w repozytoriach z dużą liczbą migawek i małych plików

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

Wybierz pulę SATA SSD, gdy migawki, skanowanie rekurencyjne, synchronizacja, czyszczenie przechowywanych danych oraz przywracanie małych plików muszą zakończyć się w przewidywalnych oknach konserwacyjnych. Wybierz dublowane vdev-y HDD, gdy repozytorium jest duże, większość generacji jest zimna, a zadania wykonywane w tle mogą działać wolno bez opóźniania użytkowników. To porównanie zaczyna się po udzieleniu odpowiedzi na szersze pytanie dotyczące szybkości reakcji przy pracy z małymi plikami.

To decyzja dotycząca konserwacji, a nie kolejny test szybkości SSD kontra HDD

ZimaSpace porównuje już pule SATA SSD z ogólnymi macierzami HDD w kontekście milionów aktywnych małych plików. To węższe rozstrzygnięcie jest potrzebne, gdy repozytorium tworzy również migawki, przechowuje historyczne generacje, wykonuje synchronizację rekurencyjną oraz regularnie usuwa lub wygasza stare drzewa. Zadania te wielokrotnie odczytują metadane, nawet gdy zmienia się stosunkowo niewielka ilość treści plików.

Istniejące porównanie puli małych plików pozostaje właściwym punktem wyjścia w przypadku zwykłego przeglądania i szybkości reakcji aplikacji. Użyj tego artykułu tylko wtedy, gdy czynności konserwacyjne stały się odrębnym problemem operacyjnym.

Kryterium wyboru Pula dysków SSD SATA Dublowane vdev-y HDD
Rekurencyjne skanowanie metadanych Niski koszt wyszukiwania i bardziej przewidywalny czas zakończenia Może być ograniczone przez czas dostępu do dysku w głębokich drzewach katalogów
Czyszczenie przechowywanych migawek Zwykle kończy się przy mniejszej, odczuwalnej dla użytkownika konkurencji o zasoby Może konkurować z bieżącym dostępem i wydłużać prace konserwacyjne
Synchronizacja oparta na plikach Lepsze w przypadku powtarzających się operacji stat, open, compare i close Akceptowalne, gdy zadania są wykonywane rzadko i zgodnie z harmonogramem
Koszt użytecznej pojemności Wyższy koszt na chroniony terabajt Znacznie łatwiejsze skalowanie przy długim okresie przechowywania
Odtwarzanie po awarii Mniejsza aktywna pula może zostać szybko przywrócona Duża przechowywana historia może wymagać więcej czasu na odbudowę lub przywrócenie
Najlepsze zastosowanie Aktywne repozytorium i najnowsze generacje Zimna historia, przechowywanie zbiorcze i pamięć masowa z naciskiem na pojemność

Dlaczego zadania rekurencyjne zmieniają zwycięzcę

Zadanie synchronizacji lub tworzenia kopii zapasowej oparte na plikach może sprawdzać każdy katalog, porównywać znaczniki czasu i rozmiary, otwierać zmienione pliki oraz zamykać dużą liczbę obiektów, nawet gdy przesyłana ilość danych jest niewielka. Przy milionach plików operacje na metadanych mogą zdominować czas rzeczywisty, podczas gdy sieć pozostaje w większości bezczynna.

Niedawna analiza skanowania milionów plików w zadaniach tworzenia kopii zapasowych, ograniczonego przez metadane opisuje ten sam mechanizm awarii: przepustowość gwałtownie spada, ponieważ system musi wyliczać i porównywać obiekty, zamiast strumieniowo przesyłać duże zakresy danych.

SSD SATA eliminuje mechaniczne opóźnienie wyszukiwania bez konieczności korzystania ze ścieżki sekwencyjnej klasy NVMe. Lustrzane vdevy HDD zapewniają więcej niezależnych talerzy niż pojedynczy dysk, ale każdy człon lustra nadal wykonuje fizyczne wyszukiwanie, gdy zadanie przemieszcza się między wpisami katalogów, atrybutami, zmienionymi blokami i zawartością plików.

Kiedy migawki sprawiają, że konserwacja HDD jest bardziej odczuwalna

Utworzenie migawki copy-on-write może być szybkie, ale przechowywanie i usuwanie kolejnych generacji zmienia późniejszą pracę. Stare bloki pozostają oznaczone jako używane, zmodyfikowane drzewa gromadzą więcej metadanych, a czyszczenie musi ustalić, które dane są nadal osiągalne. Użytkownik może zauważyć te operacje podczas wygasania migawki, a nie w chwili jej utworzenia.

Raport Linux Journal dotyczący wydajności usuwania migawek Btrfs pokazuje, że czyszczenie migawek może być istotnym obciążeniem systemu plików, a nie natychmiastową zmianą przestrzeni nazw. Dokładne zachowanie zależy od systemu plików, intensywności zmian, retencji i ilości wolnego miejsca, dlatego należy testować rzeczywistą platformę, zamiast bezkrytycznie uogólniać pojedynczy wynik.

SSD nie sprawia, że zasady dotyczące migawek przestają mieć znaczenie. Nadmierna liczba generacji, mała ilość wolnego miejsca, duże przepisywanie danych i nieprawidłowo zaplanowana replikacja nadal mogą powodować długie okna konserwacyjne. Pamięć flash zmniejsza opóźnienia pamięci masowej, ale nie eliminuje śledzenia odwołań, operacji transakcyjnych ani błędów w retencji.

-15% OFF

Gdzie lustrzane vdevy HDD wciąż mają przewagę

Lustrzane macierze HDD pozostają atrakcyjne, gdy historyczne generacje zajmują dziesiątki terabajtów, a interaktywnie uzyskuje się dostęp tylko do niewielkiej ich części. Płacenie cen SSD za każdą przechowywaną wersję może odciągnąć budżet od dodatkowej kopii zapasowej, ochrony poza lokalizacją lub wystarczającej ilości wolnego miejsca na bezpieczną wymianę.

Lustrzane konfiguracje zapewniają również prostą ścieżkę zwiększania pojemności, gdy serwer może dodać kolejną parę lustrzaną lub zastąpić oba dyski większymi. Taki układ zapewnia więcej ścieżek losowych operacji wejścia-wyjścia niż pojedynczy szeroki vdev, choć nie może wyeliminować opóźnienia obrotowego podczas zimnych skanów.

Konstrukcja oparta na HDD wygrywa, gdy zadania konserwacyjne mogą działać przez noc, użytkownicy nie muszą czekać na repozytorium podczas skanowania, a najnowsze aktywne drzewo jest na tyle małe, że pozostaje w pamięci RAM. Jeśli system spełnia wymagania dotyczące odtwarzania i konserwacji przy rzeczywistej retencji, zakup pamięci flash dla całej historii nie wnosi dodatkowej wartości decyzyjnej.

Dlaczego replikacja oparta na migawkach może zmienić wymagania dotyczące nośnika

Replikacja na poziomie plików wielokrotnie przechodzi przez przestrzeń nazw. Replikacja na poziomie bloków lub migawek może przesyłać zmienione zakresy bez ponownego otwierania każdego niezmienionego pliku, zmniejszając znaczenie opóźnienia metadanych przypadającego na plik. Metoda replikacji może więc zmienić wymaganie dotyczące wykorzystania puli podstawowej wyłącznie z SSD.

To jest granica, na której należy się zatrzymać. Jeśli przejście z synchronizacji opartej na plikach na replikację migawek eliminuje okno konserwacji, kolejna decyzja zakupowa nie dotyczy już lustrzanych dysków SATA SSD ani HDD. Większą poprawą była zmiana metody przenoszenia danych.

Z kolei repozytorium, które musi pozostać przenośne między różnymi systemami plików lub dostawcami, może nadal wymagać eksportu na poziomie plików. W takim przypadku przewidywalne skanowanie rekursywne i odtwarzanie nadal są częścią wymagań wobec pamięci masowej, a SSD ma większą długoterminową wartość.

Użyj testu cyklu życia repozytorium zamiast benchmarku kopiowania plików

  1. Utwórz reprezentatywne drzewo katalogów o realistycznej głębokości, rozmiarach plików, uprawnieniach i danych towarzyszących.
  2. Zmierz czas zimnego rekursywnego skanowania inwentaryzacyjnego oraz czas powtórnego, ciepłego skanowania.
  3. Utwórz i usuń zgodnie z retencją zwykłą liczbę migawek, gdy użytkownicy korzystają z repozytorium.
  4. Uruchom rzeczywiste narzędzie do synchronizacji lub tworzenia kopii zapasowych na miejscu docelowym o porównywalnych opóźnieniach.
  5. Usuń jedną zachowaną generację i zmierz opóźnienie widoczne dla użytkownika do momentu zakończenia czyszczenia.
  6. Odtwórz katalog zawierający wiele plików, a nie tylko jedno duże archiwum.
  7. Powtórz test przy oczekiwanym poziomie zapełnienia puli i ustalonej rezerwie wolnego miejsca.

Nie porównuj pustej puli SSD z pofragmentowaną, niemal pełną pulą HDD. Dopasuj użyteczną pojemność, nadmiarowość, system plików, retencję, sieć i zasady dotyczące wolnego miejsca. Celem jest ustalenie, czy zmiana nośnika pamięci zmienia wynik konserwacji po ustaleniu wszystkich pozostałych warunków.

Który układ najlepiej pasuje do repozytorium?

Wybierz pulę SSD SATA, gdy

Wybierz SSD, gdy użytkownicy odczuwają skutki czyszczenia migawek, indeksowania rekurencyjnego, tworzenia przyrostowych kopii zapasowych, skanowania antywirusowego, synchronizacji drzew źródłowych lub przywracania małych plików. Chroń pulę za pomocą nadmiarowości i kopii zapasowych, a trwałość dobieraj do zapisów metadanych, zmienności danych i działania migawek, a nie do parametrów sekwencyjnego kopiowania plików.

Wybierz dublowane vdevy HDD, gdy

Wybierz mirrory HDD, gdy przechowywana historia jest obszerna, konserwację można zaplanować, a większość małych plików jest nieaktywna. Zapewnij wystarczającą ilość pamięci RAM, zachowaj wolną przestrzeń, rozłóż w czasie scrubowanie i kopie zapasowe oraz sprawdź, czy odzyskiwanie po awarii nie przekroczy akceptowalnego okna czasowego.

Użyj podzielonego repozytorium, gdy

Trzymaj bieżące drzewo robocze i najnowsze generacje na SSD, a starsze niezmienne migawki lub wyeksportowane archiwa przenoś na HDD. System taki jak ZimaCube 2 może obsługiwać obie role pamięci masowej, ale proces migracji i przywracania musi być udokumentowany.

Najczęściej zadawane pytania

Czy mirrory HDD są szybsze niż pula z parzystością w przypadku małych plików?

Zwykle zapewniają więcej niezależnych ścieżek wejścia/wyjścia i pozwalają uniknąć części narzutu związanego z zapisami parzystości, ale nadal wykonują mechaniczne wyszukiwanie. Wynik zależy od liczby mirrorów, głębokości kolejki, pamięci podręcznej RAM, systemu plików, fragmentacji oraz tego, czy obciążenie odczytuje, czy ponownie zapisuje dane.

Czy większa ilość pamięci RAM wyeliminuje potrzebę korzystania z SSD?

Pamięć RAM może przyspieszyć powtarzające się odczyty metadanych i plików, zwłaszcza po rozgrzaniu pamięci podręcznej skanowania. Nie jest jednak w stanie przechowywać w pamięci każdej generacji katalogów, każdego żądania przywrócenia ani całego zmienionego zestawu roboczego. Zimne skanowania i konserwacja wymagająca intensywnych zapisów nadal korzystają z pamięci masowej.

Czy miliony plików należy pakować do archiwów?

Pakowanie nieaktywnych drzew może zmniejszyć narzut przestrzeni nazw i przyspieszyć transfer zbiorczy, ale zmienia dostęp losowy, deduplikację, aktualizacje przyrostowe i częściowe przywracanie. Archiwów używaj wyłącznie do niezmiennej historii i dopiero po potwierdzeniu, że proces przywracania pozostaje praktyczny.

Ostateczny werdykt

Wybierz pulę SSD SATA, gdy konserwacja obejmująca intensywnie używane migawki ma pozostać przewidywalna podczas aktywnego użytkowania. Wybierz dublowane vdevy HDD, gdy pojemność i długi okres przechowywania są ważniejsze niż szybkość skanowania i czyszczenia. W przypadku mieszanych repozytoriów przechowuj aktywne drzewa i najnowsze punkty odzyskiwania na pamięci flash, a starszą historię eksportuj na chronioną przestrzeń HDD.

Porównania produktów

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.