Prędkość kopiowania przez SMB spada przy tysiącach małych plików: co przetestować najpierw?

Eva Wong jest redaktorką techniczną i rezydentką majsterkowania w ZimaSpace. Jest geekiem od zawsze, z pasją do domowych laboratoriów i oprogramowania open source, a jej specjalnością jest przekładanie złożonych zagadnień technicznych na przystępne, praktyczne poradniki. Eva wierzy, że samodzielne hostowanie powinno sprawiać radość, a nie onieśmielać. Dzięki swoim samouczkom pomaga społeczności oswoić konfigurację sprzętu, od budowy pierwszego serwera NAS po opanowanie kontenerów Docker.

Zanim zmienisz ustawienia SMB lub sieci, sprawdź, czy przyczyną jest liczba plików, a nie prędkość łącza.

Na domowym NAS-ie tysiące małych plików zmuszają klienta i serwer do wielokrotnego wyszukiwania ścieżek, sprawdzania uprawnień, otwierania i tworzenia plików, aktualizowania metadanych, zamykania plików oraz skanowania każdego obiektu po stronie aplikacji. Łącze gigabitowe lub 2.5GbE może być w większości niewykorzystane, a kopiowanie i tak będzie się ślimaczyć. Dlatego warto najpierw przeprowadzić test A/B, zachowując zbliżoną łączną ilość danych, ale zmieniając liczbę obiektów, a następnie sprawdzić pamięć masową, klienta i narzędzie do kopiowania, w ustalonej kolejności.

Porównaj jeden duży plik z taką samą ilością danych w małych plikach

Przygotuj na tym samym nośniku źródłowym dwa zestawy testowe: jeden duży plik oraz folder zawierający tysiące małych plików o zbliżonej łącznej wielkości. Skopiuj oba do tego samego udziału NAS, korzystając z tego samego klienta, połączenia SMB i przedziału czasowego.

Relacja użytkownika TrueNAS pokazuje typowy przypadek spowolnienia SMB przy małych plikach, podczas gdy duże pliki przesyłano z prędkością zbliżoną do normalnej prędkości sieci. Ten kontrast jest bardziej miarodajny niż pojedynczy wynik prędkości, bo pokazuje, że charakter obciążenia zmienia wąskie gardło.

Zapisz czas, łączną liczbę plików, łączną ilość danych, liczbę plików na sekundę, średnią prędkość w MB/s oraz informację, czy spowolnienie zaczyna się od razu, czy dopiero po zapełnieniu pamięci podręcznej. Jeśli oba zestawy działają wolno, najpierw sprawdź ogólną ścieżkę sieciową lub pamięci masowej; jeśli spowalnia tylko zestaw małych plików, wykonaj dalsze testy dotyczące metadanych.

Oddziel przepustowość sieci od pracy wykonywanej dla każdego pliku

Przeprowadź test sieci z pamięci do pamięci między tym samym klientem a NAS-em, a następnie porównaj wynik z kopiowaniem dużych plików przez SMB. Dobry wynik testu sieci i szybkie kopiowanie dużych plików pokazują, że łącze może przesyłać dane, choć przy małych plikach nie jest w pełni wykorzystywane.

Małe pliki zamieniają kopiowanie w serię powtarzających się żądań i odpowiedzi. Eclectic Light opisał, jak tworzenie kopii zapasowych SMB obciążających metadane może trwać zaskakująco długo, nawet gdy przesyłanych jest niewiele danych.

Nie reaguj na taki wynik, zmieniając najpierw MTU, tryb dupleksu ani agregację łączy. Zamiast tego śledź liczbę plików na sekundę i opóźnienia pod obciążeniem; kolejne przydatne pytanie brzmi, czy powtarzane operacje czekają na źródło, miejsce docelowe na NAS-ie czy kontrolę po stronie klienta.

Osobno sprawdź opóźnienia przy obsłudze metadanych źródła i miejsca docelowego

Skopiuj zestaw małych plików ze źródła do innego lokalnego folderu na kliencie, a następnie utwórz lub rozpakuj ten sam zestaw lokalnie na NAS-ie. Te dwa testy pozwalają osobno sprawdzić odczyt ze źródła i tworzenie plików na NAS-ie, bez udziału SMB między nimi.

W dyskusji użytkowników Unraid z pierwszej ręki zmierzono powolne operacje na poszczególnych plikach, których nie było widać podczas transferów dużych plików. Najważniejszym wskaźnikiem jest to, czy tworzenie plików lokalnie w miejscu docelowym jest powolne jeszcze przed rozpoczęciem transmisji przez sieć.

Jeśli kopiowanie lokalne na kliencie jest wolne, sprawdź dysk źródłowy, system plików, szyfrowanie i układ plików. Jeśli wolno przebiega tworzenie plików lokalnie na NAS-ie, przed dostrajaniem SMB sprawdź pulę dyskową, warstwę pamięci podręcznej, obsługę parzystości, fragmentację wolnego miejsca, urządzenie metadanych i działanie zapisów synchronicznych.

Zmierz wpływ skanowania zabezpieczeń i indeksowania na obu urządzeniach końcowych

Antywirus, ochrona punktów końcowych, generowanie miniatur, indeksowanie treści, procesy monitorujące synchronizację i skanery multimediów mogą sprawdzać każdy nowy plik. Ich stały koszt dla każdego obiektu może zdominować obciążenie, gdy w krótkim czasie powstają tysiące elementów.

Przeprowadź jeden kontrolowany test, tymczasowo wykluczając z ochrony w czasie rzeczywistym i indeksowania tylko dedykowany folder testowy, a następnie natychmiast przywróć ochronę. Celem nie jest pozostawienie wyłączonych zabezpieczeń, lecz ustalenie, czy spowolnienie wynika z kontroli każdego pliku z osobna.

Jeśli liczba plików na sekundę gwałtownie wzrośnie, utwórz bezpieczniejsze, długoterminowe wykluczenie obejmujące tylko zaufany katalog przejściowy kopii zapasowych lub wygenerowane dane pamięci podręcznej albo zaplanuj skanowanie po zakończeniu transferu. Jeśli wynik się nie zmieni, przywróć pierwotne ustawienia i zamiast dodawać kolejne niewyjaśnione wyjątki, skup się na działaniu narzędzia do kopiowania.

Porównaj narzędzia do kopiowania i współbieżność bez zmiany zbioru danych

Eksplorator plików, Finder, Robocopy, rsync, klienci tworzenia kopii zapasowych i narzędzia do archiwizacji mogą różnić się głębokością kolejek, wywołaniami metadanych, zasadami ponawiania prób i stopniem równoległości. Porównaj dwa narzędzia na tym samym drzewie źródłowym i w tej samej lokalizacji docelowej, zamiast porównywać różne obciążenia.

Omówienie skanowania dużej liczby plików przez Resilio pokazuje, dlaczego zadanie może nadal być ograniczone przez operacje na metadanych, nawet gdy zmienia się niewiele danych. Większa liczba wątków może ukryć część opóźnień, ale może też przeciążyć NAS-a równoczesnym tworzeniem plików.

Zwiększaj współbieżność po jednym stopniu i zatrzymaj się, gdy liczba plików na sekundę przestanie rosnąć, opóźnienia gwałtownie wzrosną albo NAS zacznie kolejkować zapisy. Pozostaw ustawienie, które konsekwentnie poprawia wydajność rzeczywistego obciążenia, a nie najwyższą wartość dozwoloną przez narzędzie.

Wybierz najmniejszą poprawkę na podstawie wzorca wyników

Diagnoza powinna wskazywać jeden dominujący etap: przepustowość sieci, odczyty ze źródła, tworzenie plików na NAS-ie, skanowanie przez oprogramowanie zabezpieczające, działanie żądań SMB albo narzędzie do kopiowania. Nie łącz wszystkich możliwych optymalizacji w jednym eksperymencie, bo uzyskana zmiana szybkości nie wyjaśni już przyczyny.

Wyjaśnienie ZimaSpace, jak liczba plików zwiększa obciążenie NAS-a, pokazuje, dlaczego w przypadku tego obciążenia liczba plików na sekundę może mieć większe znaczenie niż MB/s.

Zaakceptuj poprawkę tylko wtedy, gdy ten sam zestaw małych plików działa lepiej w kolejnych próbach, bez pogorszenia szybkości pracy z dużymi plikami, uprawnień, przywracania danych ani responsywności NAS-a. Gdy odzyskiwanie pojedynczych plików nie jest potrzebne, spakowanie niezmiennych małych plików do archiwum może zmniejszyć narzut związany z obsługą obiektów, ale to decyzja dotycząca przepływu pracy, a nie uniwersalny sposób na naprawę SMB.

Wsparcie i porady

Więcej do przeczytania

Get More Builds Like This

Stay in the Loop

Get updates from Zima - new products, exclusive deals, and real builds from the community.

Stay in the Loop preferences

We respect your inbox. Unsubscribe anytime.