Co powoduje wzmacnianie zapisu SSD podczas dużego importu embeddingów?

Eva Wong

IceWhale author

Eva Wong jest Technicznym pisarzem i stałym majsterkowiczem w ZimaSpace. Całe życie geek z pasją do homelabów i oprogramowania open-source, specjalizuje się w tłumaczeniu skomplikowanych koncepcji technicznych na przystępne, praktyczne przewodniki. Eva wierzy, że samodzielne hostowanie powinno być zabawą, a nie czymś onieśmielającym. Poprzez swoje samouczki umożliwia społeczności rozwiewanie tajemnic konfiguracji sprzętu, od budowy pierwszego NAS po opanowanie kontenerów Docker.

What Causes SSD Write Amplification During Large Embedding Ingests? - Zima Store Online

Duże operacje wczytywania embeddingów zwiększają liczbę zapisów na dysku SSD, ponieważ każdy wektor logiczny może być rejestrowany, indeksowany, konsolidowany, kopiowany i ponownie zapisywany wewnątrz dysku.

Serwer domowy może wczytać zaledwie kilkadziesiąt gigabajtów wektorów, podczas gdy liczniki SMART raportują znacznie większą ilość zapisów do pamięci NAND. Potok może zapisywać dane źródłowe w obszarze tymczasowym, embeddingi, dziennik WAL, metadane, krawędzie grafu, niezmienne segmenty, wyniki konsolidacji i migawki. Mechanizm copy-on-write systemu plików oraz odzyskiwanie pamięci przez SSD dodają kolejne przepisywania na niższych warstwach, których baza wektorowa nie raportuje bezpośrednio.

Trwałość i budowanie indeksu zwielokrotniają zapisy logiczne

Trwałe wczytywanie może dopisywać wektor do dziennika WAL, aktualizować metadane, zapisywać zrzut pamięci operacyjnej na dysku oraz budować struktury grafowe lub kwantyzacyjne. Małe zatwierdzenia częściej powtarzają nagłówki, dzienniki i granice fsync niż jedna duża transakcja.

Definicja zapisów fizycznych i logicznych wyraża współczynnik zwielokrotnienia jako iloraz liczby fizycznie zapisanych bajtów i liczby logicznych żądanych bajtów. Mierz ten współczynnik na każdej granicy, zamiast porównywać wyłącznie końcowy rozmiar indeksu z dokumentami źródłowymi. To rozróżnienie pozostaje widoczne podczas późniejszych testów domowych.

Jeśli liczba zapisów hosta już znacznie przekracza rozmiar ładunku embeddingów, zwielokrotnienie zaczyna się w aplikacji lub bazie danych. Duża liczba zapisów NAND przy umiarkowanej liczbie zapisów hosta wskazuje na niższą warstwę stosu pamięci masowej. Wynik pośredni musi pozostać możliwy do zbadania, zanim zostanie zastosowana automatyzacja.

Niezmienne segmenty i konsolidacja ponownie zapisują istniejące dane

Magazyny zoptymalizowane pod kątem zapisu opróżniają nowe posortowane segmenty, a następnie łączą je, aby ograniczyć zwielokrotnienie odczytów i liczbę znaczników usunięcia. Duża operacja wczytywania może uruchomić nakładające się konsolidacje, które ponownie zapisują starsze wektory i metadane wraz z nową partią. Tę granicę należy mierzyć osobno w realistycznych warunkach pracy.

Analiza kosztu zapisów konsolidacji wyjaśnia, jak konsolidacja wymienia mniejszą liczbę plików do odczytu na dodatkowe przepisywane bajty. Objawem jest ruch zapisów w tle, który utrzymuje się po zakończeniu generowania embeddingów. Praktyczne konsekwencje są widoczne, gdy kilka źródeł konkuruje o ograniczony kontekst.

Częste małe opróżnienia tworzą więcej pracy związanej z łączeniem niż większe, odpowiednio wyrównane partie, ale opóźnianie opróżniania zwiększa wymagania wobec pamięci i ryzyko podczas odzyskiwania. Właściwą miarą jest liczba bajtów przepisanych na każdy trwały wektor, a nie sama liczba zadań konsolidacji.

Copy-on-Write i odzyskiwanie pamięci przez flash dodają ukryte warstwy

Migawki systemu plików lub copy-on-write mogą zachowywać stare bloki podczas zmian indeksów. Wewnątrz SSD strony nie mogą być nadpisywane w miejscu; prawidłowe dane mogą być kopiowane z częściowo nieaktualnych bloków kasowania przed ich odzyskaniem. Ta zależność powinna pozostać wyraźnie widoczna w końcowym interfejsie.

Szczegółowa analiza zwielokrotnienia zapisów na poziomie pamięci flash rozdziela przepisywanie na poziomie bazy danych od zachowania stron pamięci flash i bloków kasowania. Mała ilość wolnego miejsca i niewielki nadmiar przestrzeni zwiększają zwielokrotnienie na poziomie urządzenia podczas długotrwałych losowych zapisów. Wynik należy więc sprawdzić względem pierwotnych danych.

Granica awarii pojawia się wtedy, gdy oczekiwane sekwencyjne budowanie indeksu zostaje pomylone ze szkodliwym zwielokrotnieniem zapisów NAND. Liczniki zapisów hosta, alokacja systemu plików i zapisy NAND urządzenia muszą być porównywane w tym samym przedziale czasu, a jednostki SMART należy prawidłowo zinterpretować.

Featured

ZimaCube 2 Osobisty domowy NAS w chmurze

ZimaCube2

Oblicz zwielokrotnienie na czterech granicach pamięci masowej

Rejestruj liczbę bajtów ładunku embeddingów, bajty WAL i bazy danych, zapisy tymczasowe i zapisy segmentów, bajty odczytywane i zapisywane podczas konsolidacji, przydzielone bloki systemu plików, zmiany migawek, zapisy hosta na SSD, zapisy NAND, ilość wolnego miejsca, TRIM, rozmiar transakcji, liczbę opróżnień oraz czas trwania wczytywania.

Powiąż rywalizację o zasoby z rywalizacją podczas wczytywania embeddingów, a następnie powtórz testy kolejno z dużymi zatwierdzeniami, większymi opróżnieniami, wstrzymanymi migawkami i większą ilością wolnego miejsca, zmieniając tylko jedną zmienną naraz. Zachowaj bez zmian dokumenty, embeddingi, parametry indeksu i ustawienia trwałości. To rozróżnienie pozostaje widoczne podczas późniejszych testów domowych.

Optymalizuj warstwę o największym zmierzonym współczynniku. Grupuj zatwierdzenia, gdy dominuje księgowanie, dostosuj konsolidację, gdy dominują przepisywania, zarządzaj migawkami, gdy dominuje copy-on-write, i zachowaj zapasową pojemność, gdy dominuje odzyskiwanie pamięci przez urządzenie. Wynik pośredni musi pozostać możliwy do zbadania, zanim zostanie zastosowana automatyzacja.