Come la cache calda modifica le richieste Plex ripetute

Una cache calda modifica le richieste Plex ripetute, perché i dati che la prima volta erano costosi da recuperare potrebbero essere già disponibili nella memoria più veloce o nella cache locale.

Questa seconda richiesta più veloce è un comportamento utile in produzione, ma può trarre in inganno nei test di capacità. Un poster, un oggetto di metadati, una pagina del filesystem o un file letto di recente possono essere restituiti rapidamente senza percorrere lo stesso percorso di archiviazione della prima richiesta. Un confronto utile indica lo stato della cache, le dimensioni del working set e la pressione sulla memoria, così che la velocità delle richieste ripetute non venga scambiata per una capacità illimitata del server.

La prima richiesta può recuperare i dati da uno storage più lento

Un primo accesso può richiedere al sistema operativo o all’applicazione di leggere i dati da un SSD, un HDD o un filesystem montato in rete. Questo percorso comprende la latenza del dispositivo, le operazioni del filesystem e, possibilmente, la ricerca dei metadati prima che i byte richiesti possano essere forniti a Plex o al client.

Linux normalmente utilizza la memoria inutilizzata per memorizzare nella cache i dati dei file, quindi la prima lettura può popolare la page cache. Le letture successive possono evitare parte dell’I/O fisico, finché le pagine necessarie rimangono residenti e l’applicazione non bypassa deliberatamente la cache.

Per un test corretto, annota quale richiesta è davvero la prima dopo che i dati non sono stati consultati di recente. Non presumere che il riavvio del server sia l’unico modo per creare uno stato più freddo e non forzare lo svuotamento della cache su un sistema di produzione solo per inseguire un benchmark sintetico.

Le richieste ripetute possono utilizzare la RAM o le cache dell’applicazione

Una volta richiesti gli stessi dati, diversi livelli possono rispondere più rapidamente. Il sistema operativo può conservare in memoria le pagine dei file, un client può mantenere localmente gli elementi grafici o i dati dell’interfaccia e un’applicazione può riutilizzare oggetti generati o trasformati invece di ricrearli per ogni richiesta.

Le letture ripetute sono uno degli esempi più evidenti in cui le pagine memorizzate nella cache nascondono la latenza dello storage. Questo non rende la misurazione non valida; significa che il risultato descrive un working set caldo, anziché le prestazioni del dispositivo sottostante senza cache.

Il comportamento della cache specifico di Plex può comparire anche nelle immagini generate. Una richiesta ripetuta di un’immagine può riutilizzare un file di cache precedente, un esempio concreto del motivo per cui il lavoro ripetuto dell’interfaccia può seguire un percorso diverso dalla prima richiesta.

Una cache calda aiuta i metadati più di ogni lettura multimediale

La navigazione in una libreria accede a molti piccoli oggetti di metadati e grafiche, quindi mantenere i dati utilizzati più spesso vicino alla memoria può modificare sensibilmente la reattività dell’interfaccia. Al contrario, un lungo streaming sequenziale di un film può leggere dati che vengono utilizzati una sola volta e poi sostituiti dalle porzioni successive del file.

Le librerie Plex di grandi dimensioni possono creare cache di metadati lato client considerevoli, perché le grafiche e le informazioni della libreria vengono consultate ripetutamente. Le cache dei metadati possono crescere anche quando i file video rimangono sul server.

La distinzione è importante quando si interpreta l’affermazione “Plex sembra più veloce”. Una griglia di poster calda non dimostra che lo storage possa sostenere più streaming simultanei e un segmento di file memorizzato nella cache non dimostra che l’intero film sia contenuto nella memoria. Specifica il tipo di richiesta prima di trasformare una risposta calda in una conclusione sulla capacità.

-15% OFF

ZimaBoard 2 - Mini server domestico per la tua grande idea

Single board computer zimaboard2

$339.00 - $519.00

Buy Now

Lo svuotamento della cache può modificare nuovamente le prestazioni

La condizione calda è temporanea. Quando le applicazioni hanno bisogno di memoria, il sistema operativo può recuperare le pagine memorizzate nella cache e le cache dei client possono espellere gli oggetti più vecchi per fare spazio a quelli nuovi. Di conseguenza, una richiesta che era veloce un’ora fa può tornare al percorso più lento senza che si sia verificato alcun guasto hardware.

La page cache è progettata per utilizzare la memoria disponibile e restituirla quando altre attività hanno bisogno di spazio. Una spiegazione pratica del recupero della cache sotto pressione di memoria aiuta a capire perché la stessa richiesta ripetuta può cambiare quando cambiano il working set del server e i servizi simultanei.

Verifica questo comportamento ripetendo la stessa richiesta dopo un intervallo di inattività e poi di nuovo mentre sono attivi processi che consumano molta memoria. Se la latenza aumenta solo quando il working set utile viene espulso, il risultato indica la permanenza dei dati nella cache e la pressione sulla memoria, non un disco diventato improvvisamente più lento.

Separa la velocità con cache calda dalla capacità sostenibile

Un test di capacità dovrebbe includere almeno un primo accesso o un accesso più freddo, un accesso ripetuto con cache calda e un carico sostenuto più grande della cache utile. L’obiettivo non è eliminare la cache, ma capire quale livello ha determinato ciascun risultato e se le risorse sottostanti dispongono ancora di margine quando il riutilizzo smette di essere d’aiuto.

Un risultato con cache calda è valido quando il carico di lavoro in produzione riutilizza effettivamente gli stessi dati. Diventa fuorviante quando un benchmark breve viene generalizzato a una libreria molto più grande, a un numero maggiore di client o a un working set che non rientra più nella memoria disponibile. Considera lo stato della cache parte delle condizioni del test, proprio come client, bitrate e concorrenza.

Quando la decisione riguarda nello specifico le letture ripetute da un NAS, confronta la cache di lettura SSD con il disco diretto. Per Plex, la lezione duratura è più semplice: i dati caldi modificano la latenza, ma solo un test sostenuto e più ampio mostra ciò che il server può mantenere quando la cache non copre più il percorso sottostante.