Requisitos de hardware para NAS con IA: CPU, RAM, GPU, almacenamiento y red
Respuesta rápida
Los requisitos de hardware AI NAS dependen de la carga de trabajo, no solo de la etiqueta AI NAS. Un sistema que realiza OCR en segundo plano o indexación de fotos necesita un perfil de hardware muy diferente a uno que ejecuta LLM locales, detección de cámara en tiempo real, RAG de contexto largo o inferencia multiusuario.
Para muchas cargas de trabajo IA centradas en almacenamiento, una configuración inicial práctica es:
- Una CPU moderna multinúcleo
- 16GB de RAM del sistema
- Almacenamiento HDD para archivos fuente protegidos y capacidad masiva
- Una capa SSD o NVMe para aplicaciones, bases de datos, miniaturas, índices y modelos
- Red 1GbE o 2.5GbE, según tamaño de archivo y número de usuarios
- Aceleración opcional iGPU, NPU, TPU o GPU cuando el software objetivo lo soporte
Sistemas más exigentes pueden necesitar de 32GB a 64GB o más de RAM, mayor capacidad NVMe, una GPU discreta o memoria unificada de alta capacidad, mejor refrigeración y red 10GbE cuando el cómputo IA se ejecuta en un servidor separado.
No existe una especificación mínima universal para todos los AI NAS. La configuración correcta depende de:
- La tarea de IA
- El tamaño de la biblioteca de archivos
- Si el procesamiento es en tiempo real o en segundo plano
- El modelo y tamaño del contexto
- El número de usuarios concurrentes
- Si la IA se ejecuta directamente en el NAS o en otra máquina local
- Si el software puede usar el acelerador seleccionado
La regla más importante es simple: comienza con la carga de trabajo, luego dimensiona CPU, memoria, aceleración, almacenamiento, red y refrigeración en función de esa carga.
¿De qué dependen realmente los requisitos de un servidor AI?
Un AI NAS realiza dos trabajos diferentes al mismo tiempo. Debe seguir siendo un sistema de almacenamiento confiable mientras procesa los datos almacenados.
Un NAS tradicional puede manejar principalmente:
- Compartición de archivos
- Copias de seguridad de computadoras y teléfonos
- Instantáneas e historial de versiones
- Almacenamiento y transmisión de medios
- Permisos de usuario
- Acceso remoto
Un sistema consciente de IA puede añadir:
- OCR y análisis de documentos
- Reconocimiento de fotos
- Detección de objetos
- Transcripción de voz
- Generación de incrustaciones
- Búsqueda vectorial e híbrida
- RAG privado
- Inferencia local de LLM
La diferencia entre estos dos roles se explica más a fondo en Hardware AI NAS comparado con requisitos de NAS tradicional.
Tipo de carga de trabajo
Diferentes tareas de IA estresan diferentes partes del sistema.
| Carga de trabajo | Presión principal del hardware | Patrón típico de procesamiento |
|---|---|---|
| OCR e indexación de documentos | CPU, RAM del sistema, almacenamiento en base de datos y latencia NVMe | Generalmente procesamiento por lotes o en segundo plano |
| Reconocimiento de fotos | CPU, RAM, miniaturas, incrustaciones y aceleración de visión opcional | Importación inicial pesada seguida de actualizaciones incrementales |
| Búsqueda semántica | RAM, almacenamiento activo, modelo de incrustación e índice vectorial | Indexación en segundo plano con recuperación interactiva |
| RAG privado | Extracción de documentos, RAM, NVMe, servicios de recuperación y hardware opcional para generación | Ingesta en segundo plano más preguntas interactivas |
| Detección en cámaras de seguridad | Decodificación de video, aceleración de detectores, escrituras continuas en almacenamiento y estabilidad de red | Procesamiento continuo en tiempo real |
| Chat local con LLM | RAM o VRAM, ancho de banda de memoria, caché de contexto y carga de modelos | Inferencia interactiva |
| Servicios AI multiusuario | Capacidad de memoria, concurrencia, rendimiento de GPU y refrigeración | Inferencia paralela sostenida |
Procesamiento en segundo plano vs en tiempo real
Las cargas de trabajo en segundo plano pueden tolerar hardware más lento porque pueden ejecutarse durante la noche o en períodos de baja actividad de almacenamiento.
Ejemplos incluyen:
- Escaneo de una nueva biblioteca de fotos
- Generación de miniaturas
- Ejecución de OCR en escaneos entrantes
- Construcción de embeddings
- Actualización de índices de documentos
Las cargas de trabajo en tiempo real requieren menor latencia y rendimiento más sostenido.
Ejemplos incluyen:
- Detección de objetos en cámaras de seguridad
- Chat local interactivo con LLM
- Transcripción en vivo
- Varios usuarios RAG simultáneos
- Inferencia multimodal en tiempo real
Un NAS puede ejecutar indexación en segundo plano con éxito en hardware modesto mientras ofrece una experiencia pobre para inferencia interactiva de LLM. La urgencia del procesamiento es tan importante como la tarea misma.
Tamaño del modelo y de la biblioteca
La demanda de hardware crece a través de dos dimensiones independientes:
- El tamaño del modelo AI
- El tamaño de la biblioteca de datos que se está indexando
Un modelo pequeño aún puede generar una carga pesada cuando debe procesar millones de imágenes, cientos de miles de documentos o años de video.
Un modelo grande puede generar una alta presión de memoria incluso cuando la colección de documentos es pequeña.
Planifique para ambos:
- Archivos de modelos
- Contexto y memoria de tiempo de ejecución
- Bases de datos de aplicaciones
- Miniaturas y vistas previas
- Salida OCR
- Embeddings e índices vectoriales
- Archivos temporales de procesamiento
- Crecimiento de la biblioteca de datos original
Número de usuarios y solicitudes paralelas
Un sistema que atiende a una persona de forma intermitente tiene requisitos diferentes a un servicio compartido que maneja varias consultas simultáneas.
La documentación oficial de memoria y concurrencia de Ollama explica que la carga concurrente de modelos depende de la RAM o VRAM disponible del sistema. También señala que las solicitudes paralelas aumentan la asignación efectiva de contexto y que la memoria requerida escala con las solicitudes paralelas y la longitud del contexto.
Esto significa que dimensionar un modelo local solo por su tamaño de descarga es incompleto. El sistema también necesita memoria para:
- Sobrecarga de tiempo de ejecución
- Contexto y caché KV
- Solicitudes paralelas
- Modelos adicionales cargados
- Servicios y contenedores NAS
AI en el NAS vs Cómputo separado
Ejecutar AI directamente en el NAS reduce el movimiento de datos y puede simplificar los flujos de trabajo adyacentes al almacenamiento. Separar el cómputo AI ofrece a los usuarios más libertad para actualizar GPUs, memoria, refrigeración y tiempos de ejecución de modelos de forma independiente.
Ejecute la carga de trabajo directamente en el NAS cuando sea:
- Estrechamente conectado a los archivos almacenados
- Ligero o moderado
- Mayormente procesamiento en segundo plano
- Compatible con el sistema operativo y las aplicaciones del NAS
- Poco probable que interrumpa los servicios de respaldo y archivos
Considere un servidor AI separado cuando la carga de trabajo sea:
- Intensivo en GPU
- En tiempo real
- Multiusuario
- Frecuentemente actualizado o experimental
- Demasiado caliente, ruidoso o con alto consumo energético para el NAS
Tres niveles prácticos de hardware AI para NAS
Los siguientes niveles son perfiles de planificación más que mínimos universales de proveedores. Los requisitos reales varían según la aplicación, modelo, longitud del contexto, cuantización, volumen de datos y concurrencia de usuarios.
| Nivel de hardware | Cargas de trabajo típicas | RAM del sistema | Aceleración | Almacenamiento activo | Red |
|---|---|---|---|---|---|
| Nivel 1: IA centrada en almacenamiento | OCR, extracción de metadatos, indexación ligera de fotos, pequeñas incrustaciones, clasificación básica | 16GB es un punto de partida práctico | CPU o iGPU/NPU soportados opcionales | SSD o NVMe para aplicaciones y bases de datos | 1GbE puede ser suficiente; 2.5GbE añade margen |
| Nivel 2: IA local integrada | Reconocimiento de fotos, RAG de documentos, búsqueda semántica, múltiples contenedores, modelos locales pequeños | 32GB es un objetivo de planificación más sólido | iGPU, NPU, TPU o GPU de nivel básico soportados | NVMe para modelos, índices, bases de datos y contenedores | 2.5GbE es práctico; 10GbE para acceso externo de alto volumen |
| Nivel 3: Servidor de IA pesado | Modelos LLM más grandes, contexto largo, IA multi-cámara, inferencia multimodal, múltiples usuarios | 64GB o más según modelo y concurrencia | GPU discreta o memoria unificada de alta capacidad | Capa de trabajo NVMe más grande con almacenamiento fuente protegido | 10GbE se vuelve más relevante cuando el cómputo está separado |
Nivel 1: IA centrada en almacenamiento e indexación en segundo plano
Este nivel es apropiado cuando el almacenamiento sigue siendo la responsabilidad principal y la IA funciona como una mejora en segundo plano.
Las cargas de trabajo típicas incluyen:
- OCR para documentos escaneados
- Clasificación básica de documentos
- Extracción de metadatos
- Etiquetado ligero de fotos
- Pequeños trabajos de incrustación
- Consultas locales ocasionales
Una GPU dedicada puede no ser necesaria. El procesamiento por CPU puede ser aceptable cuando los usuarios están dispuestos a esperar trabajos en segundo plano.
Las prioridades importantes son:
- RAM suficiente para aplicaciones y bases de datos
- Una capa SSD o NVMe para datos activos de aplicaciones
- Capacidad confiable de HDD para archivos fuente
- Comportamiento estable de almacenamiento y respaldo
Nivel 2: IA local integrada y RAG privado
Este nivel es adecuado para usuarios que ejecutan varias aplicaciones conscientes de IA en el mismo sistema.
Ejemplos incluyen:
- Reconocimiento de fotos y búsqueda semántica de medios
- Búsqueda privada de documentos
- RAG local
- Bases de datos vectoriales
- Múltiples aplicaciones Docker
- Modelos LLM locales ligeros
En este nivel, 32GB de RAM ofrecen más espacio para bases de datos, índices, contenedores de aplicaciones, caché, servicios de archivos y generación local.
Las diferencias de hardware entre IA local para fotos y cargas de trabajo RAG de documentos son importantes porque la indexación visual y la recuperación privada de documentos generan diferentes demandas de CPU, memoria, almacenamiento y aceleración.
Nivel 3: Inferencia pesada y IA multiusuario
Este nivel está más cerca de un servidor local de IA dedicado que de un NAS convencional de bajo consumo.
Las cargas de trabajo típicas incluyen:
- Modelos de lenguaje local más grandes
- Análisis de documentos con contexto largo
- Múltiples usuarios simultáneos
- Detección en tiempo real con múltiples cámaras
- Modelos multimodales
- Generación de imágenes
- Varios modelos cargados simultáneamente
Los usuarios deben planificar para:
- Más RAM del sistema
- VRAM suficiente o memoria unificada
- Refrigeración potente
- Mayor consumo de energía
- Almacenamiento NVMe rápido
- Mayor separación entre el cómputo de IA y los servicios principales de NAS
Una comparación de un servidor usado, mini PC y NAS para cargas de trabajo AI locales puede ayudar a determinar si un chasis centrado en almacenamiento sigue siendo la plataforma de cómputo adecuada.
¿Cuánta memoria necesita un AI NAS?
La memoria suele ser el primer límite que encuentran los usuarios porque las cargas de trabajo de AI NAS consumen varios grupos de memoria diferentes.
La fórmula de planificación más útil es:
Requisito práctico de memoria = Pesos del modelo + Sobrecarga de tiempo de ejecución + Caché de contexto + Solicitudes paralelas + Bases de datos e índices + Espacio adicional para NAS y contenedores
La RAM del sistema, la VRAM y la memoria unificada son diferentes
| Tipo de memoria | Rol principal | Uso típico de AI NAS |
|---|---|---|
| RAM del sistema | Memoria operativa general | Servicios de archivos, contenedores, bases de datos, inferencia en CPU, OCR, índices y virtualización |
| VRAM | Memoria dedicada de GPU | Modelos residentes en GPU, caché de contexto, modelos de visión e inferencia acelerada |
| Memoria unificada | Pool de memoria compartida disponible para CPU y GPU | Carga flexible de modelos cuando es compatible con la plataforma y el tiempo de ejecución |
Se requiere RAM del sistema incluso cuando la inferencia se ejecuta en una GPU. El sistema operativo NAS, los servicios de archivos, las bases de datos, los contenedores, los índices y las aplicaciones en segundo plano continúan usando memoria del sistema.
La VRAM determina cuánto de un modelo puede permanecer en la GPU y cuánto espacio está disponible para el contexto y las solicitudes paralelas.
La memoria unificada puede reducir la división rígida entre la RAM del sistema y la VRAM, pero sigue limitada por la capacidad total, el ancho de banda, el soporte de software y el comportamiento térmico.
Por qué el tamaño del modelo es solo el punto de partida
Un archivo de modelo que parece caber dentro de la memoria disponible aún puede requerir espacio adicional para:
- Bibliotecas de tiempo de ejecución
- Buffers temporales
- Contexto y caché KV
- Procesamiento de indicaciones
- Solicitudes paralelas
- Otros modelos cargados
- El sistema operativo y las aplicaciones
Ollama puede informar si un modelo está cargado completamente en GPU, completamente en memoria del sistema o dividido entre CPU y GPU. Su documentación también explica que varios modelos pueden permanecer cargados solo cuando hay suficiente memoria disponible. Comportamiento de carga de modelos y memoria de Ollama proporciona los detalles relevantes del tiempo de ejecución.
Longitud de contexto, caché KV y concurrencia
Ventanas de contexto más largas aumentan los requisitos de memoria porque el tiempo de ejecución debe retener más estado de atención.
Los usuarios paralelos aumentan nuevamente el requisito. Un servidor que maneja varias solicitudes simultáneas puede asignar considerablemente más memoria de contexto que un sistema de un solo usuario.
Al planificar hardware local para LLM, pruebe:
- La longitud real del contexto requerida
- El número de usuarios simultáneos
- El número de modelos cargados
- Si la inferencia en GPU requiere residencia completa en VRAM
- Si se admite la cuantización de caché KV
Lo que 16GB, 32GB y 64GB+ pueden soportar de manera realista
| RAM del sistema | Dirección razonable para la planificación | Limitación principal |
|---|---|---|
| 16GB | Servicios NAS, algunos contenedores, OCR, indexación ligera de fotos, extracción de metadatos y bases de datos pequeñas | Espacio limitado para varias aplicaciones pesadas o modelos locales más grandes |
| 32GB | Múltiples contenedores, AI para fotos, búsqueda de documentos, base de datos vectorial, RAG privado y generación local ligera | Los límites de modelo y concurrencia aún dependen de la aceleración y el tiempo de ejecución |
| 64GB+ | Índices más grandes, múltiples usuarios, virtualización, inferencia más pesada en CPU o memoria unificada, y varios servicios AI | Más memoria no soluciona una aceleración débil, latencia de almacenamiento o incompatibilidad de software |
Estos rangos no son garantías. Una aplicación bien optimizada puede usar menos, mientras que una biblioteca grande, contexto largo, varios servicios o múltiples usuarios pueden requerir más.
Cuantización y descarga CPU–GPU
La cuantización reduce los requisitos de memoria del modelo almacenando pesos con menor precisión. La compensación puede incluir menor precisión o cambios en el rendimiento, dependiendo del modelo y el formato de cuantización.
llama.cpp inferencia híbrida CPU–GPU puede acelerar parcialmente modelos que son más grandes que la capacidad total de VRAM dividiendo el trabajo entre CPU y GPU.
Esto amplía la compatibilidad, pero no debe considerarse equivalente a cargar el modelo completo en la memoria rápida de la GPU. La descarga puede reducir la velocidad porque los datos deben moverse a través de límites de memoria y bus.
¿Qué CPU necesita un AI NAS?
Responsabilidades de la CPU más allá de la inferencia AI
La CPU coordina el sistema completo incluso cuando una GPU, NPU, iGPU o TPU realiza parte de la carga de inferencia.
La CPU puede encargarse de:
- Servicios de archivos NAS
- Encriptación
- Orquestación de contenedores
- Operaciones de bases de datos
- Análisis de documentos
- Preprocesamiento de imágenes
- Decodificación de medios
- Extracción de metadatos
- Tráfico de red
- Alimentando datos a los aceleradores
Un acelerador potente puede estar infrautilizado cuando la CPU no puede preparar, decodificar o entregar datos lo suficientemente rápido.
Cargas de trabajo mixtas de NAS y contenedores
Los sistemas AI NAS suelen ejecutar varios servicios simultáneamente:
- Compartición de archivos SMB o NFS
- Trabajos de respaldo
- Servidores multimedia
- Aplicaciones de fotos
- Bases de datos de documentos
- Búsqueda vectorial
- Tiempos de ejecución del modelo
Múltiples núcleos e hilos proporcionan más margen para la planificación de estas cargas de trabajo mixtas. Sin embargo, solo la cantidad de núcleos no es suficiente. También importan la arquitectura, el soporte de instrucciones, el comportamiento del reloj, los motores de video, los límites de potencia y la compatibilidad del software.
Antes de elegir el hardware, alinea el sistema operativo con la combinación prevista de almacenamiento y aplicaciones. Los requisitos del sistema operativo para servidor doméstico para aplicaciones NAS y Docker explican por qué los sistemas centrados en almacenamiento, aplicaciones o virtualización priorizan el hardware de manera diferente.
Cuándo es práctico usar solo CPU para IA
El procesamiento solo con CPU puede ser práctico cuando:
- La carga de trabajo se ejecuta en segundo plano.
- La biblioteca de archivos es modesta.
- El modelo es pequeño o está muy cuantizado.
- La latencia no es crítica.
- Solo un usuario realiza solicitudes ocasionales.
Las configuraciones solo con CPU se vuelven menos atractivas cuando los usuarios esperan:
- Respuestas rápidas e interactivas de LLM
- Varios usuarios simultáneos
- Análisis de video en tiempo real
- Modelos multimodales grandes
- Generación de incrustaciones de alto volumen
¿Necesita un NAS de IA un NPU, TPU, iGPU o GPU?
Un NAS de IA no necesita automáticamente una GPU discreta. Solo necesita un acelerador cuando este mejora la aplicación objetivo.
| Tipo de cómputo | Mejor ajuste | Ventaja principal | Limitación principal |
|---|---|---|---|
| CPU | OCR, análisis, pequeñas incrustaciones, metadatos y tareas en segundo plano | Amplia compatibilidad y despliegue sencillo | Inferencia sostenida más lenta |
| iGPU | Decodificación de video, modelos de visión soportados e inferencia ligera | Bajo consumo adicional y motores multimedia integrados | Soporte limitado de modelos y tiempo de ejecución |
| NPU | Soporte para visión de bajo consumo, clasificación o inferencia en segundo plano | Procesamiento eficiente siempre activo | El soporte de aplicaciones es muy específico de la carga de trabajo |
| TPU o detector en el borde | Canalizaciones de detección de objetos soportadas | Baja latencia de inferencia y reducción de carga de CPU | Formatos de modelo y casos de uso limitados |
| GPU discreta | LLMs locales, modelos multimodales, generación de imágenes e inferencia multiusuario | Alto rendimiento, ancho de banda de memoria y soporte más amplio de frameworks de IA | Requisitos de energía, calor, ruido, VRAM, controladores y contenedores |
La decodificación de video por hardware y la detección de IA son diferentes
Las cargas de trabajo de cámaras demuestran por qué una especificación de acelerador no puede describir el sistema completo.
Una canalización de IA para cámaras puede incluir:
- Recepción del flujo de red
- Decodificación del video
- Ejecución de detección de movimiento
- Preparación de cuadros
- Ejecución de detección de objetos
- Escritura de grabaciones y metadatos de eventos
La decodificación de video puede ejecutarse en una iGPU o motor multimedia, mientras que la detección de objetos se ejecuta en otro detector.
La matriz de soporte de hardware y detector Frigate documenta múltiples vías de aceleración y explica que un detector soportado puede reducir la latencia de detección y la carga de la CPU.
Por qué el soporte de software importa más que TOPS
TOPS es una métrica teórica de cómputo. No demuestra que las aplicaciones del usuario puedan usar el hardware.
Antes de comprar un acelerador, verifica:
- Soporte del sistema operativo
- Disponibilidad de controladores
- Passthrough de contenedores
- Compatibilidad en tiempo de ejecución
- Formatos de modelo soportados
- Integración a nivel de aplicación
- Rendimiento documentado para la carga de trabajo real
La mejor elección de hardware suele ser el acelerador con soporte de aplicación maduro, no el que tiene el número publicitado más alto.
¿Cómo debería un NAS de IA dividir el almacenamiento entre HDD y NVMe?
Discos duros para datos fuente y capacidad
Los HDD siguen siendo apropiados para:
- Bibliotecas de fotos y videos
- Archivos de documentos
- Grabaciones de cámaras de seguridad
- Copias de seguridad
- Grandes conjuntos de datos
- Archivos fuente a largo plazo
Ofrecen un menor costo por terabyte y permiten que un NAS de IA preserve grandes archivos privados sin requerir un almacenamiento totalmente flash.
NVMe para aplicaciones, modelos, bases de datos e índices
Los datos activos de aplicaciones de IA suelen beneficiarse de una menor latencia.
El almacenamiento NVMe es útil para:
- Volúmenes de contenedores
- Bases de datos de aplicaciones
- Modelos de IA
- Miniaturas
- Salida OCR
- Bases de datos de incrustaciones
- Índices vectoriales
- Archivos temporales de procesamiento
- Caché
Ejecutar todos los servicios activos directamente desde un arreglo de discos mecánicos puede hacer que el sistema se sienta lento incluso cuando hay recursos de CPU y GPU disponibles.
Sobrecarga de almacenamiento por aplicaciones de IA
Las aplicaciones conscientes de IA crean más datos que solo la biblioteca de archivos original.
Planifique capacidad para:
- Imágenes de vista previa
- Miniaturas
- Datos faciales
- Texto OCR
- Transcripciones
- Índices
- Incrustaciones
- Archivos de modelos
- Registros de aplicaciones
Determine qué datos derivados deben respaldarse y cuáles pueden regenerarse a partir de archivos fuente protegidos.
¿Qué tan rápida debe ser la red?
La velocidad de la red no acelera directamente un modelo que se ejecuta dentro del NAS. Afecta la rapidez con que los archivos fuente, conjuntos de datos, modelos y resultados se mueven entre almacenamiento, usuarios y computación externa.
| Nivel de red | Uso razonable | Limitación potencial |
|---|---|---|
| 1GbE | Almacenamiento básico en casa, copias de seguridad, acceso ligero a fotos y IA ejecutándose en el NAS | Las transferencias grandes y la computación externa pueden volverse limitadas |
| 2.5GbE | Bibliotecas multimedia grandes, copias de seguridad más rápidas, varios usuarios y flujos de trabajo locales moderados | Puede seguir limitando video de alto rendimiento o servidores externos de IA |
| 10GbE | Computación externa de IA, compartidos respaldados por NVMe, video multiusuario y grandes conjuntos de datos | Requisitos más altos para switch, cableado, adaptador y rendimiento de almacenamiento |
Cuándo 1GbE es suficiente
1GbE puede seguir siendo suficiente cuando:
- El procesamiento de IA se ejecuta directamente en el NAS.
- La mayoría de los trabajos se ejecutan en segundo plano.
- Solo uno o dos usuarios acceden al sistema.
- Los archivos fuente grandes no se mueven con frecuencia.
Cuándo es útil una actualización a 2.5GbE
2.5GbE ofrece más margen para:
- Importaciones grandes de fotos
- Copias de seguridad locales más rápidas
- Varios usuarios activos
- Archivos multimedia grandes
- Mover archivos de modelos
Es un nivel intermedio útil, pero no debe considerarse un mínimo universal para cada NAS de IA.
Cuándo importa 10GbE para computación externa de IA
10GbE se vuelve más relevante cuando el NAS suministra datos repetidamente a otra máquina.
Ejemplos incluyen:
- Un servidor GPU leyendo documentos privados RAG
- Una estación de trabajo procesando video almacenado en el NAS
- Varios usuarios editando archivos multimedia grandes
- Copias de seguridad de alta velocidad a otro servidor local
- Conjuntos de datos compartidos respaldados por NVMe
Requisitos de hardware según la carga de trabajo de IA
| Carga de trabajo de IA | Presión principal | Requisito en tiempo real | Prioridad de aceleración | Prioridad de almacenamiento |
|---|---|---|---|---|
| OCR e indexación de documentos | CPU, RAM, base de datos y análisis de archivos | Generalmente bajo | Opcional | NVMe para base de datos e índice |
| Reconocimiento de fotos | Indexación inicial, miniaturas, incrustaciones y crecimiento de la base de datos | Generalmente bajo | Opcional pero útil cuando es compatible | Archivo HDD más nivel de trabajo NVMe |
| Búsqueda semántica y RAG | RAM, extracción, incrustaciones, almacenamiento vectorial y generación | Recuperación interactiva | Opcional para incrustaciones; útil para generación local | NVMe para índice activo y datos del modelo |
| Detección en cámaras de seguridad | Decodificación de video, detector de objetos, flujos de red y escrituras en almacenamiento | Alto | iGPU, NPU, TPU o GPU compatibles | Capacidad de grabación continua |
| Inferencia local de LLM | RAM o VRAM, caché de contexto, ancho de banda de memoria y carga del modelo | Interactivo | GPU o memoria unificada preferida | NVMe para archivos de modelos |
| IA local multiusuario | Concurrencia, memoria, rendimiento de GPU, refrigeración y gestión de colas | Alto | Cómputo dedicado más potente | NVMe y almacenamiento compartido confiable |
OCR e indexación de documentos
Los flujos de trabajo de documentos suelen ser por lotes. Los requisitos más importantes suelen ser:
- Una CPU capaz
- Suficiente RAM para varios contenedores y bases de datos
- Almacenamiento activo rápido
- Almacenamiento confiable de archivos fuente
El flujo de trabajo de ingreso de documentos y OCR de Paperless-ngx ilustra cómo el procesamiento de documentos incluye consumo, OCR, metadatos, indexación y preservación del archivo original.
Reconocimiento fotográfico
La IA para fotos crea un procesamiento inicial pesado pero puede no requerir respuestas en tiempo real. La CPU y la RAM manejan los servicios de la aplicación, mientras que la aceleración opcional puede mejorar los trabajos de incrustación de rostros, objetos o visuales.
Las funciones de búsqueda inteligente e indexación de medios de Immich muestran cómo la búsqueda contextual, el texto OCR, las personas reconocidas, los metadatos, la ubicación, la fecha y la información de la cámara pueden formar parte de un sistema de búsqueda.
RAG local y búsqueda semántica
El RAG local es una canalización, no un solo modelo. Puede ser necesario hardware para:
- Extracción de documentos
- Fragmentación
- Generación de incrustaciones
- Almacenamiento vectorial
- Recuperación
- Reordenamiento
- Generación local de respuestas
La generación de incrustaciones e indexación puede ejecutarse en segundo plano, mientras que la generación de respuestas es interactiva. Por lo tanto, los usuarios pueden realizar la recuperación localmente y mover solo la etapa más pesada de generación a otra máquina cuando sea necesario.
Detección en cámaras de seguridad
La IA para cámaras es una de las cargas de trabajo siempre activas más exigentes porque combina:
- Varios flujos de red continuos
- Decodificación de video
- Análisis de movimiento
- Detección de objetos
- Metadatos de eventos
- Escrituras continuas en almacenamiento
El número de cámaras, resolución, tasa de cuadros, configuración de subflujo, tipo de modelo y período de retención pueden importar más que una especificación genérica de GPU.
LLM locales e inferencia multiusuario
Las cargas de trabajo interactivas locales de LLM están principalmente limitadas por:
- Memoria del modelo
- Longitud del contexto
- Ancho de banda de memoria
- Solicitudes paralelas
- Capacidad de GPU o memoria unificada
Un modelo pequeño para un solo usuario puede ejecutarse en hardware moderado. Un modelo más grande que atiende a varios usuarios puede requerir un nodo de cómputo sustancialmente más potente.
¿Debería la IA ejecutarse en el NAS o en un servidor de IA separado?
Ejecutar tareas en segundo plano relacionadas con el almacenamiento en el NAS
Las tareas que naturalmente pertenecen cerca de los datos almacenados incluyen:
- Indexación de fotos después de la copia de seguridad
- OCR para archivos escaneados nuevos
- Extracción de metadatos
- Actualizaciones de incrustación de documentos
- Generación de miniaturas
- Clasificación ligera
Estas cargas de trabajo se benefician del acceso directo a archivos y a menudo pueden ejecutarse en segundo plano sin hardware de clase estación de trabajo.
Separar cargas de trabajo pesadas, calientes o actualizadas con frecuencia
Un servidor AI separado es más atractivo para:
- Modelos LLM locales más grandes
- Generación de imágenes
- Varias transmisiones de cámara
- Inferencia multiusuario
- Modelos y controladores que cambian con frecuencia
- Hardware que produce mucho calor y ruido
La decisión de ubicación de la carga de trabajo se cubre con más detalle en Requisitos de GPU y servidor AI externo para cargas de trabajo NAS .
Mantenga el almacenamiento confiable cuando fallen los servicios de IA
Un diseño dividido puede evitar que una actualización experimental del tiempo de ejecución del modelo o del controlador GPU afecte el almacenamiento principal.
El NAS puede seguir siendo responsable de:
- Archivos originales
- Permisos de usuario
- Instantáneas
- Copias de seguridad
- Copias de bases de datos de aplicaciones
El servidor AI puede seguir siendo responsable de:
- Inferencia de modelos
- Controladores GPU
- Trabajos de incrustación
- Contenedores experimentales
- Detección de cámaras pesada
Lo que las especificaciones de hardware no le dicen
El soporte del acelerador depende del software
Una hoja de especificaciones no puede confirmar si una aplicación soporta:
- El controlador seleccionado
- El sistema operativo
- El tiempo de ejecución del contenedor
- El formato del modelo
- La API del acelerador
- La generación exacta del hardware
Consulte la documentación de compatibilidad actual de la aplicación antes de asumir que se usará una GPU, NPU o TPU.
TOPS no mide el flujo de trabajo completo
TOPS no describe:
- Memoria disponible
- Ancho de banda de memoria
- Compatibilidad del modelo
- Rendimiento de base de datos
- Decodificación de video
- Latencia de almacenamiento
- Rendimiento de red
- Calidad de la aplicación
Un sistema equilibrado con software compatible puede superar a un dispositivo con más TOPS que no puede ejecutar la carga de trabajo requerida de manera eficiente.
Un servidor AI potente puede seguir siendo un mal NAS
Una PC para juegos o estación de trabajo puede ofrecer un excelente rendimiento de inferencia pero aún carecer de:
- Operación eficiente siempre activa
- Expansión conveniente de unidades
- Gestión de grupos de almacenamiento
- Refrigeración silenciosa
- Integración de copias de seguridad
- Permisos de archivo predecibles
Por el contrario, un NAS de bajo consumo puede ser excelente para almacenamiento y no adecuado para IA local pesada.
Utilice la lista de verificación de cuellos de botella de computación, memoria, almacenamiento y red para identificar qué parte del sistema limita el flujo de trabajo actual.
Lista de verificación para comprar hardware AI NAS
-
Defina la carga de trabajo exacta.
Especifique si el sistema ejecutará OCR, indexación de fotos, detección de cámaras, RAG, un chatbot, generación de imágenes u otra tarea.
-
Decida si el procesamiento es en segundo plano o en tiempo real.
Los trabajos en segundo plano pueden tolerar hardware más lento. Los servicios en tiempo real requieren un rendimiento más sostenido.
-
Estime el tamaño de la biblioteca de datos.
Incluya archivos originales, miniaturas, salida OCR, bases de datos, índices, modelos y crecimiento futuro.
-
Estime la memoria del modelo y el contexto.
Incluya sobrecarga de tiempo de ejecución, caché KV, usuarios paralelos y otras aplicaciones.
-
Verifique el soporte de software para el acelerador.
Verifique controladores, paso de contenedores, soporte de tiempo de ejecución y formatos de modelos.
-
Separe la capacidad HDD del almacenamiento NVMe activo.
Proteja los datos fuente en el nivel de capacidad y coloque bases de datos activas y modelos en almacenamiento rápido.
-
Elija la red según la arquitectura.
1GbE puede ser suficiente para procesamiento local; 10GbE es más relevante cuando el cómputo de IA está separado.
-
Proteja la fiabilidad del NAS.
Confirme que la indexación y la inferencia no interrumpirán las copias de seguridad, grabaciones, acceso a archivos o la salud del almacenamiento.
-
Planifique energía, refrigeración y ruido.
Evalúe tanto la eficiencia en reposo como la carga sostenida de IA.
-
Decida si un nodo de cómputo externo es más fácil de actualizar.
No fuerce inferencias pesadas en el NAS cuando una arquitectura dividida sea más práctica.
Conclusión
Los requisitos de hardware para un NAS con IA no pueden reducirse a un mínimo de CPU, una cantidad de RAM o una recomendación de GPU.
El sistema correcto depende de la carga de trabajo:
- OCR e indexación ligera pueden ejecutarse en una CPU capaz con 16GB de RAM y almacenamiento rápido para aplicaciones.
- El reconocimiento de fotos, RAG de documentos y varios contenedores se benefician de más RAM y un nivel de trabajo NVMe.
- Los LLM locales, IA multicámara, contexto largo y múltiples usuarios pueden requerir una GPU discreta, más memoria, mejor refrigeración y cómputo separado.
La RAM del sistema, la VRAM y la memoria unificada resuelven diferentes problemas. Los pesos del modelo son solo una parte de la demanda de memoria; el contexto, la concurrencia, las bases de datos, los índices y los servicios del NAS también requieren capacidad.
Los HDD siguen siendo útiles para datos fuente protegidos, mientras que NVMe es mejor para aplicaciones activas, modelos, cachés e índices. La velocidad de red debe coincidir con la cantidad de datos que se mueven entre el NAS y cualquier servidor externo de IA.
El mejor NAS para IA no es el sistema con la GPU más grande o la mayor calificación TOPS. Es el sistema que ejecuta la carga de trabajo prevista de manera confiable sin comprometer el almacenamiento, las copias de seguridad, la eficiencia energética o el mantenimiento.
Preguntas frecuentes
¿Cuál es una configuración práctica inicial para un NAS con IA?
Una CPU moderna multinúcleo, 16GB de RAM, almacenamiento HDD para archivos fuente, un nivel SSD o NVMe para aplicaciones e índices, y red 1GbE o 2.5GbE pueden ser un punto de partida práctico para cargas de trabajo ligeras en segundo plano.
Esto no es un mínimo universal. Aplicaciones más pesadas pueden requerir más RAM, aceleración, rendimiento de almacenamiento o cómputo separado.
¿Puedo ejecutar IA en un NAS sin una GPU dedicada?
Sí. OCR, indexación de documentos, extracción de metadatos, pequeñas incrustaciones y procesamiento de fotos en segundo plano pueden ejecutarse en hardware CPU.
Una GPU es más útil para LLM locales, modelos multimodales, generación de imágenes, inferencia de alto volumen y varios usuarios simultáneos.
¿Son suficientes 16GB de RAM para un NAS AI?
16GB puede ser suficiente para algunos contenedores, OCR ligero, extracción de metadatos e indexación en segundo plano.
Puede ser restrictivo cuando el sistema también ejecuta grandes bibliotecas de fotos, RAG de documentos, bases de datos vectoriales, virtualización, modelos locales o varios servicios simultáneos.
¿Cuándo debo elegir 32GB de RAM?
32GB es un objetivo más sólido al ejecutar varias aplicaciones AI, índices grandes, RAG privado, reconocimiento fotográfico, bases de datos y generación ligera local en el mismo sistema.
¿Cuándo tiene sentido 64GB o más de RAM?
64GB o más es relevante para índices grandes, virtualización, varios usuarios, flujos de trabajo de contexto largo, inferencia por CPU o memoria unificada y múltiples servicios AI.
¿Cuánta VRAM necesita un LLM local?
Los requisitos de VRAM dependen de la arquitectura del modelo, cuantización, longitud del contexto, caché KV, sobrecarga del entorno y concurrencia.
Usa el entorno de ejecución objetivo para estimar la memoria total en lugar de basarte solo en el conteo de parámetros o tamaño de descarga del modelo.
¿Es suficiente una NPU para LLM locales?
Generalmente no para cargas de trabajo locales LLM más pesadas. Las NPU suelen ser mejores para inferencia eficiente soportada, visión, clasificación o tareas en segundo plano.
La compatibilidad del software determina si una NPU aporta valor práctico.
¿Deben las aplicaciones AI NAS ejecutarse desde HDD o NVMe?
Los medios originales, documentos, grabaciones y copias de seguridad pueden permanecer en almacenamiento HDD. Modelos, contenedores, bases de datos, miniaturas, caché, embeddings e índices suelen estar mejor en almacenamiento SSD o NVMe.
¿Un NAS AI necesita 10GbE?
No. 1GbE puede ser suficiente cuando la AI se ejecuta directamente en el NAS y los archivos grandes no se mueven con frecuencia.
10GbE es más útil para servidores AI externos, datos compartidos respaldados por NVMe, flujos de trabajo de medios grandes y varios usuarios activos.
¿Una red más rápida hace que la inferencia LLM local sea más rápida?
No cuando el modelo y los datos ya están en la misma máquina. La red afecta principalmente al movimiento de datos entre el NAS, usuarios, estaciones de trabajo y nodos de cómputo externos.
¿Debe la inferencia AI pesada ejecutarse fuera del NAS?
A menudo, sí. Modelos más grandes, generación de imágenes, inferencia multiusuario y AI continua en cámaras pueden ser más fáciles de actualizar y refrigerar en un servidor separado.
El NAS puede seguir siendo responsable del almacenamiento fiable, permisos, instantáneas y copias de seguridad.
¿Cuál es el mayor error en hardware AI para NAS?
El error más común es comprar un componente impresionante sin revisar el resto de la cadena.
Una GPU potente no puede compensar una RAM insuficiente, almacenamiento activo lento, software no compatible, refrigeración débil o un diseño de almacenamiento poco fiable.
Referencias
Productos recomendados
Centro de Tecnología e IA
Más para leer
How Write-Back Cache Changes Data Risk in a Home NAS
Audit every layer that can acknowledge a write before deciding whether write-back cache is safe, unnecessary, or too risky for your home NAS.
How Drive Vibration Affects Dense Home NAS Enclosures?
Separate harmless NAS hum from vibration that disrupts HDD performance, then decide whether to remount drives, fix the chassis, or change disks.
When PCIe Link Bandwidth Bottlenecks a Home Server HBA
Compare measured drive throughput with negotiated PCIe bandwidth to decide whether your HBA slot is a real bottleneck or safe to keep.
