Requisitos de Hardware para NAS com IA: CPU, RAM, GPU, Armazenamento e Rede

Resposta rápida

Os requisitos de hardware AI NAS dependem da carga de trabalho, não apenas do rótulo AI NAS. Um sistema que realiza OCR em segundo plano ou indexação de fotos precisa de um perfil de hardware muito diferente de um que executa LLMs locais, deteção de câmaras em tempo real, RAG de contexto longo ou inferência multiutilizador.

Para muitas cargas de trabalho de IA focadas em armazenamento, uma configuração inicial prática é:

• Uma CPU moderna multi-core
• 16GB de RAM do sistema
• Armazenamento HDD para ficheiros fonte protegidos e capacidade em massa
• Um nível SSD ou NVMe para aplicações, bases de dados, miniaturas, índices e modelos
• Rede 1GbE ou 2.5GbE, dependendo do tamanho dos ficheiros e do número de utilizadores
• Aceleração opcional iGPU, NPU, TPU ou GPU quando o software alvo o suporta

Sistemas mais exigentes podem precisar de 32GB a 64GB ou mais de RAM, maior capacidade NVMe, GPU discreta ou memória unificada de alta capacidade, refrigeração mais forte e rede 10GbE quando o cálculo de IA corre num servidor separado.

Não existe uma especificação mínima universal para todos os AI NAS. A configuração correta depende de:

• A tarefa de IA
• O tamanho da biblioteca de ficheiros
• Se o processamento é em tempo real ou em segundo plano
• O modelo e o tamanho do contexto
• O número de utilizadores simultâneos
• Se a IA corre diretamente no NAS ou numa outra máquina local
• Se o software pode usar o acelerador selecionado

A regra mais importante é simples: comece pela carga de trabalho, depois dimensione CPU, memória, aceleração, armazenamento, rede e refrigeração em torno dessa carga.

De que dependem realmente os requisitos de um servidor AI?

Um AI NAS realiza dois trabalhos diferentes ao mesmo tempo. Deve permanecer um sistema de armazenamento fiável enquanto processa os dados armazenados.

Um NAS tradicional pode principalmente tratar de:

• Partilha de ficheiros
• Backups de computador e telemóvel
• Snapshots e histórico de versões
• Armazenamento e streaming de media
• Permissões de utilizador
• Acesso remoto

Um sistema consciente de IA pode adicionar:

• OCR e análise de documentos
• Reconhecimento de fotos
• Deteção de objetos
• Transcrição de voz
• Geração de embeddings
• Pesquisa vetorial e híbrida
• RAG privado
• Inferência local de LLM

A diferença entre estes dois papéis é explicada mais detalhadamente em Hardware AI NAS comparado com requisitos de NAS tradicional.

Tipo de carga de trabalho

Diferentes tarefas de IA sobrecarregam diferentes partes do sistema.

Processamento em Segundo Plano vs em Tempo Real

Cargas de trabalho em segundo plano podem tolerar hardware mais lento porque podem correr durante a noite ou em períodos de baixa atividade de armazenamento.

Exemplos incluem:

• Digitalização de uma nova biblioteca de fotos
• Geração de miniaturas
• Execução de OCR em digitalizações recebidas
• Construção de embeddings
• Atualização de índices de documentos

Cargas de trabalho em tempo real requerem menor latência e desempenho mais sustentado.

Exemplos incluem:

• Deteção de objetos em câmaras de segurança
• Chat LLM local interativo
• Transcrição ao vivo
• Vários utilizadores RAG simultâneos
• Inferência multimodal em tempo real

Um NAS pode executar indexação em segundo plano com sucesso em hardware modesto enquanto oferece uma experiência pobre para inferência interativa LLM. A urgência do processamento é portanto tão importante quanto a tarefa em si.

Tamanho do Modelo e da Biblioteca

A procura de hardware cresce através de duas dimensões independentes:

1. O tamanho do modelo AI
2. O tamanho da biblioteca de dados a ser indexada

Um modelo pequeno ainda pode criar uma carga pesada quando tem de processar milhões de imagens, centenas de milhares de documentos ou anos de vídeo.

Um modelo grande pode criar alta pressão de memória mesmo quando a coleção de documentos é pequena.

Planeie para ambos:

• Ficheiros de modelo
• Contexto e memória de tempo de execução
• Bases de dados de aplicações
• Miniaturas e pré-visualizações
• Saída OCR
• Embeddings e índices vetoriais
• Ficheiros temporários de processamento
• Crescimento da biblioteca de dados original

Número de Utilizadores e Pedidos Paralelos

Um sistema que serve uma pessoa intermitentemente tem requisitos diferentes de um serviço partilhado que lida com várias consultas simultâneas.

A documentação oficial Ollama sobre memória e concorrência explica que o carregamento concorrente de modelos depende da RAM ou VRAM disponível no sistema. Também nota que pedidos paralelos aumentam a alocação efetiva de contexto e que a memória necessária escala com pedidos paralelos e comprimento do contexto.

Isto significa que dimensionar um modelo local apenas pelo seu tamanho de download é incompleto. O sistema também precisa de memória para:

• Sobrecarga de tempo de execução
• Contexto e cache KV
• Pedidos paralelos
• Modelos adicionais carregados
• Serviços e contentores NAS

AI no NAS vs Cálculo Separado

Executar AI diretamente no NAS reduz o movimento de dados e pode simplificar fluxos de trabalho adjacentes ao armazenamento. Separar o cálculo AI dá aos utilizadores mais liberdade para atualizar GPUs, memória, refrigeração e tempos de execução de modelos de forma independente.

Execute a carga de trabalho diretamente no NAS quando for:

• Estreitamente ligado aos ficheiros armazenados
• Leve ou moderado
• Maiitariamente processamento em segundo plano
• Suportado pelo sistema operativo e aplicações do NAS
• Pouco provável de perturbar os serviços de backup e ficheiros

Considere um servidor AI separado quando a carga de trabalho for:

• Intensivo em GPU
• Em tempo real
• Multiutilizador
• Frequentemente atualizado ou experimental
• Demasiado quente, ruidoso ou consumidor de energia para o NAS

Três Níveis Práticos de Hardware AI para NAS

Os níveis seguintes são perfis de planeamento e não mínimos universais de fornecedores. Os requisitos reais variam conforme a aplicação, modelo, comprimento do contexto, quantização, volume de dados e concorrência de utilizadores.

Nível 1: IA focada no armazenamento e indexação em segundo plano

Este nível é apropriado quando o armazenamento continua a ser a principal responsabilidade e a IA funciona como uma melhoria em segundo plano.

As cargas de trabalho típicas incluem:

• OCR para documentos digitalizados
• Classificação básica de documentos
• Extração de metadados
• Etiquetagem leve de fotos
• Pequenos trabalhos de embedding
• Consultas locais ocasionais

Uma GPU dedicada pode não ser necessária. O processamento por CPU pode ser aceitável quando os utilizadores estão dispostos a esperar por tarefas em segundo plano.

As prioridades importantes são:

• RAM suficiente para aplicações e bases de dados
• Um nível SSD ou NVMe para dados ativos de aplicações
• Capacidade fiável de HDD para ficheiros fonte
• Comportamento estável de armazenamento e backup

Nível 2: IA local integrada e RAG privado

Este nível é adequado para utilizadores que executam várias aplicações com consciência de IA no mesmo sistema.

Exemplos incluem:

• Reconhecimento de fotos e pesquisa semântica de media
• Pesquisa privada de documentos
• RAG local
• Bases de dados vetoriais
• Múltiplas aplicações Docker
• LLMs locais leves

Neste nível, 32GB de RAM oferecem mais espaço para bases de dados, índices, contentores de aplicações, cache, serviços de ficheiros e geração local.

As diferenças de hardware entre IA local para fotos e cargas de trabalho RAG de documentos são importantes porque a indexação visual e a recuperação privada de documentos criam exigências diferentes para CPU, memória, armazenamento e aceleração.

Nível 3: Inferência pesada e IA multiutilizador

Este nível está mais próximo de um servidor local de IA dedicado do que de um NAS convencional de baixa potência.

As cargas de trabalho típicas incluem:

• Modelos locais de linguagem maiores
• Análise de documentos com contexto longo
• Múltiplos utilizadores simultâneos
• Deteção em tempo real com múltiplas câmaras
• Modelos multimodais
• Geração de imagens
• Vários modelos carregados simultaneamente

Os utilizadores devem planear para:

• Mais RAM do sistema
• VRAM suficiente ou memória unificada
• Refrigeração eficiente
• Maior consumo de energia
• Armazenamento NVMe rápido
• Maior separação entre o cálculo de IA e os serviços principais de NAS

Uma comparação de um servidor usado, mini PC e NAS para cargas de trabalho AI locais pode ajudar a determinar se um equipamento focado em armazenamento continua a ser a plataforma de computação certa.

Quanta memória precisa um AI NAS?

A memória é frequentemente o primeiro limite que os utilizadores encontram porque as cargas de trabalho AI NAS consomem vários pools de memória diferentes.

A fórmula de planeamento mais útil é:

Requisito prático de memória = Pesos do Modelo + Sobrecarga do Tempo de Execução + Cache de Contexto + Pedidos Paralelos + Bases de Dados e Índices + Espaço para NAS e Contentores

RAM do sistema, VRAM e Memória Unificada são diferentes

A RAM do sistema é necessária mesmo quando a inferência é executada numa GPU. O sistema operativo NAS, serviços de ficheiros, bases de dados, contentores, índices e aplicações em segundo plano continuam a usar memória do sistema.

A VRAM determina quanto de um modelo pode permanecer na GPU e quanto espaço está disponível para contexto e pedidos paralelos.

A memória unificada pode reduzir a divisão rígida entre RAM do sistema e VRAM, mas continua limitada pela capacidade total, largura de banda, suporte de software e comportamento térmico.

Porque o Tamanho do Modelo é Apenas o Ponto de Partida

Um ficheiro de modelo que parece caber na memória disponível pode ainda requerer espaço adicional para:

• Bibliotecas de tempo de execução
• Buffers temporários
• Contexto e cache KV
• Processamento de prompt
• Pedidos paralelos
• Outros modelos carregados
• O sistema operativo e aplicações

Ollama pode reportar se um modelo está carregado inteiramente na GPU, inteiramente na memória do sistema, ou dividido entre CPU e GPU. A sua documentação também explica que múltiplos modelos podem permanecer carregados apenas quando há memória suficiente disponível. Comportamento de carregamento de modelos e memória do Ollama fornece os detalhes relevantes do tempo de execução.

Comprimento do Contexto, Cache KV e Concorrência

Janelas de contexto mais longas aumentam os requisitos de memória porque o tempo de execução deve reter mais estado de atenção.

Utilizadores paralelos aumentam novamente o requisito. Um servidor que lida com vários pedidos simultâneos pode alocar substancialmente mais memória de contexto do que um sistema de utilizador único.

Ao planear hardware local para LLM, teste:

• O comprimento real do contexto necessário
• O número de utilizadores simultâneos
• O número de modelos mantidos carregados
• Se a inferência GPU requer residência completa na VRAM
• Se a quantização do cache KV é suportada

O que 16GB, 32GB e 64GB+ podem suportar realisticamente

Estes intervalos não são garantias. Uma aplicação bem otimizada pode usar menos, enquanto uma biblioteca grande, contexto longo, vários serviços ou múltiplos utilizadores podem exigir mais.

Quantização e descarregamento CPU–GPU

A quantização reduz os requisitos de memória do modelo ao armazenar pesos com menor precisão. A compensação pode incluir redução de precisão ou alterações no desempenho, dependendo do modelo e do formato de quantização.

Inferência híbrida CPU–GPU llama.cpp pode acelerar parcialmente modelos maiores que a capacidade total de VRAM dividindo o trabalho entre CPU e GPU.

Isto amplia a compatibilidade, mas não deve ser tratado como equivalente a carregar o modelo completo na memória rápida da GPU. O descarregamento pode reduzir a velocidade porque os dados têm de atravessar limites de memória e barramento.

Que CPU é necessária para um AI NAS?

Responsabilidades da CPU além da inferência AI

A CPU coordena o sistema completo mesmo quando uma GPU, NPU, iGPU ou TPU executa parte da carga de inferência.

A CPU pode tratar de:

• Serviços de ficheiros NAS
• Encriptação
• Orquestração de containers
• Operações de base de dados
• Análise de documentos
• Pré-processamento de imagens
• Decodificação de media
• Extração de metadados
• Tráfego de rede
• Alimentar dados para aceleradores

Um acelerador potente pode ficar subutilizado quando a CPU não consegue preparar, decodificar ou fornecer dados rapidamente o suficiente.

Cargas de trabalho mistas NAS e Container

Sistemas AI NAS frequentemente executam vários serviços simultaneamente:

• Partilha de ficheiros SMB ou NFS
• Tarefas de backup
• Servidores de media
• Aplicações fotográficas
• Bases de dados de documentos
• Pesquisa vetorial
• Tempos de execução do modelo

Múltiplos núcleos e threads oferecem mais margem para agendamento destas cargas de trabalho mistas. No entanto, o número de núcleos sozinho não é suficiente. A arquitetura, suporte a instruções, comportamento do relógio, motores de vídeo, limites de energia e compatibilidade de software também são importantes.

Antes de escolher o hardware, alinhe o sistema operativo com a combinação pretendida de armazenamento e aplicações. Os requisitos do sistema operativo para servidor doméstico para aplicações NAS e Docker explicam por que sistemas focados em armazenamento, aplicações ou virtualização priorizam o hardware de forma diferente.

Quando a IA Só com CPU é Prática

O processamento só com CPU pode ser prático quando:

• A carga de trabalho corre em segundo plano.
• A biblioteca de ficheiros é modesta.
• O modelo é pequeno ou fortemente quantizado.
• A latência não é crítica.
• Apenas um utilizador faz pedidos ocasionais.

Configurações só com CPU tornam-se menos atrativas quando os utilizadores esperam:

• Respostas rápidas e interativas de LLM
• Vários utilizadores simultâneos
• Análise de vídeo em tempo real
• Modelos multimodais grandes
• Geração de embeddings em grande volume

Um NAS de IA Precisa de NPU, TPU, iGPU ou GPU?

Um NAS de IA não precisa automaticamente de uma GPU discreta. Precisa de um acelerador apenas quando este melhora a aplicação alvo.

Decodificação de Vídeo por Hardware e Deteção de IA São Diferentes

As cargas de trabalho de câmaras demonstram porque uma especificação de acelerador não pode descrever o sistema completo.

Um pipeline de IA para câmaras pode incluir:

1. Receção do fluxo de rede
2. Decodificação do vídeo
3. Execução da deteção de movimento
4. Preparação de frames
5. Execução da deteção de objetos
6. Gravação de vídeos e metadados de eventos

A decodificação de vídeo pode correr numa iGPU ou motor de media, enquanto a deteção de objetos corre noutro detector.

A matriz de suporte de hardware e detector Frigate documenta múltiplos caminhos de aceleração e explica que um detector suportado pode reduzir a latência de deteção e a carga da CPU.

Por que o Suporte de Software é Mais Importante que TOPS

TOPS é uma métrica teórica de computação. Não prova que as aplicações do utilizador podem usar o hardware.

Antes de comprar um acelerador, verifique:

• Suporte ao sistema operativo
• Disponibilidade de drivers
• Passagem de contentores
• Compatibilidade em tempo de execução
• Formatos de modelo suportados
• Integração ao nível da aplicação
• Desempenho documentado para a carga de trabalho real

A melhor escolha de hardware é frequentemente o acelerador com suporte maduro de aplicações, não aquele com o maior número anunciado.

Como Deve um NAS de IA Dividir o Armazenamento entre HDD e NVMe?

Discos Rígidos para Dados de Origem e Capacidade

Os HDDs continuam apropriados para:

• Bibliotecas de fotos e vídeos
• Arquivos de documentos
• Gravações de câmaras de segurança
• Backups
• Grandes conjuntos de dados
• Ficheiros fonte a longo prazo

Oferecem menor custo por terabyte e permitem que um NAS de IA preserve grandes arquivos privados sem exigir um pool de armazenamento totalmente flash.

NVMe para aplicações, modelos, bases de dados e índices

Dados ativos de aplicações de IA geralmente beneficiam de menor latência.

O armazenamento NVMe é útil para:

• Volumes de contentores
• Bases de dados de aplicações
• Modelos de IA
• Miniaturas
• Saída OCR
• Bases de dados de embeddings
• Índices vetoriais
• Ficheiros temporários de processamento
• Cache

Executar todos os serviços ativos diretamente a partir de um conjunto de discos mecânicos pode fazer o sistema parecer lento mesmo quando há recursos de CPU e GPU disponíveis.

Sobrecarga de armazenamento de aplicações de IA

Aplicações conscientes de IA criam mais dados do que a biblioteca original de ficheiros sozinha.

Planeie capacidade para:

• Imagens de pré-visualização
• Miniaturas
• Dados faciais
• Texto OCR
• Transcrições
• Índices
• Embeddings
• Ficheiros de modelo
• Registos de aplicação

Determine quais os dados derivados que devem ser guardados e quais podem ser regenerados a partir dos ficheiros fonte protegidos.

Quão rápida deve ser a rede?

A velocidade da rede não acelera diretamente um modelo a correr dentro do NAS. Afeta a rapidez com que ficheiros fonte, conjuntos de dados, modelos e resultados se movem entre armazenamento, utilizadores e computação externa.

Quando 1GbE é suficiente

1GbE pode continuar a ser suficiente quando:

• O processamento de IA corre diretamente no NAS.
• A maioria dos trabalhos corre em segundo plano.
• Apenas um ou dois utilizadores acedem ao sistema.
• Ficheiros fonte grandes não se movem frequentemente.

Quando o 2.5GbE é uma atualização útil

2.5GbE oferece mais margem para:

• Importações grandes de fotos
• Backups locais mais rápidos
• Vários utilizadores ativos
• Ficheiros multimédia grandes
• Mover ficheiros de modelos

É uma camada intermédia útil, mas não deve ser tratada como um mínimo universal para todos os NAS de IA.

Quando o 10GbE é importante para computação externa de IA

10GbE torna-se mais relevante quando o NAS fornece dados repetidamente a outra máquina.

Exemplos incluem:

• Um servidor GPU a ler documentos privados RAG
• Uma estação de trabalho a processar vídeo armazenado no NAS
• Vários utilizadores a editar ficheiros multimédia grandes
• Backups de alta velocidade para outro servidor local
• Conjuntos de dados partilhados suportados por NVMe

Requisitos de hardware por carga de trabalho de IA

OCR e Indexação de Documentos

Os fluxos de trabalho de documentos são geralmente orientados a lotes. Os requisitos mais importantes são frequentemente:

• CPU capaz
• RAM suficiente para vários contentores e bases de dados
• Armazenamento ativo rápido
• Armazenamento fiável de ficheiros fonte

O fluxo de trabalho de receção de documentos e OCR do Paperless-ngx ilustra como o processamento de documentos inclui consumo, OCR, metadados, indexação e preservação do ficheiro original.

Reconhecimento Fotográfico

A IA para fotos cria um processamento inicial pesado mas pode não exigir respostas em tempo real. CPU e RAM gerem os serviços da aplicação, enquanto a aceleração opcional pode melhorar tarefas de embeddings faciais, de objetos ou visuais.

As funcionalidades de Pesquisa Inteligente e indexação de media do Immich mostram como a pesquisa contextual, texto OCR, pessoas reconhecidas, metadados, localização, data e informação da câmara podem fazer parte de um sistema de pesquisa único.

RAG Local e Pesquisa Semântica

O RAG local é um pipeline, não um único modelo. Pode ser necessário hardware para:

• Extração de documentos
• Divisão em blocos
• Geração de embeddings
• Armazenamento vetorial
• Recuperação
• Reclassificação
• Geração local de respostas

A criação de embeddings e indexação pode ser executada em segundo plano, enquanto a geração de respostas é interativa. Os utilizadores podem assim executar a recuperação localmente e mover apenas a fase mais pesada de geração para outra máquina quando necessário.

Deteção de Câmaras de Segurança

A IA para câmaras é uma das cargas de trabalho sempre ativas mais exigentes porque combina:

• Vários fluxos de rede contínuos
• Decodificação de vídeo
• Análise de movimento
• Deteção de objetos
• Metadados de eventos
• Gravações contínuas no armazenamento

O número de câmaras, resolução, taxa de frames, configuração de subfluxo, tipo de modelo e período de retenção podem ser mais importantes do que uma especificação genérica de GPU.

LLMs locais e Inferência Multiutilizador

As cargas de trabalho interativas locais de LLM são principalmente limitadas por:

• Memória do modelo
• Comprimento do contexto
• Largura de banda da memória
• Pedidos paralelos
• Capacidade de GPU ou memória unificada

Um modelo pequeno para um utilizador pode funcionar em hardware moderado. Um modelo maior a servir vários utilizadores pode exigir um nó de computação substancialmente mais potente.

Deve a IA Ser Executada no NAS ou num Servidor de IA Separado?

Executar Tarefas em Segundo Plano Próximas ao Armazenamento no NAS

Tarefas que naturalmente pertencem perto dos dados armazenados incluem:

• Indexação de fotos após backup
• OCR para novos ficheiros digitalizados
• Extração de metadados
• Atualizações de embedding de documentos
• Geração de miniaturas
• Classificação leve

Estas cargas de trabalho beneficiam de acesso direto a ficheiros e podem frequentemente correr em segundo plano sem hardware de classe workstation.

Separar Cargas de Trabalho Pesadas, Quentes ou Frequentemente Atualizadas

Um servidor AI separado é mais atraente para:

• LLMs locais maiores
• Geração de imagens
• Vários fluxos de câmaras
• Inferência multiutilizador
• Modelos e drivers que mudam frequentemente
• Hardware que produz calor e ruído substanciais

A decisão de colocação da carga de trabalho é abordada com mais detalhe em Requisitos de GPU e servidor AI externo para cargas de trabalho NAS .

Mantenha o Armazenamento Fiável Quando os Serviços de IA Falharem

Um design dividido pode evitar que uma atualização experimental do runtime do modelo ou do driver GPU afete o armazenamento principal.

O NAS pode continuar responsável por:

• Ficheiros originais
• Permissões de utilizador
• Snapshots
• Backups
• Cópias da base de dados da aplicação

O servidor AI pode continuar responsável por:

• Inferência de modelos
• Drivers de GPU
• Tarefas de embedding
• Contentores experimentais
• Deteção pesada de câmaras

O Que as Especificações de Hardware Não Dizem

O Suporte ao Acelerador Depende do Software

Uma ficha técnica não pode confirmar se uma aplicação suporta:

• O driver selecionado
• O sistema operativo
• O runtime do contentor
• O formato do modelo
• A API do acelerador
• A geração exata do hardware

Verifique a documentação de compatibilidade atual da aplicação antes de assumir que será usado um GPU, NPU ou TPU.

TOPS Não Mede o Fluxo de Trabalho Completo

TOPS não descreve:

• Memória disponível
• Largura de banda da memória
• Compatibilidade do modelo
• Desempenho da base de dados
• Decodificação de vídeo
• Latência de armazenamento
• Vazão da rede
• Qualidade da aplicação

Um sistema equilibrado com software suportado pode superar um dispositivo com TOPS mais elevado que não consegue executar a carga de trabalho necessária de forma eficiente.

Um Servidor AI Potente Pode Ainda Ser um NAS Fraco

Um PC de jogos ou estação de trabalho pode fornecer excelente desempenho de inferência, mas ainda assim faltar:

• Operação eficiente sempre ligada
• Expansão conveniente de unidades
• Gestão de pool de armazenamento
• Arrefecimento silencioso
• Integração de backups
• Permissões de ficheiros previsíveis

Por outro lado, um NAS de baixa potência pode ser excelente para armazenamento e inadequado para IA local pesada.

Use a lista de verificação de gargalos de computação, memória, armazenamento e rede para identificar qual parte do sistema está a limitar o fluxo de trabalho real.

Lista de Verificação para Compra de Hardware AI NAS

1. Defina a carga de trabalho exata.

   Especifique se o sistema irá executar OCR, indexação de fotos, deteção de câmaras, RAG, um chatbot, geração de imagens ou outra tarefa.

2. Decida se o processamento é em segundo plano ou em tempo real.

   Tarefas em segundo plano podem tolerar hardware mais lento. Serviços em tempo real requerem desempenho mais sustentado.

3. Estime o tamanho da biblioteca de dados.

   Inclua ficheiros originais, miniaturas, saída OCR, bases de dados, índices, modelos e crescimento futuro.

4. Estime a memória do modelo e o contexto.

   Inclua overhead de runtime, cache KV, utilizadores paralelos e outras aplicações.

5. Verifique o suporte de software para o acelerador.

   Verifique drivers, passthrough de contentores, suporte de runtime e formatos de modelo.

6. Separe a capacidade HDD do armazenamento NVMe ativo.

   Proteja os dados fonte no nível de capacidade e coloque bases de dados ativas e modelos em armazenamento rápido.

7. Escolha a rede para a arquitetura.

   1GbE pode ser suficiente para processamento local; 10GbE torna-se mais relevante quando a computação de IA está separada.

8. Proteja a fiabilidade do NAS.

   Confirme que a indexação e inferência não irão perturbar backups, gravações, acesso a ficheiros ou a saúde do armazenamento.

9. Planeie energia, arrefecimento e ruído.

   Avalie tanto a eficiência em repouso como a carga sustentada de IA.

10. Decida se um nó de computação externo é mais fácil de atualizar.

    Não force inferência pesada no NAS quando uma arquitetura dividida é mais prática.

Conclusão

Os requisitos de hardware para NAS de IA não podem ser reduzidos a um mínimo de CPU, um valor de RAM ou uma recomendação de GPU.

O sistema correto depende da carga de trabalho:

• OCR e indexação leve podem ser executados numa CPU capaz com 16GB de RAM e armazenamento rápido para aplicações.
• Reconhecimento de fotos, RAG de documentos e vários contentores beneficiam de mais RAM e um nível de trabalho NVMe.
• LLMs locais, IA multi-câmara, contexto longo e múltiplos utilizadores podem exigir uma GPU discreta, mais memória, arrefecimento mais forte e computação separada.

RAM do sistema, VRAM e memória unificada resolvem problemas diferentes. Os pesos do modelo são apenas uma parte da necessidade de memória; contexto, concorrência, bases de dados, índices e serviços NAS também requerem capacidade.

Os HDDs continuam úteis para dados fonte protegidos, enquanto o NVMe é melhor para aplicações ativas, modelos, caches e índices. A velocidade da rede deve corresponder à quantidade de dados que se move entre o NAS e qualquer servidor de IA externo.

O melhor NAS de IA não é o sistema com a maior GPU ou a classificação TOPS mais alta. É o sistema que executa a carga de trabalho pretendida de forma fiável sem comprometer o armazenamento, backups, eficiência energética ou manutenção.

Perguntas Frequentes

Qual é uma configuração prática inicial para um NAS de IA?

Uma CPU moderna multi-core, 16GB de RAM, armazenamento HDD para ficheiros fonte, um nível SSD ou NVMe para aplicações e índices, e rede 1GbE ou 2.5GbE podem ser um ponto de partida prático para cargas de trabalho leves em segundo plano.

Isto não é um mínimo universal. Aplicações mais pesadas podem exigir mais RAM, aceleração, desempenho de armazenamento ou computação separada.

Posso executar IA num NAS sem uma GPU dedicada?

Sim. OCR, indexação de documentos, extração de metadados, pequenas embeddings e processamento de fotos em segundo plano podem ser executados em hardware CPU.

Uma GPU torna-se mais útil para LLMs locais, modelos multimodais, geração de imagens, inferência de alto volume e vários utilizadores simultâneos.

16GB de RAM é suficiente para um NAS AI?

16GB pode ser suficiente para alguns contentores, OCR leve, extração de metadados e indexação em segundo plano.

Pode tornar-se restritivo quando o sistema também corre grandes bibliotecas de fotos, RAG de documentos, bases de dados vetoriais, virtualização, modelos locais ou vários serviços simultâneos.

Quando devo escolher 32GB de RAM?

32GB é um alvo mais forte ao correr várias aplicações AI, índices maiores, RAG privado, reconhecimento fotográfico, bases de dados e geração local leve no mesmo sistema.

Quando faz sentido 64GB ou mais de RAM?

64GB ou mais torna-se relevante para índices maiores, virtualização, vários utilizadores, fluxos de trabalho de contexto longo, inferência por CPU ou memória unificada e múltiplos serviços AI.

Quanta VRAM precisa um LLM local?

Os requisitos de VRAM dependem da arquitetura do modelo, quantização, comprimento do contexto, cache KV, overhead do runtime e concorrência.

Use o runtime alvo para estimar a memória total em vez de confiar apenas na contagem de parâmetros ou tamanho do modelo descarregado.

Um NPU é suficiente para LLMs locais?

Normalmente não para cargas de trabalho locais LLM mais pesadas e de uso geral. NPUs são frequentemente mais adequados para inferência eficiente suportada, visão, classificação ou tarefas em segundo plano.

A compatibilidade do software determina se um NPU oferece valor prático.

As aplicações AI NAS devem correr em HDDs ou NVMe?

Media original, documentos, gravações e backups podem permanecer em armazenamento HDD. Modelos, contentores, bases de dados, miniaturas, cache, embeddings e índices são geralmente melhor colocados em armazenamento SSD ou NVMe.

Um NAS AI precisa de 10GbE?

Não. 1GbE pode ser suficiente quando a AI corre diretamente no NAS e ficheiros grandes não se movem frequentemente.

10GbE torna-se mais útil para servidores AI externos, dados partilhados suportados por NVMe, fluxos de trabalho de media grandes e vários utilizadores ativos.

Uma rede mais rápida torna a inferência LLM local mais rápida?

Não quando o modelo e os dados já estão na mesma máquina. A rede afeta principalmente o movimento de dados entre o NAS, utilizadores, estações de trabalho e nós de computação externos.

A inferência AI pesada deve correr fora do NAS?

Muitas vezes, sim. Modelos maiores, geração de imagens, inferência multiutilizador e IA contínua de câmaras podem ser mais fáceis de atualizar e refrigerar num servidor separado.

O NAS pode continuar a ser responsável pelo armazenamento fiável, permissões, snapshots e backups.

Qual é o maior erro no hardware AI para NAS?

O erro mais comum é comprar um componente impressionante sem verificar o resto do sistema.

Uma GPU potente não compensa RAM insuficiente, armazenamento ativo lento, software não suportado, refrigeração fraca ou design de armazenamento pouco fiável.

Referências

• FAQ - Ollama
• ggml-org/llama.cpp - Inferência LLM em C/C++
• Hardware recomendado - Frigate
• Uso básico - Paperless-ngx
• A pesquisar - Immich