Idioma: English · 简体中文 · 繁體中文 · Español · Português · Deutsch · Français · 日本語 · 한국어 · Русский · हिन्दी

Como implantar o DeepSeek-R1 no Windows: guia passo a passo para hospedar um servidor de IA local

por

Introdução

Implantar o DeepSeek-R1 no Windows permite aproveitar recursos poderosos de IA localmente, possibilitando tarefas como raciocínio lógico, geração de texto e análise de dados. Este guia acompanha você em todo o processo, desde a instalação das ferramentas necessárias até a hospedagem de um servidor de IA local. Quer você esteja criando uma base de conhecimento privada ou testando modelos de IA, este tutorial passo a passo garante uma configuração tranquila.

Sumário

  1. O que são DeepSeek-R1, Ollama e AnythingLLM?
  2. Recursos principais e casos de uso
  3. Instalar e implantar o DeepSeek-R1 no Windows
    • Etapa 1: instalar o CUDA Toolkit (opcional para aceleração por GPU)
    • Etapa 2: instalar o Ollama
    • Etapa 3: instalar modelos via Ollama
    • Etapa 4: instalar e configurar o AnythingLLM
    • Etapa 5: baixar e configurar modelos de embedding
    • Etapa 6: enviar dados locais para criar uma base de conhecimento
  4. Hospedar o Ollama como servidor no Windows
    • Configurar variáveis de ambiente para acesso remoto
    • Abrir portas do firewall
    • Verificar o acesso remoto
    • Opcional: acesso público por ferramentas de túnel
  5. Solucionar problemas comuns

1. O que são DeepSeek-R1, Ollama e AnythingLLM?

DeepSeek-R1

O DeepSeek-R1 é um modelo de linguagem grande (LLM) de código aberto projetado para tarefas como raciocínio lógico, geração de texto e análise de dados. Ele oferece suporte a computação FP16 e aceleração CUDA, o que o torna ideal para implantação local.

Recursos principais:

  • Tamanhos de parâmetros de 1,5B a 671B para várias capacidades de hardware.
  • Respostas de baixa latência para aplicações em tempo real.
  • Desempenho excepcional em tarefas complexas, incluindo texto em chinês.

Ollama

O Ollama simplifica a implantação de LLMs locais ao oferecer downloads e gerenciamento de modelos como o DeepSeek-R1 com um clique.

Recursos principais:

  • Operação offline para privacidade.
  • Alternância fácil entre vários modelos.
  • Caminhos de instalação personalizáveis.

AnythingLLM

O AnythingLLM integra LLMs locais a bases de conhecimento, permitindo Q&A contextual e processamento privado de dados.

Recursos principais:

  • Criação de bases de conhecimento privadas.
  • Gerenciamento de vários workspaces.
  • Capacidades de Q&A contextual.

2. Recursos principais e casos de uso

Caso de uso 1: base de conhecimento corporativa e suporte inteligente ao cliente

Envie documentos corporativos (por exemplo, manuais e contratos) para o AnythingLLM e use o DeepSeek-R1 para Q&A precisas.

Vantagens:

  • Armazenamento local de dados para privacidade.
  • Análise de arquivos em vários formatos.

Caso de uso 2: pesquisa e análise

Pesquisadores podem processar textos longos (por exemplo, artigos e relatórios) para gerar resumos ou extrair insights importantes.

Exemplos:

  • Análise de documentos jurídicos.
  • Processamento de literatura médica.

Caso de uso 3: produtividade pessoal

  • Gerar relatórios semanais a partir de registros de trabalho.
  • Tradução multilíngue offline.
  • Criar uma base de conhecimento privada para aprendizado.

Caso de uso 4: desenvolvimento e testes

Os desenvolvedores podem testar diferentes tamanhos de parâmetros do DeepSeek-R1 para avaliar desempenho e compatibilidade.

3. Instalar e implantar o DeepSeek-R1 no Windows

Etapa 1: instalar o CUDA Toolkit (opcional para aceleração por GPU)

  1. Acesse a página de download do CUDA Toolkit.
  2. Selecione a versão apropriada para o seu sistema Windows.
  3. Escolha o tipo de instalação “local” para a melhor experiência.
  4. Reinicie o computador após a instalação.

Observação: Pule esta etapa se o seu sistema não tiver GPU.

Etapa 2: instalar o Ollama

  1. Baixe o instalador do Ollama no site oficial.
  2. Siga as instruções de instalação.
  3. Verifique se o Ollama está sendo executado em segundo plano (veja a bandeja do sistema).

Etapa 3: instalar modelos via Ollama

  1. Acesse a biblioteca de modelos do Ollama.
  2. Selecione um modelo com base no seu hardware:
    • 1.5B para configurações apenas com CPU.
    • 14B+ para GPUs com 16 GB+ de VRAM.
  3. Execute o comando de instalação no PowerShell: ollama run deepseek-r1:1.5b

Etapa 4: instalar e configurar o AnythingLLM

  1. Baixe o AnythingLLM no site oficial.
  2. Defina “Ollama” como provedor de LLM nas configurações.
  3. O AnythingLLM detectará automaticamente modelos implantados como deepseek-r1:14b.

Etapa 5: baixar e configurar modelos de embedding

  1. Abra uma ferramenta de linha de comando e execute: ollama pull nomic-embed-text
  2. Configure o modelo de embedding nas configurações do AnythingLLM e salve as alterações.

Etapa 6: enviar dados locais para criar uma base de conhecimento

  1. Navegue até a página do workspace no AnythingLLM.
  2. Clique em “Upload” e escolha uma das opções a seguir:
    • Enviar arquivos diretamente.
    • Conectar-se a um banco de dados.
  3. O sistema vetorizará os dados para Q&A contextual.

4. Hospedar o Ollama como servidor no Windows

Configurar variáveis de ambiente para acesso remoto

  1. Abra Propriedades do Sistema → Variáveis de Ambiente.
  2. Adicione as seguintes variáveis:
    • OLLAMA_HOST=0.0.0.0
    • OLLAMA_ORIGINS=* (opcional para acesso entre origens).
  3. Reinicie o serviço do Ollama ou o seu sistema.

Abrir portas do firewall

Execute o comando a seguir como administrador:

netsh advfirewall firewall add rule name="Ollama" dir=in action=allow protocol=TCP localport=11434  

#verify the port
netsh advfirewall firewall show rule name="Ollama"

Verificar o acesso remoto

  1. Verifique o seu endereço IP local com ipconfig.
  2. Teste o acesso a partir de outro dispositivo:curl http://[Windows Host IP]:11434/api/tags

Opcional: acesso público por ferramentas de túnel

Use ngrok para expor o seu servidor:

ngrok http 11434

5. Solucionar problemas comuns

Falha na conexão com o servidor

  • Verifique se OLLAMA_HOST e OLLAMA_ORIGINS estão configurados corretamente.
  • Reinicie o serviço do Ollama.

Conflito de porta

  • Verifique conflitos de porta com:netstat -ano | findstr 11434

Problemas de memória

  • Use modelos menores (por exemplo, 1,5B) para sistemas com pouca memória.

Este guia traz todas as etapas necessárias para implantar o DeepSeek-R1 no Windows e hospedá-lo como servidor de IA local. Para obter recursos adicionais, consulte a documentação oficial.

Deixe um comentário