Idioma: English · 简体中文 · 繁體中文 · Español · Português · Deutsch · Français · 日本語 · 한국어 · Русский · हिन्दी

Cómo implementar DeepSeek-R1 en Windows: guía paso a paso para alojar un servidor de IA local

por

Introducción

Implementar DeepSeek-R1 en Windows te permite aprovechar potentes capacidades de IA en local para tareas como el razonamiento lógico, la generación de texto y el análisis de datos. Esta guía te acompaña en todo el proceso, desde instalar las herramientas necesarias hasta alojar un servidor de IA local. Tanto si estás creando una base de conocimiento privada como si pruebas modelos de IA, este tutorial paso a paso garantiza una configuración sin complicaciones.

Índice

  1. ¿Qué son DeepSeek-R1, Ollama y AnythingLLM?
  2. Funciones principales y casos de uso
  3. Instalar e implementar DeepSeek-R1 en Windows
    • Paso 1: instalar CUDA Toolkit (opcional para aceleración por GPU)
    • Paso 2: instalar Ollama
    • Paso 3: instalar modelos con Ollama
    • Paso 4: instalar y configurar AnythingLLM
    • Paso 5: descargar y configurar modelos de embeddings
    • Paso 6: subir datos locales para crear una base de conocimiento
  4. Alojar Ollama como servidor en Windows
    • Configurar variables de entorno para el acceso remoto
    • Abrir puertos del firewall
    • Verificar el acceso remoto
    • Opcional: acceso público mediante herramientas de túnel
  5. Solucionar problemas habituales

1. ¿Qué son DeepSeek-R1, Ollama y AnythingLLM?

DeepSeek-R1

DeepSeek-R1 es un modelo de lenguaje grande (LLM) de código abierto diseñado para tareas como el razonamiento lógico, la generación de texto y el análisis de datos. Admite cálculo en FP16 y aceleración CUDA, lo que lo hace ideal para la implementación local.

Funciones clave:

  • Tamaños de parámetros de 1.5B a 671B para distintas capacidades de hardware.
  • Respuestas de baja latencia para aplicaciones en tiempo real.
  • Rendimiento excepcional en tareas complejas, incluido el texto en chino.

Ollama

Ollama simplifica la implementación de LLM locales al ofrecer descargas y gestión de modelos como DeepSeek-R1 con un solo clic.

Funciones clave:

  • Funcionamiento sin conexión para mayor privacidad.
  • Cambio sencillo entre varios modelos.
  • Rutas de instalación personalizables.

AnythingLLM

AnythingLLM integra los LLM locales con bases de conocimiento, lo que permite preguntas y respuestas contextuales (Q&A) y el procesamiento privado de datos.

Funciones clave:

  • Creación de bases de conocimiento privadas.
  • Gestión de varios espacios de trabajo.
  • Capacidades de Q&A contextual.

2. Funciones principales y casos de uso

Caso de uso 1: base de conocimiento empresarial y atención al cliente inteligente

Sube documentos empresariales (por ejemplo, manuales y contratos) a AnythingLLM y usa DeepSeek-R1 para Q&A precisas.

Ventajas:

  • Almacenamiento de datos en local para mayor privacidad.
  • Análisis de archivos en varios formatos.

Caso de uso 2: investigación y análisis

Los investigadores pueden procesar textos largos (por ejemplo, artículos e informes) para generar resúmenes o extraer ideas clave.

Ejemplos:

  • Análisis de documentos legales.
  • Procesamiento de literatura médica.

Caso de uso 3: productividad personal

  • Generar informes semanales a partir de registros de trabajo.
  • Traducción multilingüe sin conexión.
  • Crear una base de conocimiento privada para aprender.

Caso de uso 4: desarrollo y pruebas

Los desarrolladores pueden probar distintos tamaños de parámetros de DeepSeek-R1 para evaluar el rendimiento y la compatibilidad.

3. Instalar e implementar DeepSeek-R1 en Windows

Paso 1: instalar CUDA Toolkit (opcional para aceleración por GPU)

  1. Visita la página de descarga de CUDA Toolkit.
  2. Selecciona la versión adecuada para tu sistema Windows.
  3. Elige el tipo de instalación «local» para obtener la mejor experiencia.
  4. Reinicia el equipo después de la instalación.

Nota: Omite este paso si tu sistema no tiene GPU.

Paso 2: instalar Ollama

  1. Descarga el instalador de Ollama desde el sitio web oficial.
  2. Sigue las indicaciones de instalación.
  3. Comprueba que Ollama se está ejecutando en segundo plano (mira la bandeja del sistema).

Paso 3: instalar modelos con Ollama

  1. Visita la biblioteca de modelos de Ollama.
  2. Selecciona un modelo según tu hardware:
    • 1.5B para configuraciones solo con CPU.
    • 14B+ para GPU con 16 GB+ de VRAM.
  3. Ejecuta el comando de instalación en PowerShell: ollama run deepseek-r1:1.5b

Paso 4: instalar y configurar AnythingLLM

  1. Descarga AnythingLLM desde el sitio web oficial.
  2. Establece «Ollama» como proveedor de LLM en los ajustes.
  3. AnythingLLM detectará automáticamente los modelos implementados como deepseek-r1:14b.

Paso 5: descargar y configurar modelos de embeddings

  1. Abre una herramienta de línea de comandos y ejecuta: ollama pull nomic-embed-text
  2. Configura el modelo de embeddings en los ajustes de AnythingLLM y guarda los cambios.

Paso 6: subir datos locales para crear una base de conocimiento

  1. Ve a la página del espacio de trabajo en AnythingLLM.
  2. Haz clic en «Upload» y elige una de las siguientes opciones:
    • Subir archivos directamente.
    • Conectarse a una base de datos.
  3. El sistema vectorizará los datos para Q&A contextual.

4. Alojar Ollama como servidor en Windows

Configurar variables de entorno para el acceso remoto

  1. Abre Propiedades del sistema → Variables de entorno.
  2. Agrega las siguientes variables:
    • OLLAMA_HOST=0.0.0.0
    • OLLAMA_ORIGINS=* (opcional para el acceso entre orígenes).
  3. Reinicia el servicio de Ollama o tu sistema.

Abrir puertos del firewall

Ejecuta el siguiente comando como administrador:

netsh advfirewall firewall add rule name="Ollama" dir=in action=allow protocol=TCP localport=11434  

#verify the port
netsh advfirewall firewall show rule name="Ollama"

Verificar el acceso remoto

  1. Comprueba tu dirección IP local con ipconfig.
  2. Prueba el acceso desde otro dispositivo:curl http://[Windows Host IP]:11434/api/tags

Opcional: acceso público mediante herramientas de túnel

Usa ngrok para exponer tu servidor:

ngrok http 11434

5. Solucionar problemas habituales

Error de conexión con el servidor

  • Asegúrate de que OLLAMA_HOST y OLLAMA_ORIGINS estén configurados correctamente.
  • Reinicia el servicio de Ollama.

Conflicto de puertos

  • Comprueba si hay conflictos de puertos con:netstat -ano | findstr 11434

Problemas de memoria

  • Usa modelos más pequeños (por ejemplo, 1.5B) para sistemas con poca memoria.

Esta guía incluye todos los pasos que necesitas para implementar DeepSeek-R1 en Windows y alojarlo como servidor de IA local. Para obtener recursos adicionales, consulta la documentación oficial.

Deja un comentario