Cómo crear un servidor de Inteligencia Artificial para tu red local: varios usuarios, modelos open source y acceso desde cualquier PC

Crear un servidor de Inteligencia Artificial en tu red local ya no es una tarea reservada para grandes empresas. Con Linux, Docker, Ollama, Open WebUI y modelos abiertos, puedes montar una plataforma privada para que varios usuarios consulten modelos de IA desde cualquier PC, laptop o navegador dentro de la red de la oficina, laboratorio, aula o casa.

La idea es simple: un equipo Linux actúa como servidor central; allí se ejecutan los modelos de IA y una interfaz web. Los usuarios no necesitan instalar nada pesado en sus computadoras: solo abren el navegador y acceden a una dirección local, por ejemplo http://192.168.1.50:3000. Open WebUI se define como una plataforma de IA autoalojada, extensible, con soporte para Ollama y APIs compatibles con OpenAI, capaz de funcionar completamente offline y orientada a entornos multiusuario. ([docs.openwebui.com](https://docs.openwebui.com/))

1. Qué es un servidor de IA local

Un servidor de IA local es una máquina Linux que ejecuta modelos de lenguaje, modelos multimodales o servicios de inferencia para otros usuarios de la misma red. En lugar de que cada PC tenga su propio modelo, todos se conectan a un servidor central que administra modelos, memoria, GPU, usuarios, conversaciones y acceso.

La arquitectura más práctica para empezar combina Ollama como motor de modelos locales y Open WebUI como interfaz web multiusuario. Ollama expone una API local y permite descargar y ejecutar modelos; su documentación indica que, por defecto, escucha en 127.0.0.1:11434 y que puede exponerse en la red mediante la variable OLLAMA_HOST. ([docs.ollama.com](https://docs.ollama.com/faq))

PC de usuario 1 ┐
PC de usuario 2 ├── Navegador web ── http://IP-SERVIDOR:3000
PC de usuario 3 ┘
                       ↓
                 Open WebUI
          usuarios, chats, permisos
                       ↓
                    Ollama
              modelos locales LLM
                       ↓
              CPU / RAM / GPU Linux

2. Qué puedes lograr con este servidor

Un servidor de IA local puede servir para educación, soporte técnico, programación, redacción, análisis de documentos, consultas internas, ayuda a administradores Linux, generación de scripts, asistencia a docentes, atención interna, prototipos empresariales y laboratorios de investigación.

3. Componentes principales

Para una instalación sencilla y útil, se recomiendan cuatro capas: sistema operativo Linux, motor de modelos, interfaz web y controles de seguridad. Docker Compose ayuda a definir servicios, redes y volúmenes en un archivo YAML para levantar toda la aplicación con un solo comando. ([docs.docker.com](https://docs.docker.com/compose/gettingstarted/))

4. Requisitos de hardware recomendados

El hardware depende del tamaño del modelo y del número de usuarios. Un servidor sin GPU puede funcionar para pruebas, modelos pequeños y pocos usuarios, pero la experiencia será más lenta. Para un entorno con varios usuarios, una GPU dedicada mejora mucho la respuesta, especialmente con modelos medianos o grandes.

Si usarás contenedores con GPU NVIDIA, Docker recomienda instalar el NVIDIA Container Toolkit y usar la bandera --gpus para permitir acceso a recursos GPU desde contenedores. ([docs.docker.com](https://docs.docker.com/engine/containers/gpu/))

5. Instalación rápida con Docker Compose

La forma más ordenada de empezar es crear una carpeta de proyecto y un archivo compose.yaml. Esta opción levanta Ollama y Open WebUI en la misma red de Docker. Solo se expone Open WebUI hacia la red local; Ollama queda disponible para Open WebUI dentro de Docker, evitando publicar directamente la API del modelo.

services:
  ollama:
    image: ollama/ollama:latest
    container_name: ollama
    restart: unless-stopped
    volumes:
      - ollama:/root/.ollama
    # Para GPU NVIDIA, descomenta si tu Docker Compose lo soporta:
    # gpus: all

open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
restart: unless-stopped
depends_on:
- ollama
ports:
- "3000:8080"
environment:
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
- open-webui:/app/backend/data

volumes:
ollama:
open-webui:

Open WebUI documenta una instalación con Docker exponiendo el puerto 3000 hacia el puerto interno 8080, además de persistir datos en un volumen llamado open-webui. ([docs.openwebui.com](https://docs.openwebui.com/getting-started/quick-start/))

mkdir servidor-ia-local
cd servidor-ia-local
nano compose.yaml

docker compose up -d
docker compose ps
docker compose logs -f open-webui

6. Descargar modelos open source o de pesos abiertos

Después de levantar el servidor, debes descargar modelos. Puedes hacerlo desde el contenedor Ollama. La elección depende de tu hardware: modelos pequeños responden más rápido y consumen menos memoria; modelos grandes ofrecen más capacidad, pero requieren más RAM o VRAM.

# Entrar al contenedor
docker exec -it ollama bash

# Descargar modelos de ejemplo

ollama pull llama3.2
ollama pull qwen2.5
ollama pull mistral

# Probar un modelo

ollama run llama3.2

Al hablar de “modelos open source”, conviene revisar siempre la licencia. Algunos modelos son realmente open source; otros son modelos de pesos abiertos con restricciones de uso. Para empresas, la licencia es tan importante como el rendimiento.

7. Acceder desde cualquier PC de la red local

Una vez iniciado Open WebUI, cualquier computadora de la red local puede entrar desde el navegador usando la IP del servidor Linux. Por ejemplo:

http://192.168.1.50:3000

Para conocer la IP del servidor:

ip a
hostname -I

Lo recomendable es asignar una IP fija al servidor o reservarla en el router. Así los usuarios no tendrán que cambiar la dirección cada vez que el DHCP entregue otra IP.

8. Configurar varios usuarios

Open WebUI está pensado para funcionar como plataforma multiusuario. Su documentación indica que es una plataforma autoalojada, extensible, con soporte para Ollama y APIs compatibles con OpenAI, y la describe como una opción estable y preparada para equipos y organizaciones. ([docs.openwebui.com](https://docs.openwebui.com/))

Cuando ingreses por primera vez, crea la cuenta administradora. Luego podrás habilitar el registro de usuarios, aprobar cuentas, organizar permisos y definir qué modelos estarán disponibles. En instalaciones institucionales, lo recomendable es que no todos los usuarios sean administradores.

9. Proteger el acceso en la red local

No expongas el servidor de IA directamente a Internet. Para un laboratorio o empresa pequeña, lo más seguro es limitar el acceso a la red local, usar usuarios con contraseña, cerrar puertos innecesarios y no publicar la API de Ollama sin autenticación.

Ollama corre localmente y, según su FAQ, cuando se ejecuta en local no envía prompts ni respuestas a ollama.com. Esa ventaja de privacidad solo se conserva si el servidor está correctamente configurado y no se mezcla con servicios cloud sin control. ([docs.ollama.com](https://docs.ollama.com/faq))

# Ajusta la red a tu caso real
sudo ufw allow from 192.168.1.0/24 to any port 3000 proto tcp

# No abras Ollama si no es necesario

sudo ufw deny 11434/tcp

# Ver estado

sudo ufw status verbose

10. Opción con Ollama instalado directamente en Linux

También puedes instalar Ollama directamente en el servidor y ejecutar Open WebUI en Docker. En ese caso, si quieres que otras máquinas accedan a la API de Ollama dentro de la LAN, debes modificar el bind address usando OLLAMA_HOST. La documentación oficial de Ollama señala que por defecto se enlaza a 127.0.0.1:11434 y que se puede cambiar con esa variable de entorno. ([docs.ollama.com](https://docs.ollama.com/faq))

sudo systemctl edit ollama

Agrega:

[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

Luego reinicia el servicio:

sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama

Esta opción debe usarse con cuidado, porque 0.0.0.0 permite escuchar en todas las interfaces. En una red empresarial, conviene limitar por firewall o publicar la API solo detrás de un proxy autenticado.

11. Probar la API desde otra PC

Además de la interfaz web, puedes probar la API desde otra máquina de la red. Esto sirve para integrar aplicaciones internas, scripts Python, herramientas de soporte o prototipos.

curl http://192.168.1.50:11434/api/generate -d '{
  "model": "llama3.2",
  "prompt": "Explica qué es un servidor Linux en 5 líneas",
  "stream": false
}'

Para usuarios comunes, es mejor usar Open WebUI. Para desarrolladores, la API permite construir aplicaciones internas, bots, asistentes de documentación o integraciones con sistemas propios.

12. Alternativas: LocalAI, llama.cpp y vLLM

Ollama y Open WebUI son una excelente combinación para empezar, pero no son las únicas opciones. Según el caso, puedes usar LocalAI, llama.cpp o vLLM.

13. Recomendación de arquitectura según tamaño

14. Añadir HTTPS y reverse proxy

Para una red local simple, HTTP puede ser suficiente en laboratorio, pero en una empresa conviene usar HTTPS, especialmente si se manejan usuarios, contraseñas o documentos internos. Puedes usar Caddy, Nginx o Traefik como reverse proxy.

Caddy documenta su directiva reverse_proxy para enviar solicitudes a un backend, y su documentación de basic_auth advierte que la autenticación básica no es segura sobre HTTP plano. ([caddyserver.com](https://caddyserver.com/docs/caddyfile/directives/basic_auth))

ia.local {
  reverse_proxy localhost:3000
}

En una LAN sin DNS interno, también puedes acceder por IP y usar certificados internos, VPN o un dominio local controlado. Lo importante es no publicar el servicio hacia Internet sin una arquitectura de seguridad adecuada.

15. Administración, backups y mantenimiento

Un servidor de IA local también necesita mantenimiento. Debes respaldar los volúmenes, actualizar imágenes Docker, controlar el uso de disco, revisar logs y monitorear CPU, RAM y GPU.

# Ver estado
docker compose ps

# Ver logs

docker compose logs -f

# Actualizar contenedores

docker compose pull
docker compose up -d

# Ver uso de disco Docker

docker system df

# Backup simple de volúmenes requiere una estrategia propia

docker volume ls

16. Buenas prácticas de seguridad

17. Errores comunes al montar un servidor de IA local

18. Checklist paso a paso

19. Preguntas clave

Recomendamos

En resumen

Crear un servidor de Inteligencia Artificial para tu red local es una de las formas más prácticas de llevar modelos open source o de pesos abiertos a una empresa, aula, laboratorio o equipo técnico. La combinación de Linux, Docker, Ollama y Open WebUI permite ofrecer una interfaz tipo ChatGPT para varios usuarios, con modelos ejecutándose en infraestructura propia.

La clave está en hacerlo con orden: elegir hardware adecuado, no exponer servicios innecesarios, crear usuarios, controlar permisos, revisar licencias de modelos, respaldar datos y medir rendimiento. Para empezar, Ollama + Open WebUI es la ruta más sencilla; para necesidades avanzadas, LocalAI, llama.cpp y vLLM amplían las posibilidades.