Ollama y la inteligencia artificial de código abierto: qué es y cómo instalarla en Linux

Aclaración importante: Ollama no es un modelo de inteligencia artificial. Es un motor y una plataforma para descargar, administrar y ejecutar modelos como Gemma, Qwen, DeepSeek, Llama y otros.

Ollama puede funcionar localmente o utilizar modelos cloud. Si el objetivo es mantener los datos dentro de la organización, debe seleccionarse un modelo local y comprobarse que la aplicación no envíe información hacia servicios externos.

ollama run gemma3:4b

Recomendación empresarial: antes de utilizar un modelo para atender clientes, procesar documentos corporativos o incorporarlo a un producto, revisa su licencia, condiciones de redistribución y restricciones de uso.

1. El usuario selecciona un modelo de la biblioteca o importa uno propio.
2. Ollama descarga los archivos y los almacena localmente.
3. El motor detecta la CPU, GPU y memoria disponibles.
4. El modelo se carga en memoria para realizar inferencia.
5. Las aplicaciones interactúan mediante terminal, Python, JavaScript o API HTTP.

• Mayor control: la organización administra el servidor, los modelos y las actualizaciones.
• Privacidad: las consultas pueden procesarse dentro del equipo o red local.
• Trabajo sin conexión: después de descargar el modelo, muchas funciones no requieren Internet.
• Costos predecibles: no se paga necesariamente por cada token procesado localmente.
• Integración: la API facilita conectar aplicaciones internas.
• Experimentación: es posible probar diferentes modelos y configuraciones.
• Personalización: pueden crearse modelos derivados mediante archivos Modelfile.

curl -fsSL https://ollama.com/install.sh | sh

En entornos empresariales: revisa el script antes de ejecutarlo o utiliza el método de instalación manual documentado por el proyecto. No debe adoptarse automáticamente la práctica de descargar y ejecutar scripts sin validación.

ollama --version

systemctl status ollama --no-pager

sudo systemctl enable --now ollama

sudo systemctl status ollama --no-pager

journalctl -e -u ollama

journalctl -u ollama -f

ollama list

ollama pull gemma3:4b

ollama run gemma3:4b

ollama show gemma3:4b

ollama ps

ollama stop gemma3:4b

ollama rm gemma3:4b

curl http://localhost:11434/api/tags

curl http://localhost:11434/api/chat -d '{
  "model": "gemma3:4b",
  "messages": [
    {
      "role": "user",
      "content": "Explica qué es Linux en cinco líneas"
    }
  ],
  "stream": false
}'

mkdir -p ~/proyectos/asistente-ollama
cd ~/proyectos/asistente-ollama

python3 -m venv .venv
source .venv/bin/activate

python -m pip install --upgrade pip
pip install ollama

from ollama import chat

def main() -> None:
try:
response = chat(
model="gemma3:4b",
messages=[
{
"role": "system",
"content": (
"Eres un asistente técnico especializado en Linux. "
"Responde de manera clara y precisa."
),
},
{
"role": "user",
"content": "Explica tres ventajas de utilizar Linux en servidores.",
},
],
)

```
    print(response.message.content)

except Exception as error:
    print(f"No fue posible consultar Ollama: {error}")
```

if **name** == "**main**":
main()

python asistente.py

from openai import OpenAI

client = OpenAI(
base_url="http://localhost:11434/v1/",
api_key="ollama",
)

response = client.chat.completions.create(
model="gemma3:4b",
messages=[
{
"role": "user",
"content": "Crea una lista de comandos básicos de Linux.",
}
],
)

print(response.choices[0].message.content)

• No publiques el puerto 11434 directamente en Internet.
• Utiliza firewall, VPN o proxy inverso con autenticación.
• Restringe las direcciones que pueden conectarse.
• No permitas que usuarios no confiables descarguen modelos arbitrarios.
• Supervisa el consumo de RAM, GPU, CPU y almacenamiento.
• No envíes información confidencial a modelos cloud sin autorización.
• Ejecuta agentes y herramientas con permisos mínimos.
• Registra las acciones automatizadas que modifiquen archivos o sistemas.

• Los modelos pueden inventar información o producir respuestas incorrectas.
• Un equipo sin GPU puede generar texto lentamente.
• Los modelos grandes requieren mucho almacenamiento y memoria.
• La calidad depende del idioma, tarea y modelo elegido.
• Una ventana de contexto extensa aumenta el consumo de memoria.
• La ejecución local no actualiza automáticamente el conocimiento del modelo.
• Un modelo abierto no garantiza datos de entrenamiento completamente abiertos.
• Los agentes pueden causar daños si reciben permisos excesivos.

• Asistentes internos para consultar procedimientos y manuales.
• Clasificación automática de tickets de soporte.
• Generación de borradores y documentación técnica.
• Análisis de registros y eventos de seguridad.
• Asistencia para programación y revisión de código.
• Búsqueda semántica en contratos y expedientes.
• Extracción estructurada de información de documentos.
• Chatbots ejecutados dentro de una red privada.

¿Ollama es una inteligencia artificial?

Ollama no es el modelo de inteligencia artificial. Es una plataforma que descarga, administra y ejecuta modelos en una computadora o servidor.

¿Ollama es gratuito?

El software principal puede utilizarse bajo licencia MIT. Los costos aparecen en el hardware, almacenamiento, energía, administración y posibles servicios cloud.

¿Todos los modelos de Ollama son open source?

No necesariamente. Cada modelo tiene su propia licencia. Algunos son software abierto, otros publican principalmente sus pesos y otros imponen condiciones adicionales.

¿Ollama funciona sin GPU?

Sí, puede utilizar la CPU, aunque la generación suele ser más lenta. Para equipos modestos conviene seleccionar modelos pequeños y cuantizados.

¿Puedo utilizar Ollama sin Internet?

Sí, después de instalar el software y descargar el modelo local. Las búsquedas web, descargas, conectores y modelos cloud sí necesitan conexión.

¿Las conversaciones se mantienen privadas?

Cuando todo se ejecuta localmente, los datos pueden permanecer dentro del equipo. Debe verificarse que ninguna interfaz o integración conectada envíe información a servicios externos.

¿Puedo utilizar Ollama en una empresa?

Sí. Deben revisarse la licencia del modelo, la capacidad del servidor, la seguridad de la API, el tratamiento de datos y la calidad de las respuestas.

¿Ollama reemplaza a ChatGPT?

Puede cubrir conversación, programación, resumen y análisis local, pero la calidad dependerá del modelo y del hardware. No todas las funciones de un servicio comercial estarán disponibles automáticamente.

• Las mejores alternativas open source a ChatGPT que puedes instalar en Linux
• IA open source en Linux: cómo utilizar modelos locales
• Cómo construir un servidor de IA local utilizando Linux
• Cómo montar un laboratorio de inteligencia artificial en Linux

Conclusión editorial

Ollama no elimina la necesidad de servicios comerciales, pero demuestra que una parte importante de la inteligencia artificial moderna puede ejecutarse dentro de Linux, bajo el control del usuario y utilizando modelos que pueden auditarse, cambiarse y adaptarse a cada necesidad.