Ollama Beta

6 min de lectura

La integración con Ollama permite que el modelo se ejecute en una máquina que controlas, en lugar de usar un proveedor cloud. A cambio de mantener el procesamiento dentro de tu infraestructura, te encargas de los recursos, la disponibilidad y la seguridad de esa máquina.

Experimental

La integración con Ollama está en pruebas y puede cambiar. Úsala primero en un entorno controlado.

Antes de conectarlo

Si todavía no tienes Ollama instalado, descárgalo para tu sistema operativo desde ollama.com/download.

Necesitas una instalación de Ollama con el modelo descargado y una dirección alcanzable desde el contenedor del agente. Comprueba los modelos disponibles con:

ollama list

Por defecto, Ollama solo escucha conexiones locales. Cuando el agente deba acceder desde otro contenedor o equipo, configúralo para escuchar en una interfaz de red y protege el acceso con tu red privada, una VPN o un cortafuegos.

OLLAMA_HOST=0.0.0.0 ollama serve

No expongas Ollama sin protección

Ollama no añade autenticación por sí mismo. No publiques el puerto de Ollama directamente en internet: utiliza una VPN o un proxy con autenticación y HTTPS.

Crear una conexión

En Ajustes > Modelos > Ollama, pulsa Añadir conexión. Una conexión representa una combinación concreta de máquina y modelo, no una cuenta de proveedor: si tienes tres equipos con Ollama, son tres conexiones y ninguna sobra.

Nombra la conexión

El nombre es obligatorio y es lo único que distingue una máquina de otra en la lista y en la ficha de cada agente. Usa algo que permita reconocerla, por ejemplo, “Ollama de desarrollo”.

Indica la dirección

Introduce la URL desde la que el agente puede alcanzar Ollama. Para un modelo que se ejecuta en el mismo servidor que el agente, suele utilizarse http://host.docker.internal:11434.

Declara dónde está el servidor

En Ubicación del servidor, elige Red privada si está en la misma máquina, en tu red local o en una VPN, o Acceso público si llegas a él por un túnel, un dominio propio o DNS dinámico. El acceso público exige HTTPS.

Elige el modelo y su contexto

En Modelo, elige uno de la lista: Kujira le pregunta a tu Ollama —desde tu servidor— qué modelos tiene descargados, y enseña de cada uno su ventana de contexto y su tamaño. Al elegirlo se rellena la ventana. Los que admiten 64k tokens o menos aparecen atenuados y no se pueden elegir: un agente no cabe en ellos. Si la lista no sale (un servidor sin actualizar, o una dirección que no contesta), escribe el nombre exacto que devuelve ollama list e indica su ventana, que tiene que ser de más de 64k.

Asigna la conexión al agente

En Configuración > Modelo del agente, elige esa conexión en el desplegable Conexión. Como la conexión trae su propio modelo, es el que correrá. Ni guardar la asignación ni cambiar después la conexión (su modelo, su ventana, su clave o su dirección) reinicia a nadie: sus agentes lo usan desde su siguiente respuesta.

Elegir la dirección correcta

Situación	Dirección habitual	Recomendación
Mismo servidor	http://host.docker.internal:11434	Comprueba que el modelo está instalado en ese servidor.
Red local	http://192.168.x.x:11434	Limita el acceso al servidor de Kujira.
Red privada o VPN	URL o IP privada	Es la opción recomendada para otra ubicación.
Internet	URL HTTPS protegida	Úsala solo detrás de autenticación y un proxy seguro.

Atención con varios servidores

host.docker.internal apunta al servidor donde se ejecuta cada agente. Si tienes varios, todos deben disponer del mismo modelo con el mismo nombre, o debes crear conexiones separadas para cada máquina.

Varias máquinas, varias conexiones

Cada equipo con Ollama es una conexión con su nombre, su dirección y su modelo. Una de ellas queda marcada como predeterminada —la que heredan los agentes que no eligen ninguna—, pero con máquinas distintas lo normal es fijarle a cada agente la suya por su nombre en vez de heredar.

Si quieres retirar una conexión que ya usan agentes, Kujira te pide antes a cuál pasan: elígela en Pasar los agentes a y confirma con Mover y quitar. Si solo vas a apagar la máquina un rato, apaga la conexión en lugar de quitarla.

Contexto y rendimiento

Un modelo de 64k o menos no sirve

En cada mensaje, un agente envía al modelo sus instrucciones y la descripción de todas sus herramientas, antes incluso de lo que le escribes: unos 30.000 tokens en un agente recién creado, y más cuantas más memorias, skills y herramientas externas tenga. En un modelo de 32k eso no cabe, y Ollama no avisa: recorta el principio y el agente contesta sin sentido —a menudo, con el ejemplo de una herramienta escrito como texto—. En uno de 64k cabe, pero no deja sitio para la conversación.

Por eso Kujira sólo acepta modelos locales con más de 64k tokens de ventana. Al conectarlo solo te deja elegir esas ventanas, y Probar sale en rojo si el modelo que has elegido no llega o si tu servidor sirve 64k o menos —lo normal en un Ollama recién instalado, que sirve 4.096—. Modelos como qwen2.5-coder (32k) se quedan fuera; busca uno con ventana de 128k o más, y súbela en Ollama con OLLAMA_CONTEXT_LENGTH para que la sirva entera.

Que la ventana coincida con la real

La ventana de contexto debe coincidir con la capacidad real del modelo. Una cifra demasiado alta puede provocar errores durante una conversación larga; una demasiado baja compactará antes de lo necesario.

Para saber cuál es, pulsa Probar en la conexión: la comprobación te enseña las dos cifras juntas —lo que el modelo admite y lo que tu servidor está sirviendo de verdad— en rojo si tu servidor sirve 64k o menos, y en ámbar si sirve más pero menos de lo que el modelo admite. Ollama sirve 4.096 tokens por defecto, aunque el modelo admita muchos más; se sube con OLLAMA_CONTEXT_LENGTH en la máquina donde corre. Detalle en Comprobar un motor local.

El coste por token no aparece en Kujira porque no interviene un proveedor cloud. Aun así, el consumo existe: depende de la GPU, CPU, memoria y electricidad de tu infraestructura. Los modelos grandes requieren más recursos y pueden responder más lentamente.

Errores frecuentes

El agente no puede conectar

Revisa la dirección, el puerto, el cortafuegos y que Ollama esté escuchando fuera de localhost cuando el agente se ejecute en otro contenedor o servidor.

Falla el primer mensaje

Comprueba que el nombre configurado coincide exactamente con el que devuelve ollama list, incluidos la etiqueta y la versión del modelo.

Funciona en un agente y no en otro

Los agentes pueden ejecutarse en servidores distintos. Verifica que todos tengan acceso a la misma instancia o que cada servidor disponga del modelo con el mismo nombre.

El agente arranca con otra máquina

Comprueba qué conexión tiene fijada en Configuración > Modelo. Con Heredar de la organización usa la predeterminada, que puede ser la de otro equipo.

Contesta sin sentido desde el primer mensaje

Suele ser un modelo con poca ventana: lo que el agente envía en cada mensaje no cabe y Ollama lo recorta sin avisar. Pulsa Probar en la conexión; si sale que el modelo admite 64k o menos, cambia a uno con más ventana. Ver Un modelo de 64k o menos no sirve.

Falla en conversaciones largas

La ventana de contexto configurada no coincide con la capacidad real del modelo. Ajusta ese valor en la conexión: sus agentes lo usan desde su siguiente respuesta, sin reiniciarlos.

Consulta Modelos si prefieres gestionar modelos y credenciales desde un proveedor externo.