Jan: Cliente de IA local para escritorio

Qué cubre este artículo sobre Jan

• Qué es Jan y cómo funciona el cliente de escritorio para IA local
• Cómo instalar Jan en Windows, macOS y Linux
• Cómo cargar modelos, chatear y utilizar el servidor API
• Cómo se diferencia Jan de LM Studio y Ollama
• Qué dificultades pueden surgir y cómo evitarlas

Introducción: Jan explicado

Jan es un cliente de escritorio de código abierto para IA local. Te permite ejecutar grandes modelos de lenguaje directamente en tu ordenador sin enviar datos a ningún servicio en la nube. Cargas un modelo en formato GGUF, abres un chat y comienzas. Todo funciona sin conexión en tu hardware.

Quienes se acercan por primera vez a la IA local suelen formularse una pregunta: ¿realmente necesito un programa gráfico o me basta con la línea de comandos? Jan está diseñado para usuarios que buscan una interfaz fácil de usar. No tienes que abrir una terminal para iniciar un modelo. Simplemente navegas por el Model Hub integrado, descargas un archivo y chateas en la misma ventana.

En este artículo descubrirás cómo está estructurado Jan, qué funciones ofrece y dónde están sus límites. Si nunca has trabajado con IA local, primero lee nuestro resumen sobre Qué es la IA local. Para un contexto más amplio también es útil ver el resumen de Software de IA local.

¿Por qué necesito Jan?

Imagina que quieres usar IA para notas privadas, fragmentos de código o borradores que contienen datos sensibles. No quieres que estos textos terminen en ningún servidor. Al mismo tiempo, prefieres no construirte un setup complejo con entornos Python y herramientas de línea de comandos.

Aquí es donde entra Jan. Instalas una aplicación, la inicias y ves una interfaz que se parece a un cliente de chat. Cargas un modelo, escribes un mensaje y obtienes una respuesta. Sin cuenta en la nube, sin API keys, sin conexión a internet una vez descargado el modelo. Todo permanece en tu ordenador.

Si quieres profundizar más en el tema, nuestro artículo Ejecutar LLM localmente ofrece más información de fondo.

Jan en pocas palabras

Jan es una aplicación de escritorio basada en Electron que ejecuta modelos de lenguaje localmente. Bajo el capó, Jan utiliza un motor llamado Cortex que se encarga de cargar y ejecutar modelos. La interfaz te proporciona un área de chat, un navegador de modelos y configuración para parámetros como temperatura o longitud del contexto.

Las características principales de Jan:

• Código abierto bajo licencia AGPL
• Funciona sin conexión una vez descargados los modelos
• Soporta el formato GGUF para modelos cuantificados
• Ofrece un servidor API local compatible con la API de OpenAI
• Extensible a través de extensiones

¿Para quién es Jan?

Jan está diseñado para varios grupos:

• Principiantes que deseen probar IA local sin usar la línea de comandos
• Usuarios preocupados por la privacidad que no quieren enviar datos a servicios en la nube
• Desarrolladores que necesiten un servidor API local para prototipos
• Personas que deben trabajar sin conexión, por ejemplo en viajes o en redes aisladas

Si ya usas Ollama y buscas una interfaz gráfica, también considera Open WebUI. Si no sabes cómo elegir entre clientes gráficos, encontrarás comparaciones más abajo en este artículo.

Términos importantes sobre Jan

Término	Explicación
Jan	La aplicación de escritorio que te proporciona una interfaz gráfica para IA local
GGUF	Un formato de archivo para modelos cuantificados que Jan usa para cargar modelos
Cortex	El motor bajo el capó de Jan que carga y ejecuta modelos
Thread	Una conversación de chat individual en Jan, comparable con un historial de chat
Model Hub	El catálogo integrado en Jan desde el cual descargas modelos
API Server	Un servidor local en Jan que proporciona una interfaz compatible con OpenAI
Extension	Un plugin que añade funcionalidades como proveedores de modelos adicionales o herramientas
System Prompt	Una instrucción al inicio de un thread que controla el comportamiento del modelo
Context	El rango de texto que el modelo puede considerar al responder una consulta
Offline	Operación sin conexión a internet, después de descargar los modelos

Para más información sobre cuantificación y el formato GGUF lee nuestro artículo sobre Cuantificación.

Instalación

Jan se puede instalar en los tres principales sistemas operativos. Encontrarás el sitio oficial de descarga en jan.ai.

Windows

1. Abre jan.ai en el navegador.
2. Descarga el instalador de Windows, un archivo con extensión .exe.
3. Ejecuta el archivo y sigue el diálogo de instalación.
4. Inicia Jan desde el menú de inicio.

macOS

1. Abre jan.ai en el navegador.
2. Descarga la versión de macOS, un archivo con extensión .dmg.
3. Abre el archivo .dmg y arrastra Jan a la carpeta Aplicaciones.
4. Inicia Jan desde la carpeta Aplicaciones o mediante Spotlight.

Linux

1. Abre jan.ai en el navegador.
2. Descarga la versión adecuada, ya sea .AppImage o .deb.
3. Para .AppImage: haz que el archivo sea ejecutable con chmod +x jan.AppImage e inicialo.
4. Para .deb: instala con sudo dpkg -i jan.deb.

Después del primer inicio verás la interfaz principal de Jan. Todavía no hay ningún modelo cargado, eso viene en el siguiente paso.

Encontrar y cargar modelos

Jan incluye un Model Hub integrado. No necesitas buscar archivos de modelos en internet, sino que puedes explorar directamente desde la aplicación.

Para cargar un modelo:

1. Haz clic en la sección de modelos en la barra lateral.
2. Explora la lista de modelos disponibles.
3. Elige un modelo que se adapte a tu hardware. Para principiantes, modelos más pequeños como Llama 3.2 con 3B parámetros son un buen punto de partida.
4. Haz clic en Descargar y espera a que se descargue el archivo GGUF.

Presta atención al tamaño de los modelos. Un modelo de 7B parámetros en una cuantificación moderada requiere varios gigabytes de almacenamiento y memoria RAM. Si no estás seguro qué hardware necesitas, nuestro artículo sobre CPU vs. GPU te ayudará.

Función de chat

Una vez cargado un modelo, puedes comenzar a chatear inmediatamente.

1. Crea un nuevo thread mediante el botón en la barra lateral.
2. Selecciona el modelo cargado del menú desplegable.
3. Opcionalmente, añade un System Prompt para controlar el comportamiento del modelo.
4. Escribe tu mensaje en el campo de entrada y envíalo.

Cada thread almacena el historial por separado. Puedes mantener varios threads en paralelo y cambiar entre ellos. El System Prompt se aplica por thread, así que puedes establecer instrucciones diferentes para tareas distintas.

En la configuración de un thread encontrarás parámetros como temperatura, Top P y longitud del contexto. La temperatura controla qué tan creativas son las respuestas. Un valor bajo como 0.1 genera respuestas conservadoras, mientras que un valor más alto como 0.8 produce más variación.

Servidor API

Jan ofrece un servidor API local que replica la API de OpenAI. Esto significa que puedes ejecutar aplicaciones escritas para la API de OpenAI con modelos locales.

Para activar el servidor API:

1. Abre la configuración en Jan.
2. Dirígete a la sección del servidor API.
3. Activa el servidor.
4. Anota la dirección, generalmente http://localhost:1337/v1.

En tu aplicación, establece la URL base en esta dirección e ingresa cualquier clave API, ya que Jan no requiere autenticación real. Un ejemplo en Python con la biblioteca OpenAI:

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:1337/v1",
    api_key="not-needed"
)

response = client.chat.completions.create(
    model="llama3.2-3b",
    messages=[
        {"role": "user", "content": "Erkläre Quantisierung in einem Satz."}
    ]
)

print(response.choices[0].message.content)

Esta llamada se ejecuta completamente en local. Ningún dato abandona tu ordenador.

Extensiones

Jan es extensible a través de extensiones. Las extensiones pueden añadir nuevos proveedores de modelos, vincular herramientas o personalizar la interfaz.

Para usar extensiones:

1. Abre la configuración y dirígete a la sección de extensiones.
2. Verás una lista de las extensiones instaladas y disponibles.
3. Activa o desactiva extensiones con un clic.
4. Algunas extensiones requieren configuración adicional, como claves API para servicios externos.

Casos de uso típicos para extensiones:

• Proveedores de modelos: Integración con servicios en la nube como OpenAI, si prefieres usar modelos en la nube.
• Herramientas: Búsqueda web o ejecución de código dentro del chat.
• Configuración del motor: Ajuste fino del motor subyacente.

Las extensiones hacen que Jan sea flexible. Comienzas de forma local y expandes según sea necesario sin cambiar de aplicación.

Jan vs. LM Studio vs. Ollama

Jan no es el único cliente para IA local. Las dos alternativas más conocidas son LM Studio y Ollama. Aquí hay una comparación:

Característica	Jan	LM Studio	Ollama
Licencia	Open Source (AGPL)	Propietario, gratuito	Open Source (MIT)
Interfaz	Gráfica	Gráfica	Línea de comandos, WebUI opcional
Formato de modelo	GGUF	GGUF	GGUF (variante propia)
Servidor API	Sí, compatible con OpenAI	Sí, compatible con OpenAI	Sí, compatible con OpenAI
Navegador de modelos	Integrado	Integrado	A través de CLI o biblioteca
Extensiones	Sí	No	Limitadas
Plataformas	Windows, macOS, Linux	Windows, macOS, Linux	Windows, macOS, Linux

Encontrarás más detalles sobre las alternativas en nuestros artículos sobre LM Studio y Ollama.

La elección depende de tus preferencias. Si prefieres código abierto y valoras las extensiones, Jan es una buena opción. Si deseas una interfaz particularmente pulida, consulta LM Studio. Si prefieres trabajar en la terminal, Ollama es la opción adecuada.

Ejemplo: Tu primer modelo en Jan

Aquí te mostramos paso a paso cómo poner en marcha tu primer modelo en Jan.

Paso 1: Instalar Jan

Descarga Jan desde jan.ai e instálalo como se describe arriba.

Paso 2: Descargar un modelo

Abre la sección de modelos en Jan. Busca un modelo pequeño como Llama 3.2 con 3B parámetros. Elige una cuantización moderada como Q4_K_M, que ofrece un buen equilibrio entre tamaño y calidad. Haz clic en Descargar y espera a que el archivo se cargue completamente.

Paso 3: Crear un thread

Haz clic en el botón para crear un nuevo thread. Asigna un nombre al thread, por ejemplo “Primeras pruebas”. Selecciona el modelo recién descargado del menú desplegable.

Paso 4: Configurar el System Prompt

Ingresa una instrucción en el campo de System Prompt, por ejemplo: “Eres un asistente útil y respondes en español.”

Paso 5: Chatear

Escribe un primer mensaje en el campo de entrada, por ejemplo “¿Qué puedes hacer por mí?” y envíalo. El modelo genera una respuesta. Dependiendo de tu hardware, esto puede tomar un momento.

Paso 6: Ajustar parámetros

Si las respuestas son demasiado creativas o demasiado predecibles, cambia el valor de temperatura en el thread. Guarda la configuración y prueba de nuevo.

Problemas comunes con Jan

Jan es fácil de usar, pero hay algunos puntos que pueden ralentizar a los principiantes.

1. Memoria RAM insuficiente: Los modelos requieren mucha RAM. Un modelo de 7B necesita al menos 8 GB de RAM libre, preferiblemente más. Si tu ordenador no tiene suficiente, el proceso se interrumpirá o se volverá extremadamente lento.

2. Tamaño de modelo incorrecto: Un modelo grande como 70B parámetros no funciona razonablemente en un ordenador normal. Comienza con modelos pequeños e incrementa gradualmente.

3. Sin aceleración de GPU: Jan soporta aceleración de GPU, pero debes activarla. Sin GPU, el modelo se ejecuta en la CPU, lo que es significativamente más lento.

4. Confusión sobre cuantizaciones: Los diferentes valores Q como Q4, Q5 y Q8 confunden a los principiantes. Q4 es más pequeño y rápido, Q8 es más preciso pero más grande. Para empezar, Q4_K_M es una opción segura.

5. Servidor API no activo: Si quieres usar el servidor API, debes activarlo en la configuración. Muchos usuarios esperan que se ejecute por defecto, pero no es así.

6. Dependencia del Model Hub: El Model Hub requiere conexión a Internet. Si estás offline, no puedes descargar nuevos modelos, solo usar los que ya tienes cargados.

7. Tiempos de carga prolongados: Cuando inicias un modelo por primera vez, Jan carga el archivo en la RAM. Esto puede tomar desde varios segundos hasta minutos, dependiendo del tamaño del modelo y el tipo de almacenamiento. Es normal, no es un error.

8. Versión de Jan desactualizada: Jan se actualiza regularmente. Una versión antigua puede tener problemas con modelos o motores más nuevos. Mantén Jan actualizado.

Hardware, costos y seguridad con Jan

Hardware

Los requisitos de hardware dependen del modelo que quieras ejecutar. Como referencia:

• Modelos de 3B: 8 GB RAM, CPU suficiente para velocidad moderada
• Modelos de 7B: 16 GB RAM, una GPU con 8 GB VRAM acelera considerablemente
• Modelos de 13B y superiores: 32 GB RAM, una GPU con 16 GB VRAM o más

Un SSD rápido ayuda a cargar los archivos de modelo. Más información sobre hardware en nuestro artículo sobre CPU vs. GPU.

Costos

Jan en sí es gratuito y código abierto. No pagas nada por el software. Los costos surgen únicamente del hardware en el que ejecutas Jan. No hay cuotas en la nube, ya que todo se ejecuta localmente.

Seguridad

Como Jan funciona sin conexión, tus datos permanecen en tu ordenador. Esta es una gran ventaja para contenido sensible. Aun así, ten en cuenta:

• Los modelos pueden proporcionar respuestas incorrectas o fabricadas, verifica la información importante.
• Las extensiones que conectan servicios en la nube transmiten datos hacia el exterior. Verifica qué extensiones activas.
• Descarga Jan solo desde el sitio oficial jan.ai para evitar versiones manipuladas.

Enlaces e información adicional sobre Jan

• Sitio oficial: jan.ai
• Código fuente en GitHub: github.com/menloresearch/jan
• Documentación: jan.ai/docs
• Chat comunitario: Encontrarás enlaces en la página de GitHub

Para temas más avanzados sobre IA local:

• ¿Qué es IA local?
• Ejecutar LLM localmente
• Cuantización
• Ollama
• LM Studio
• Open WebUI

FAQ: Jan - Preguntas frecuentes

¿Jan es gratuito?

Sí, Jan es Open Source bajo licencia AGPL y completamente gratuito. No pagas nada por el software.

¿Necesito Internet para usar Jan?

Para descargar modelos sí. Una vez que tengas un modelo en tu ordenador, puedes usar Jan completamente offline.

¿Qué modelo debo cargar primero?

Para principiantes, un modelo pequeño como Llama 3.2 con 3B parámetros en cuantización Q4_K_M es ideal. Es compacto, funciona en la mayoría de ordenadores y proporciona resultados útiles.

¿Puedo usar Jan en lugar de la API de OpenAI?

Sí, Jan ofrece un servidor API local que emula la API de OpenAI. Puedes migrar programas escritos para OpenAI hacia modelos locales.

¿Jan es mejor que LM Studio?

Depende de tus prioridades. Jan es Open Source y ofrece extensiones, mientras que LM Studio tiene una interfaz ligeramente más pulida. Ambos son excelentes opciones para IA local.

¿Necesito una GPU para Jan?

No, Jan funciona también en CPU. Una GPU acelera significativamente la generación, pero no es obligatoria. Para modelos pequeños la CPU es suficiente, para modelos más grandes se recomienda GPU.

¿Puedo cargar varios modelos al mismo tiempo?

Sí, puedes descargar múltiples modelos en Jan e intercambiar entre ellos. Sin embargo, solo deberías ejecutar uno simultáneamente, ya que cada carga consume memoria RAM.

¿Dónde guarda Jan los modelos?

Jan almacena los modelos en un directorio local en tu ordenador. La ruta exacta la encuentras en la configuración dentro de la sección de ubicaciones de almacenamiento.

¿Puedo cargar archivos GGUF propios en Jan?

Sí, puedes importar archivos GGUF de otras fuentes en Jan. Coloca el archivo en el directorio de modelos o usa la función de importación en la interfaz.

¿Cómo actualizo Jan?

Jan verifica actualizaciones al inicio y te lo notifica. También puedes descargar manualmente la última versión de jan.ai e instalarla sobre la instalación existente. Tus modelos y conversaciones se conservarán.

¿Jan es seguro para datos sensibles?

Sí, siempre que trabajes offline y no actives extensiones en la nube, todos tus datos permanecen en tu ordenador. De todas formas, verifica las respuestas por precisión, ya que los modelos pueden cometer errores.

Fuentes y lecturas adicionales

• Jan Documentation, jan.ai/docs
• Repositorio GitHub de Jan, github.com/menloresearch/jan
• Descripción de GGUF y cuantización, en nuestro artículo sobre Cuantización
• Comparativa de herramientas de IA local, en nuestra guía sobre Software de IA Local