LM Studio vs Ollama: qué elegir para usar modelos locales

Descargar un modelo de lenguaje no resuelve por sí solo cómo vamos a utilizarlo. Podemos querer una ventana donde escribir y adjuntar un documento, o un servidor que responda a una aplicación de programación. También podemos necesitar ambas cosas, pero no necesariamente con la misma herramienta.

LM Studio y Ollama permiten ejecutar modelos en nuestro ordenador. La diferencia útil no es decidir cuál tiene el nombre más popular, sino cómo cargamos el modelo, cómo lo conectamos con otras aplicaciones y qué control tenemos sobre memoria, contexto y datos. Tampoco compararía su velocidad ejecutando un modelo distinto en cada uno.

Primero: herramienta y modelo no son lo mismo

Qwen, Llama o Gemma son familias de modelos. LM Studio y Ollama son programas que pueden ejecutarlos, con los formatos y motores que admitan. La calidad de una respuesta depende mucho del modelo, no sólo de la aplicación que tenga alrededor.

Si una herramienta descarga una variante pequeña y la otra una mucho mayor, sus respuestas no sirven para declarar que la segunda aplicación es más inteligente. Algo parecido ocurre con la cuantización: dos archivos con el mismo nombre de familia pueden tener distinto tamaño y precisión.

La elección empieza por el trabajo. Para resumir notas quizá nos baste un modelo modesto. Para revisar código, seguir instrucciones largas o utilizar herramientas, necesitamos comprobar esas capacidades por separado. Una interfaz cómoda no añade una función que el modelo no sabe ejecutar bien.

LM Studio si queremos trabajar desde una interfaz

LM Studio reúne descarga de modelos, conversaciones y ajustes en una aplicación. Para quien quiere abrir un chat, elegir un archivo y ver qué parámetros está utilizando, resulta un punto de partida cómodo.

También permite adjuntar documentos y utilizar modelos locales desde un servidor. La documentación de LM Studio distingue esas funciones y los motores que puede emplear. En Linux lo importante es comprobar la arquitectura y los requisitos de la versión descargada, en vez de asumir que cualquier AppImage funcionará en un ordenador antiguo.

Dentro de la aplicación, elegiría primero un modelo que quepa con margen en el equipo, una conversación corta y una tarea que podamos verificar. No descargaría varios modelos grandes antes de comprobar el espacio disponible. Las condiciones de hardware cambian según sistema operativo y arquitectura.

Si lo que queremos es consultar un documento pequeño, no hace falta montar un servidor completo para empezar. Podemos cargarlo en el chat y comprobar si la respuesta señala un dato que realmente aparece en él. El procedimiento para documentos explica ese uso.

Ollama si queremos una API y un flujo sencillo de terminal

Ollama encaja bien cuando queremos gestionar modelos por nombre y conectarlos con un editor, una aplicación propia o una interfaz separada. Su API permite incorporar el modelo a un flujo que no dependa de mantener una ventana de chat abierta.

Si todavía no lo tenemos preparado, la guía de instalar Ollama en Linux y elegir un modelo por RAM y VRAM desarrolla esa primera parte. Aquí nos interesa decidir cómo lo utilizaremos después.

Logo de Ollama

Dos consultas especialmente útiles son:

ollama list
ollama ps

La primera lista los modelos disponibles en disco. La segunda muestra los que están cargados en ese momento. Descargar un modelo no implica que esté utilizando memoria permanentemente.

En ollama ps podemos comprobar si el modelo está en CPU, GPU o repartido entre ambas. La FAQ oficial explica estos estados. Es una comprobación mucho más útil que suponer que el programa está aprovechando la gráfica porque el ordenador tenga una.

Separar el servidor de la interfaz también tiene una consecuencia: debemos conservar los datos de ambos. Las conversaciones de una interfaz externa no se guardan automáticamente dentro del directorio de modelos de Ollama.

No es simplemente «interfaz frente a terminal»

LM Studio también dispone de lms, su herramienta de terminal, y de llmster, un componente para trabajar sin la aplicación gráfica. Podemos automatizar tareas y utilizar su servidor desde programas propios. La diferencia entre LM Studio, llmster y lms importa si estamos pensando en un servidor o en un proceso de desarrollo.

Ollama, por su parte, puede trabajar con otras interfaces y ofrece distintas formas de interacción según el sistema operativo. No elegiría por una clasificación rígida de «uno para principiantes y otro para programadores».

La pregunta práctica es dónde queremos que estén las conversaciones, cómo vamos a gestionar los modelos y cuánto nos interesa integrar el servicio con herramientas que ya utilizamos. Si acabamos usando una interfaz externa en ambos casos, la experiencia del chat puede depender más de esa interfaz que del servidor de modelos.

La memoria disponible manda más que el catálogo

La RAM y la memoria de la gráfica no son una misma bolsa disponible para cualquier configuración. Un modelo puede caber en la memoria del sistema y no hacerlo entero en la GPU. El contexto y las solicitudes simultáneas añaden consumo sobre los pesos del modelo.

Por eso un archivo de unos pocos gigabytes no permite calcular el uso total mirando únicamente su tamaño en disco. Si empezamos con una ventana de contexto enorme, podemos acabar intercambiando memoria con el disco o haciendo que la carga sea mucho más lenta.

En LM Studio revisamos las opciones de carga, el contexto y la descarga de trabajo a la GPU. En Ollama consultamos el modelo cargado y los parámetros de la solicitud. No asumiría que los valores predeterminados de las dos herramientas son equivalentes.

Si el ordenador se vuelve lento, observamos la memoria y los procesos antes de seguir descargando variantes. htop ayuda a ver lo que consume el equipo. No hace falta vaciar la caché de Linux como rutina para ejecutar un modelo.

Conectar una aplicación al servidor

LM Studio puede ofrecer una API compatible con el formato de ciertas APIs conocidas. El servidor se activa desde la aplicación o mediante sus herramientas. Una comprobación inicial, si lo hemos configurado en el puerto habitual, es:

curl http://127.0.0.1:1234/v1/models

Ollama utiliza habitualmente el puerto 11434. Podemos consultar los modelos disponibles desde su API:

curl http://127.0.0.1:11434/api/tags

Son dos consultas de lectura, no órdenes para descargar o cargar otro modelo. Si el servicio no está arrancado, fallarán. Si hemos cambiado el puerto, ajustamos la dirección. No sustituimos el servidor que ya utiliza otra aplicación sin comprobar su configuración.

Al conectar un editor o una interfaz, revisamos la URL base, el identificador del modelo y si espera un formato compatible o la API nativa. «Compatible» no significa que todas las extensiones de todos los proveedores funcionen igual. Podemos consultar el servidor de LM Studio y sus endpoints compatibles.

Para una primera prueba dejaría el servidor accesible sólo desde el propio ordenador. Dar acceso a toda la red también permite que otros equipos puedan intentar utilizarlo. La autenticación de LM Studio y los permisos de cualquier interfaz que pongamos delante deben revisarse antes de ampliar ese acceso.

Cómo comparar rendimiento sin comparar cosas distintas

Podemos hacer una comparación pequeña que nos sirva para decidir, pero primero anotamos el modelo exacto, su cuantización, el contexto y dónde se ejecuta. Si alguno de esos datos cambia, no atribuimos toda la diferencia a la herramienta.

Una tarea sencilla sería pasar el mismo texto a las dos y pedir cinco datos concretos, con el mismo límite de respuesta. Por ejemplo, un documento inventado con horarios y condiciones de una reserva. Comprobamos si conserva los datos y si reconoce que falta la respuesta a una pregunta no cubierta.

Separaría el tiempo de carga inicial del tiempo de una conversación con el modelo ya cargado. Si medimos tokens por segundo, necesitamos saber si la cifra incluye preparar el prompt, cargar los pesos o generar la respuesta. Una aplicación que sólo muestre una cifra de generación no es automáticamente más rápida en todo el recorrido.

También nos interesa cuánto tarda en responder a la primera palabra, si llega a completar la tarea y si podemos seguir trabajando en el ordenador. No escogería una herramienta por ganar una prueba artificial si después nos obliga a cambiar el resto de nuestro flujo.

Qué significa trabajar «en local»

LM Studio documenta que las conversaciones con modelos descargados, el uso de documentos y el servidor local pueden funcionar sin conexión. Descargar modelos y buscar en el catálogo sí requieren red. Su explicación del modo sin conexión permite distinguir ambos recorridos.

En Ollama también debemos separar un modelo local de las funciones cloud. La configuración puede desactivar esas funciones cuando queremos un uso exclusivamente local. Que una conversación salga desde una aplicación instalada en nuestro ordenador no demuestra que la inferencia ocurra allí.

Lo mismo sucede con conectores, búsqueda web y herramientas externas. Si habilitamos una función que consulta un proveedor remoto, debemos comprobar qué datos envía. No utilizaría información sensible hasta tener claro el modelo, el servidor y los servicios adicionales implicados.

Software libre y modelos descargables

Ollama publica su código con licencia MIT. La aplicación LM Studio se distribuye bajo sus términos propios. Que ambas permitan ejecutar archivos descargados no hace que tengan la misma licencia.

Después está la licencia de cada modelo. Poder descargar unos pesos no significa automáticamente que podamos usarlos para cualquier finalidad, modificarlos o redistribuirlos sin condiciones. Revisamos la licencia del modelo concreto, no sólo la de la herramienta que lo carga.

Para quien quiere controlar los componentes de su instalación, esa diferencia puede pesar tanto como la interfaz. No es una discusión abstracta: afecta a lo que podremos automatizar, distribuir o mantener sin depender de una aplicación determinada.

Qué elegiría según el uso

Para abrir un chat, explorar modelos y ajustar la carga desde una ventana, empezaría por LM Studio. Para integrar un modelo con varios programas y administrar el servicio desde terminal, Ollama es un recorrido fácil de entender. Si LM Studio ya encaja en nuestro entorno, sus herramientas de servidor y terminal evitan tener que cambiar sólo por automatizar una tarea.

En cualquiera de los dos casos, primero escogería un modelo pequeño que podamos evaluar y un trabajo concreto. La mejor opción será la que nos permita comprobar el resultado, controlar los datos y mantener el resto del equipo utilizable, no la que prometa sustituir todas las herramientas con una descarga.

Sergio Almela

Senior Software Engineer con más de diez años de experiencia. Escribo sobre Linux, software libre, backend, arquitectura, rendimiento, testing e IA aplicada al desarrollo.

Ver todas las entradas de Sergio Almela →

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *