Cómo ejecutar IA en local en tu equipo: una guía práctica para 2026

Puedes ejecutar un modelo de lenguaje en tu propio equipo sin enviar cada pregunta a un servicio remoto de IA. Un modelo pequeño, una aplicación compatible y algo de memoria libre bastan para empezar a experimentar. No hace falta una sala de servidores; el ventilador del portátil quizá tenga algo que decir.

El primer objetivo útil es modesto: hacer funcionar un modelo local, probarlo en una tarea que conozcas y ver si el resultado merece los recursos que utiliza. Esta guía sigue ese camino, con herramientas consolidadas y un nombre de modelo explícito en lugar de una lista de compras de hardware caro.

¿Qué se ejecuta realmente en local?

Un modelo de lenguaje contiene pesos numéricos aprendidos durante el entrenamiento. La inferencia es el cálculo que utiliza esos pesos y tu entrada para generar una respuesta, normalmente un token cada vez. Los tokens pueden representar partes de palabras, palabras enteras o signos de puntuación.

Con la inferencia local, ese cálculo ocurre en tu dispositivo. La aplicación puede utilizar la CPU, una GPU compatible o una combinación. Es algo distinto de entrenar un modelo desde cero, una tarea mucho mayor.

Comprueba la configuración del modelo y de la aplicación antes de asumir que todo el proceso es local. Por ejemplo, Ollama introdujo modelos alojados en la nube en septiembre de 2025. Por tanto, una misma interfaz conocida puede utilizar tu equipo o recursos de cálculo remotos. Un modelo en la nube no se vuelve local porque lo inicies desde una terminal.

Memoria: deja espacio más allá del archivo del modelo

La cuantización reduce la precisión utilizada para representar los valores del modelo y disminuye los requisitos de memoria. También puede afectar a la calidad de las respuestas y al rendimiento; el equilibrio depende del método y del modelo.

Como ejemplo aproximado, siete mil millones de pesos almacenados a 16 bits necesitan unos 14 GB solo para esos pesos. A cuatro bits, el cálculo da unos 3,5 GB antes de añadir otros datos y sobrecargas. Ninguna de esas cifras constituye el requisito completo de memoria del sistema.

El entorno de ejecución necesita espacio de trabajo y el contexto de la conversación también consume memoria. El sistema operativo y las demás aplicaciones necesitan su parte. Que el modelo descargado quepa en el disco no demuestra que una conversación larga vaya a caber holgadamente en la RAM o la VRAM.

Una forma práctica de empezar es utilizar un modelo cuantizado pequeño y un contexto corto. Consulta los requisitos de hardware y la estimación de memoria de la aplicación. Si el equipo empieza a recurrir intensamente al intercambio con disco o responde con una lentitud desesperante, reduce el tamaño antes de plantearte una compra.

No existe un límite universal de 70B para uso doméstico ni una garantía de que una cantidad concreta de parámetros funcione bien en todos los equipos con la misma RAM. El ancho de banda de memoria, el soporte de aceleración y la arquitectura del modelo también importan.

Elige una interfaz que vayas a utilizar

Ollama: una vía sencilla desde la terminal

Ollama gestiona las descargas de modelos y permite ejecutarlos desde la línea de comandos o una API local. Su página de Llama 3.2 en la biblioteca ofrece un ejemplo compacto para empezar, que utilizamos más abajo. Para este ejercicio, elige un modelo local descargable.

LM Studio: una vía gráfica

LM Studio ofrece un explorador de modelos y una interfaz de chat. Su documentación sobre funcionamiento sin conexión indica que los modelos descargados, el procesamiento local de documentos y un servidor local de inferencia pueden funcionar sin internet. Las búsquedas de modelos, las descargas y las comprobaciones de actualizaciones requieren conexión.

Si te resulta más cómoda una interfaz gráfica, utilízala. Aprender la línea de comandos es opcional; comprender dónde se ejecuta tu modelo no lo es.

llama.cpp: un control más directo

llama.cpp es un proyecto de inferencia en C/C++ que admite modelos cuantizados, ejecución en CPU y varias opciones de aceleración por hardware. También permite repartir el trabajo entre CPU y GPU. Resulta útil para quienes desean un control más preciso de la configuración.

Ninguna de estas herramientas es automáticamente la más rápida en todos los equipos. Empieza por la opción más sencilla compatible con tu hardware y con el modelo que quieras usar.

Tu primer chat local con Ollama

1. Instala la aplicación. Utiliza el instalador o las instrucciones para tu sistema operativo de la página oficial de descargas de Ollama. Reserva tiempo para la instalación y la descarga del modelo; las velocidades de conexión varían.
2. Descarga un modelo pequeño concreto. Abre una terminal e introduce ollama pull llama3.2:3b. Ollama indica que la descarga cuantizada predeterminada de este modelo ocupa unos 2 GB. Ese es el tamaño de descarga, no toda la memoria que utilizará.
3. Inícialo. Introduce ollama run llama3.2:3b. Si buscas un punto de partida más pequeño, la biblioteca también ofrece llama3.2:1b.
4. Prueba una tarea sencilla. Pídele una breve reformulación de un párrafo que hayas escrito y compara el resultado con el original. Comprueba si ha conservado los nombres, las cifras y el significado.
5. Sal del chat. Escribe /bye. Puedes volver al mismo modelo más adelante sin descargarlo de nuevo.

Los modelos de texto de Llama 3.2 son de 1B y 3B, no de 8B. La ficha del modelo de Meta describe sus usos previstos y su licencia. Aquí, la versión 3B es un ejemplo manejable, no una afirmación de que un lanzamiento de 2024 sea el mejor modelo para todas las tareas en 2026.

Una vez terminadas la instalación y las descargas, un chat básico con este modelo local puede funcionar sin conexión. Si conectas herramientas que necesitan internet, tendrán sus propios requisitos.

Prueba distintas tareas antes de probar modelos más grandes

Un modelo que produce un párrafo encantador puede cometer errores aritméticos o inventar una función de software. Evalúalo con ejemplos cuyas respuestas puedas comprobar. Para programar, utiliza un proyecto de prueba pequeño y examina los cambios antes de ejecutar el código generado.

Una alternativa consolidada y centrada en programación es Qwen2.5-Coder-7B-Instruct. Comprueba que tu herramienta de ejecución admita el formato y la cuantización concretos que descargues. El nombre de un modelo, su número de parámetros, el formato del archivo y su licencia responden a preguntas distintas.

La competencia entre herramientas de programación con IA (en inglés) recuerda que un flujo de trabajo útil implica algo más que una puntuación en una prueba de rendimiento. Elige según las tareas que realmente haces, no según la cifra más impresionante que consigas hacer cargar al equipo.

La información reciente y la privacidad dependen del proceso

Los pesos de un modelo no incorporan automáticamente las noticias de ayer. Puedes aportar documentos o conectar herramientas de recuperación de información y búsqueda. El anuncio de búsqueda web de Ollama de septiembre de 2025 es un ejemplo de esa capa adicional.

Esas conexiones cambian la situación de la privacidad. Una petición de búsqueda remota o una integración con la nube puede enviar información fuera de tu equipo aunque el propio modelo de lenguaje se ejecute en local. Los archivos locales de chat también pueden incluirse en las copias de seguridad del equipo o estar al alcance de otros programas.

Para una configuración privada básica, utiliza un modelo local, comprende qué integraciones están activadas y mantén seguro el propio equipo. El material confidencial merece una revisión de todo el proceso, no solo de la palabra «local» en una página de producto.

Costos y API local

Puedes empezar con herramientas y pesos de modelos disponibles gratuitamente, sujetos a sus licencias. Ejecutarlos sigue consumiendo hardware, electricidad, almacenamiento y tiempo. Que cueste menos que un servicio alojado depende del uso; no está garantizado que amortice un equipo nuevo.

Los desarrolladores pueden conectar aplicaciones al servidor local de Ollama. Las preguntas frecuentes de Ollama documentan la dirección predeterminada, 127.0.0.1:11434. Mantenerlo en el equipo local basta para esta configuración introductoria. Hacerlo accesible desde otros dispositivos introduce una tarea adicional de control de acceso.

La recompensa es el control y un lugar útil para experimentar. Empieza con algo pequeño, revisa las respuestas y amplía solo cuando una tarea real lo requiera. El modelo no necesita ser enorme para ayudar a redactar un correo. El gato, naturalmente, seguirá insistiendo en editar con las cuatro patas.

Traducción al español del artículo original en inglés del 2026-04-10. Traducido con ayuda de IA el 2026-11-02; las referencias temporales siguen siendo las del original.