Mini-PC para IA: Computadoras compactas para modelos locales

Qué cubre este artículo sobre Mini-PC para IA

• Qué Mini-PC son adecuados para IA local y en qué fijarse al comprar
• Cómo difieren el Ryzen AI Max, Intel NUC y Mac mini como ordenadores para IA
• Qué tamaños de modelo de 7B a 70B funcionan en qué categorías de Mini-PC
• Cuáles son los obstáculos típicos con Mini-PC para IA
• Cómo se compara un Mini-PC contra una torre cuando se trata de IA

Introducción: Mini-PC para IA explicado de forma clara

La IA local no necesita ser obligatoriamente una gran torre con múltiples tarjetas gráficas. Un Mini-PC suele ser suficiente para ejecutar modelos de lenguaje directamente en tu escritorio. La oferta ha crecido significativamente en los últimos años, desde NUCs Intel económicos hasta dispositivos de gama media y modelos de gama alta con AMD Ryzen AI Max.

Este artículo está dirigido a principiantes que desean saber si un Mini-PC es adecuado para sus proyectos de IA. Aprenderás qué categorías existen, qué hardware es importante y dónde están los límites. Encontrarás más información en la guía de compra general, y si eres completamente nuevo en el tema, es mejor que empieces con la guía PC de IA para principiantes.

¿Por qué es interesante un Mini-PC para IA?

Imagina que quieres ejecutar un modelo de lenguaje de 7B o 13B localmente sin que los ventiladores griten ni que tu ordenador ocupe media mesa. Aquí es donde el Mini-PC brilla. Es compacto, a menudo solo mide unos 15 cm de lado, y se coloca discretamente junto a tu teclado. En funcionamiento es mucho más silencioso que una torre con tarjeta gráfica dedicada, porque el enfriamiento es más pequeño y los chips están optimizados para eficiencia.

Además está el consumo de energía. Un Mini-PC típico consume entre 15 y 120 vatios, dependiendo del modelo. Una torre con una tarjeta RTX fácilmente llega a 300 a 600 vatios bajo carga. Si ejecutas tu modelo durante horas, la diferencia se nota en la factura de la luz.

Los Mini-PC con APUs son especialmente interesantes, es decir, procesadores con GPU integrada. En dispositivos como el Ryzen AI Max, CPU y GPU comparten la memoria RAM, similar a como ocurre con Apple Silicon. Esto significa que no necesitas una tarjeta gráfica dedicada costosa para ejecutar modelos en la GPU. Lee más en el artículo sobre Memoria unificada.

Dependiendo de la categoría del dispositivo, en un Mini-PC pueden ejecutarse desde pequeños modelos de 7B hasta modelos de 70B, si hay suficiente memoria disponible. La velocidad varía considerablemente, como verás más adelante.

Mini-PC para IA explicado brevemente

Un Mini-PC para IA es un ordenador compacto que ofrece suficiente RAM y potencia de cálculo para ejecutar modelos de lenguaje localmente. La mayoría de los modelos utilizan una APU, es decir, un procesador con GPU integrada que accede a la memoria RAM a través de memoria compartida. Los modelos de IA generalmente se cargan cuantizados, es decir, con precisión reducida, para ahorrar espacio. Lee más en el artículo sobre Cuantización.

En la práctica, inicia una herramienta como Ollama, carga un modelo y haz preguntas. El cálculo se ejecuta en la GPU de la APU, las respuestas aparecen directamente en la terminal o en una interfaz. Sin servicio en la nube, sin datos que salgan de tu ordenador.

¿Para quién es un Mini-PC?

Un Mini-PC para IA es apropiado para varios grupos:

• Principiantes que quieren probar modelos locales sin gastar mucho dinero en una torre
• Personas conscientes de la privacidad cuya información nunca debe abandonar el ordenador
• Estudiantes e investigadores que trabajan con tamaños de modelo moderados
• Equipos que buscan un ordenador de IA compartido que pase desapercibido en la oficina
• Viajeros y trabajadores remotos que desean llevar su ordenador de IA con ellos

Sin embargo, quienes desean entrenar los modelos más grandes en toda su resolución están mejor servidos con una torre o estación de trabajo dedicada. Lee más en el artículo CPU vs GPU.

Términos importantes sobre Mini-PC

Término	Explicación
APU	Procesador con GPU integrada, CPU y GPU en un solo chip
Memoria unificada	Memoria compartida para CPU y GPU, sin VRAM separada
Memoria compartida	CPU y GPU comparten la memoria RAM, similar a memoria unificada
TOPS	Tera Operations Per Second, unidad de medida para potencia de cálculo de IA
NPU	Neural Processing Unit, unidad especializada para tareas de IA
SoC	System on a Chip, todos los componentes integrados en un chip
TDP	Thermal Design Power, máxima disipación de calor, indicador aproximado de consumo
LPDDR5X	Tipo de memoria con altas frecuencias, instalada en muchos Mini-PC
OCuLink	Interfaz para GPUs externas, más rápida que Thunderbolt
Thunderbolt	Interfaz universal, también puede conectar GPUs externas

Categorías de Mini-PC

Los Mini-PC para IA se pueden dividir aproximadamente en tres categorías. La siguiente tabla te da una visión general.

Categoría	Ejemplos	Memoria	Aptitud para IA
Presupuesto	Intel NUC, Beelink	8 a 32 GB	Modelos 7B, inferencia en CPU
Gama media	Minisforum, GMKtec	16 a 64 GB	7B a 13B, parcialmente inferencia en GPU
Gama alta	Ryzen AI Max, Mac mini	32 a 128 GB	7B a 70B, inferencia en GPU

La clase presupuesto es suficiente para primeros experimentos con modelos pequeños. La gama media ofrece más memoria y en algunos casos APUs potentes. La categoría de gama alta, que también incluye el Mac mini, está diseñada para un uso serio de IA con modelos más grandes.

Mini-PC con Ryzen AI Max

La serie Ryzen AI Max de AMD es actualmente el desarrollo más interesante en Mini-PC para IA. Estos chips combinan una CPU potente con una GPU integrada y comparten memoria RAM. Esto significa que obtienes memoria unificada en el lado del PC, similar a Apple Silicon. Lee más en el artículo sobre Memoria unificada.

Tres dispositivos son especialmente relevantes actualmente:

MS-S1: Basado en el Ryzen AI Max+ 395 con 16 núcleos y una GPU Radeon integrada. La memoria RAM viene soldada como LPDDR5X y ofrece hasta 128 GB. El ancho de banda de memoria es de aproximadamente 256 GB/s, suficiente para inferencia fluida con modelos de 7B a 30B. Los modelos de 70B son posibles, pero lentos. Lee más sobre ancho de banda en el artículo sobre Ancho de banda de memoria.

GMKtec EVO-X2: Otro Mini-PC con Ryzen AI Max+ 395. Especificaciones similares al MS-S1, pero con carcasa diferente y a veces conectores distintos. También ofrece hasta 128 GB de LPDDR5X y es adecuado para modelos más grandes.

BOSGAME M5: Algo más compacto y equipado con el Ryzen AI Max 395 sin Plus. Algo menos potencia de cálculo que la variante Plus, pero más barato. Una buena forma de entrar en el mundo de Ryzen AI Max.

Dispositivo	Chip	RAM máx.	Ancho de banda de memoria	Característica especial
MS-S1	Ryzen AI Max+ 395	128 GB	aprox. 256 GB/s	Dispositivo de referencia, mucha memoria
GMKtec EVO-X2	Ryzen AI Max+ 395	128 GB	aprox. 256 GB/s	Alternativa al MS-S1
BOSGAME M5	Ryzen AI Max 395	64 GB	aprox. 256 GB/s	Entrada más económica

El rendimiento esperado con cuantización de 4 bits se ve así: los modelos de 7B funcionan con 40 a 60 tokens/s, los modelos de 13B con 20 a 35 tokens/s, los modelos de 30B con 10 a 18 tokens/s. Los modelos de 70B son posibles con 4 a 8 tokens/s, pero requieren al menos 64 GB de RAM.

Intel NUC y alternativas

El Intel NUC es el clásico entre los mini-PCs. Los modelos actuales utilizan procesadores Intel Core de 12.ª a 14.ª generación con Iris Xe Graphics integrada. Para IA, sin embargo, hay limitaciones.

La GPU integrada de los Intel NUCs no está optimizada para cargas de trabajo de IA. Puedes ejecutar modelos con ella, pero la velocidad es significativamente menor que con una GPU dedicada o una APU Ryzen AI Max. La mayoría de usuarios recurren a inferencia por CPU, lo cual es aceptable para modelos de 7B, pero se vuelve lento con modelos más grandes.

Alternativas en el rango presupuestario:

• Beelink: Ofrece mini-PCs económicos con procesadores AMD Ryzen o Intel Core. Buena opción para primeros experimentos con modelos de 7B.
• Geekom: Similar a Beelink, algunos modelos con APUs más potentes. Los modelos de gama media pueden manejar modelos de 13B.

El cuello de botella de estos dispositivos es la memoria RAM. La mayoría de modelos se limita a 32 GB, algunos a 64 GB. Para modelos de 70B eso no es suficiente. Si quieres ejecutar modelos más grandes, un mini-PC Ryzen AI Max o un Mac mini son mejores opciones.

Mac mini como mini-PC

El Mac mini con Apple Silicon es otro ordenador compacto para IA que destaca por su memoria unificada. Con hasta 128 GB de memoria unificada y la generación M4, es especialmente interesante para modelos más grandes. Dado que ya existe un artículo detallado al respecto, solo remito aquí a la guía Mac mini para IA. Ahí encontrarás todos los detalles sobre M4, M4 Pro y M4 Max.

Mini-PCs recomendados en la tienda Amazon

Cuando hayas tomado una decisión, encontrarás en la tienda Amazon una selección de mini-PCs adecuados para IA local.

¿Qué modelos funcionan en mini-PCs?

La siguiente tabla te orienta sobre qué tamaños de modelos funcionan en qué categorías de mini-PC. Las velocidades son valores indicativos con cuantización de 4 bits.

Tamaño del modelo	Mini-PC presupuestario	Mini-PC gama media	Mini-PC high-end
7B (ej. Llama 3.1 8B)	5 a 15 tokens/s, CPU	20 a 40 tokens/s, GPU	40 a 60 tokens/s, GPU
13B (ej. Mistral 13B)	lento, CPU	10 a 20 tokens/s, GPU	20 a 35 tokens/s, GPU
30B (ej. Mixtral 8x7B)	no practicable	marginal, GPU	10 a 18 tokens/s, GPU
70B (ej. Llama 3.1 70B)	no es posible	no es posible	4 a 8 tokens/s, GPU

Los modelos de 70B solo son útiles en dispositivos high-end con al menos 64 GB de memoria. En dispositivos presupuestarios y de gama media faltan memoria o ancho de banda. Para más información sobre dimensionamiento, consulta el artículo Dimensionamiento correcto del hardware.

Mini-PC vs. Tower-PC

Característica	Mini-PC	Tower-PC
Actualización	limitada, RAM a menudo soldada	alta, GPU y RAM intercambiables
Rendimiento	moderado a alto, depende del chip	alto, múltiples GPUs posibles
Precio	desde aprox. 200 euros	desde aprox. 800 euros
Espacio	mínimo, cabe en el escritorio	necesita su propio lugar
Ruido	silencioso a inaudible	ventiladores audibles bajo carga
Consumo de energía	15 a 120 vatios	150 a 600 vatios
VRAM / Memoria compartida	hasta 128 GB	hasta 24 GB por GPU

El mini-PC destaca por espacio, consumo de energía y capacidad de memoria por euro. El tower-PC es superior en entrenamiento y velocidad pura de inferencia, porque puedes instalar múltiples GPUs dedicadas. Quien busca inferencia en dispositivos compactos, el mini-PC es la opción adecuada. Quien quiere máximo rendimiento, no hay forma de evitar un tower.

Problemas típicos en mini-PCs para IA

1. RAM a menudo soldada. En muchos mini-PCs, especialmente los con LPDDR5X, la memoria RAM no se puede actualizar. Piensa bien antes de comprar cuánta necesitas.
2. Las GPUs integradas no son CUDA. Solo AMD y Apple ofrecen inferencia GPU útil en gráficos integrados. Intel Iris Xe no está optimizado para IA.
3. El ancho de banda de memoria limita la velocidad. Un mini-PC con 64 GB de RAM carga un modelo grande, pero lentamente si el ancho de banda es bajo. Ryzen AI Max y Mac mini tienen una clara ventaja aquí.
4. Sin GPU dedicada posible. La mayoría de mini-PCs no tienen ranura para tarjeta gráfica. Las GPUs externas por Thunderbolt u OCuLink son una opción, pero caras.
5. Cuantización es obligatoria. Los modelos sin cuantizar necesitan mucha más memoria. Sin cuantización, muchos modelos no caben en la memoria.
6. Calor bajo carga sostenida. Los mini-PCs son compactos, la refrigeración correspondientemente pequeña. En ejecuciones de horas puede calentarse y reducir rendimiento.
7. Compatibilidad de controladores y software. No todos los software de IA están optimizados para GPUs integradas. Verifica de antemano si tu herramienta preferida soporta el hardware.
8. Conectores limitados. Quien quiera conectar almacenamiento externo o GPUs, debe buscar Thunderbolt u OCuLink. No todos los mini-PCs los tienen.

Hardware, costos y seguridad en mini-PCs

Los precios de mini-PCs varían considerablemente. Un Intel NUC o Beelink parte de unos 200 a 400 euros. Dispositivos de gama media de Minisforum o GMKtec están entre 500 y 900 euros. Modelos high-end con Ryzen AI Max cuestan desde unos 1000 euros, con expansión completa de memoria a veces más de 2000 euros. El Mac mini M4 parte de unos 700 euros, como se describe en el artículo Mac mini para IA.

La seguridad es un punto fuerte de todos los mini-PCs. Los modelos y datos permanecen locales, nada fluye a la nube. Si procesas datos sensibles, esa es una ventaja real frente a servicios de IA basados en la nube. En dispositivos Windows debes prestar atención a controladores y actualizaciones actuales.

El mantenimiento es mínimo. No hay piezas intercambiables en el interior, excepto el SSD en algunos modelos. Quien busca un dispositivo sin esfuerzo de mantenimiento, está en el lugar correcto. Pero ten en cuenta que si falla, tienes que reemplazar el dispositivo completo.

Enlaces y información adicional sobre mini-PCs para IA

• Resumen de asesoramiento de compra para hardware de IA
• Fundamentos sobre memoria unificada y por qué es importante para IA
• Comparación de CPU vs. GPU en inferencia
• Detalles sobre ancho de banda de memoria y su efecto
• Guía para dimensionar correctamente el hardware según tus necesidades
• Comienzo con Ollama para modelos locales
• Fundamentos sobre cuantización y cómo ahorra memoria
• El Mac mini para IA como alternativa en el ecosistema Apple

FAQ: Mini-PC para IA - Preguntas típicas

¿Puedo entrenar modelos de IA en un mini-PC? La inferencia es la fortaleza de los mini-PCs. El entrenamiento de modelos grandes no es practicable. Tareas menores de fine-tuning son posibles, pero no es el caso de uso principal.

¿Necesito una GPU dedicada en el mini-PC? No, necesariamente no. Los mini-PCs con Ryzen AI Max o Apple Silicon ofrecen GPUs integradas potentes que acceden a la memoria RAM a través de memoria compartida. En Intel NUCs, una GPU dedicada es recomendable si quieres inferencia por GPU.

¿Cuánta RAM necesito para modelos de 70B? Mínimo 64 GB, mejor 128 GB. El modelo en sí necesita unos 40 GB con cuantización de 4 bits, el resto va al sistema operativo y contexto.

¿Es ruidoso un mini-PC? La mayoría de mini-PCs son silenciosos en operación normal. Bajo carga sostenida el ventilador puede activarse, pero sigue siendo significativamente más silencioso que un tower con GPU dedicada.

¿Corre Ollama en un mini-PC? Sí, Ollama corre en Windows, Linux y macOS. En dispositivos con GPU integrada utiliza el hardware disponible, en Intel NUCs a menudo la CPU. Hay una guía en Ollama.

¿Puedo actualizar la RAM en el mini-PC después? En muchos mini-PCs con LPDDR5X, la RAM está soldada y no es actualizable. Verifica antes de comprar si la memoria es intercambiable. En dispositivos Ryzen AI Max está permanentemente soldada.

¿Ryzen AI Max o Mac mini? Ambos ofrecen memoria unificada y GPUs integradas potentes. El Mac mini es más eficiente y silencioso, el mini-PC Ryzen AI Max funciona en Windows y Linux y es más flexible en software. Detalles sobre Mac mini en el artículo Mac mini para IA.

¿Puedo conectar una GPU externa? Sí, por Thunderbolt u OCuLink, siempre que el mini-PC tenga el conector correspondiente. Sin embargo, es caro y no está disponible en todos los modelos.

¿Vale la pena un mini-PC caro para IA? Solo si vas a ejecutar modelos más grandes a partir de 30B o necesitas máxima velocidad. Para modelos de 7B, basta con un Intel NUC o Beelink económico.

¿Puedo cargar múltiples modelos simultáneamente? Sí, siempre que haya suficiente RAM disponible. Cada modelo ocupa memoria, debes llevar la cuenta de la suma total.

¿Qué hay sobre generación de imágenes en mini-PCs? Stable Diffusion funciona en dispositivos con GPU integrada potente, como Ryzen AI Max o Mac mini. En Intel NUCs la velocidad es más bien lenta, porque la GPU integrada no está optimizada para IA.

Fuentes y lecturas complementarias

• Documentación de AMD sobre Ryzen AI Max y la GPU integrada
• Especificaciones de Intel para NUC y procesadores Core
• Documentación de desarrolladores de Apple sobre el framework Metal
• Documentación de Ollama para su uso en diferentes plataformas
• Hugging Face Model Hub con modelos open-source disponibles
• Pruebas y benchmarks de MS-S1, GMKtec EVO-X2 y BOSGAME M5