PC para IA Local - Guía de Iniciación
Introducción
Para comenzar con IA local no necesitas una sala de servidores. Los primeros experimentos funcionan perfectamente en un PC de escritorio estándar o uno de segunda mano. Si prefieres invertir en algo nuevo, encontrarás mini-PCs potentes y workstations diseñados específicamente para IA. Lo importante es responder estas preguntas: ¿cuánta RAM o VRAM disponible tengo? ¿Ejecutaré Ollama en CPU o GPU? ¿Cuál es mi presupuesto?
PC para IA Local - explicación rápida
Para iniciarte en IA local necesitas un PC con mínimo 16 GB de RAM y opcionalmente una GPU dedicada. Una GPU con 8 GB de VRAM permite ejecutar fluidamente modelos cuantizados de 7B. Si prefieres usar solo CPU, necesitarás al menos 16 GB de RAM, preferiblemente 32 GB, y una buena dosis de paciencia.
Los mini-PCs actuales con AMD Ryzen AI Max+ 395 o los procesadores M4 de Apple ofrecen mucho almacenamiento en un espacio reducido. Son compactos, silenciosos y lo suficientemente potentes para modelos grandes. Para cargas de trabajo más ambiciosas existen dispositivos como el NVIDIA DGX Spark.
Términos importantes
- TOPS/NTOPS - Tera Operations Per Second. Unidad de medida para la potencia de cálculo de IA. Cuanto mayor sea el valor, más rápido puede un procesador ejecutar modelos.
- APU - Procesador con GPU integrada. Ejemplos: Apple Silicon y Ryzen AI Max.
- Unified/Shared Memory - CPU y GPU comparten el mismo espacio de memoria. Característica importante en Apple Silicon y Ryzen AI Max.
- Cuantización - Reduce la precisión de un modelo para ejecutarlo con menos memoria. Permite correr modelos más grandes en hardware más limitado.
- VRAM - Memoria de la tarjeta gráfica dedicada. Crítica para inferencia en GPU.
- LLM - Large Language Model, modelo de lenguaje grande.
Requisitos mínimos
| Componente | Setup con CPU | Recomendado |
|---|---|---|
| RAM | 16 GB | 32 GB |
| GPU | Innecesaria | GTX 1660, RTX 3060 o mejor |
| VRAM | - | 8 GB o más |
| Almacenamiento | 256 GB SSD | 500 GB SSD o más |
Un PC con 16 GB de RAM y CPU es suficiente para pruebas cortas. Para trabajar fluidamente y con modelos más grandes, conviene una GPU o un mini-PC especializado.
Opciones de iniciación económicas
Opción 1: PC existente
Muchos PCs con 16 GB de RAM ya pueden ejecutar modelos pequeños a través de Ollama en modo CPU. Es la forma más económica de comenzar. La velocidad es limitada, pero funciona para experimentar.
Opción 2: GPU de segunda mano
Una RTX 3060 de segunda mano con 12 GB de VRAM o RTX 3060 Ti con 8 GB de VRAM abre muchas más posibilidades. Verifica que tu fuente de poder y caja soporten la tarjeta.
Opción 3: Mac con Apple Silicon
Un Mac mini o MacBook Pro con serie M y 16 o 32 GB de Unified Memory es una opción muy popular para iniciarse. El Unified Memory integra RAM y memoria GPU. Muchos modelos de 7B y 13B funcionan excelentemente en estos equipos.
Mini-PCs actuales para IA local
Los mini-PCs con APUs potentes u opciones de GPU dedicada son especialmente adecuados para Ollama, LM Studio, Open WebUI, ComfyUI y agentes de IA. Son compactos, silenciosos y consumen menos energía que workstations grandes.
Selección recomendada en Amazon
Mini-PCs para IA local en Amazon
Bei Amazon ansehenAffiliate-Link: Bei einem Kauf erhalten wir möglicherweise eine Provision.
Ryzen AI Max+ 395
El AMD Ryzen AI Max+ 395 es actualmente una de las opciones más interesantes para IA local. Combina hasta 16 núcleos de CPU con una poderosa GPU Radeon 8060S integrada y 128 GB de LPDDR5X. Es suficiente para ejecutar LLMs grandes, flujos de trabajo con agentes e incluso generación de imágenes localmente.
Aquí hay algunos modelos concretos disponibles con este procesador:
- MINIS FORUM MS-S1 Max: Workstation con 64 GB de RAM, ideal para LLMs locales grandes. La variante de 128 GB no estaba disponible en el momento de esta lista.
- GMKtec EVO-X2: Disponible con 64 GB o 128 GB de RAM, 2 TB SSD, USB4 y 2.5 G LAN.
- GMKtec X3: 128 GB LPDDR5X, 2 TB SSD, OCuLink y lector de tarjetas.
- Corsair AI Workstation 300: Workstation de escritorio con 128 GB de RAM y 4 TB SSD, excelente como máquina IA estacionaria.
- BOSGAME M5: Mini-PC con 128 GB de RAM, 2 TB SSD y Radeon 8060S.
- WEELIAO ONEXStation: 128 GB de RAM, iluminación RGB, diseñado para AI computing local.
- Thdeukoty Ryzen AI Max+ 395: 128 GB LPDDR5X, 2 TB SSD, 10 GbE y WiFi 7.
Los precios y disponibilidades cambian rápidamente. Consulta los precios actuales en Amazon a través de la tarjeta anterior.
Apple Mac mini M4 Pro
El Mac mini actual con M4 Pro y 24 GB de Unified Memory es un iniciador sólido. Con 32 GB o más, se vuelve muy cómodo para IA local. Apple Silicon destaca por su Unified Memory y eficiencia energética. Un Mac mini cabe en cualquier escritorio y funciona casi sin ruido.
NVIDIA DGX Spark y Project Digits
NVIDIA ha anunciado y distribuido el DGX Spark o Project Digits, un dispositivo muy potente para IA local. Se basa en el superchip GB10 Grace Blackwell y ofrece hasta 128 GB de memoria con un rendimiento de petaFLOP en IA. Dispositivos como ASUS Ascent GX10 o NVIDIA DGX Spark van dirigidos a usuarios muy ambiciosos que desean ejecutar modelos grandes localmente de forma fluida.
¿Qué hay del Ryzen AI Max+ 495?
AMD aún no ha lanzado oficialmente procesadores Ryzen AI Max+ 495. Cuando llegue la siguiente generación, probablemente ofrecerá aún más ancho de banda y rendimiento. Por ahora, tiene sentido apostar por la serie 395.
Ejemplos de costos
| Setup | Costo aproximado | Para quién |
|---|---|---|
| PC existente con CPU | 0 EUR | Primeros experimentos |
| PC + GPU de segunda mano | 300 a 600 EUR | Iniciación sólida |
| Mac mini Apple Silicon | 700 a 1.500 EUR | Iniciación cómoda |
| Mini-PC Ryzen AI Max+ 395 | 1.000 a 3.000 EUR | Workstation IA compacta |
| NVIDIA DGX Spark / GB10 | 4.000 a 7.500 EUR | Máximo rendimiento en formato mini |
Ayudas para decidir y trampas comunes
- La RAM es más importante que la velocidad pura de CPU. Los modelos grandes necesitan sobre todo mucho almacenamiento.
- Las APUs como Ryzen AI Max usan memoria compartida. 128 GB de RAM no significa 128 GB de VRAM, pero es mucho más que en una tarjeta gráfica típica.
- Los mini-PCs son compactos pero no actualizables. Si planeas modelos más grandes, elige mucha RAM desde el principio.
- Apple Silicon es eficiente, pero no todo funciona de forma nativa. Algunas herramientas y modelos funcionan mejor en Linux o Windows.
- Las GPUs usadas y económicas siguen siendo útiles. Si no quieres gastar mucho, las series RTX 3000 ofrecen una opción viable.
Información y enlaces adicionales
- 16 GB de RAM es el mínimo para modo CPU.
- 8 GB de VRAM permiten modelos cuantizados de 7B.
- Apple Silicon es muy popular por su memoria unificada.
- Ryzen AI Max+ 395 y NVIDIA DGX Spark ofrecen actualmente mucho rendimiento para mini-PCs.
- Más información sobre memoria en RAM vs. VRAM y Requisitos de RAM y VRAM.
- Mini-PCs adecuados para IA local los encuentras en el Amazon Shop de schutzgeist.
FAQ - Preguntas típicas sobre PC para IA
¿Puedo usar Ollama sin GPU?
Sí, Ollama funciona en CPU. Sin embargo, la velocidad es significativamente menor que en GPU o APU.
¿Cuál es la mejor GPU NVIDIA para iniciarse?
Una RTX 3060 con 12 GB de VRAM o RTX 4060 Ti con 16 GB de VRAM ofrecen mucha memoria por el precio. Si compras nuevo, apunta a 12 o 16 GB de VRAM.
¿Son suficientes 16 GB de RAM en un Mac?
Para modelos de 7B sí. Si quieres usar modelos de 13B o más grandes, te beneficiarás de 32 GB o más de memoria unificada.
¿Debería comprar un mini-PC o una GPU de escritorio?
Los mini-PCs con Ryzen AI Max o Apple Silicon son compactos y silenciosos. Las GPUs de escritorio suelen ofrecer más flexibilidad para actualizaciones futuras. Para IA local en funcionamiento permanente en la sala, los mini-PCs silenciosos suelen ser la mejor opción.
¿Son realmente necesarios 128 GB de RAM en un mini-PC?
No para iniciarse. Para LLMs grandes, contexto extenso y generación de imágenes, 64 a 128 GB es una ventaja importante. Con eso, los modelos de 70B cuantizados a veces también funcionan en la APU.
¿Funcionan todas las herramientas de IA en Apple Silicon?
Las herramientas comunes como Ollama, LM Studio y ComfyUI funcionan de forma nativa o con buena emulación. Algunos modelos de código abierto están optimizados primero para CUDA y funcionan mejor en Linux o Windows con GPU NVIDIA.
¿Cuál es la ventaja del Ryzen AI Max+ 395 frente a una tarjeta gráfica?
El procesador combina CPU, GPU y hasta 128 GB de memoria en una caja compacta. Consume menos energía que una workstation grande y es lo suficientemente potente para modelos locales grandes.
¿Vale la pena el NVIDIA DGX Spark para principiantes?
No. El DGX Spark está dirigido a profesionales y proyectos muy ambiciosos. Para iniciarte, basta un PC usado, una GPU económica o un mini-PC con Ryzen AI Max.