Comprar CPU para IA local
Qué cubre este artículo sobre compra de CPU para IA
- Por qué la CPU es importante para IA local.
- Qué características de la CPU importan.
- Procesadores consumer vs. workstation.
- Recomendaciones según el caso de uso.
- Cómo evitar decisiones equivocadas comunes.
Introducción: Comprar CPU para IA local
La GPU suele ser el centro de atención cuando se habla de IA. Pero la CPU juega un rol central: carga el modelo, gestiona datos, prepara prompts y realiza todo el trabajo que la GPU no hace. Especialmente en ejecución pura por CPU o en flujos con mucho preprocesamiento y postprocesamiento, la CPU es decisiva. Elegir la CPU equivocada ralentiza incluso la GPU más rápida.
Este artículo muestra en qué enfocarse al comprar una CPU para IA local.
Conceptos clave
- Núcleo: Unidad de cálculo en la CPU.
- Thread: Núcleo virtual.
- Frecuencia: Velocidad de reloj en GHz.
- Caché: Memoria intermedia de acceso rápido.
- AVX: Extensión vectorial para cálculos de IA.
- AMX: Extensión matricial en Intel.
- TDP: Consumo de potencia.
- PCIe-Lanes: Conexión a GPU y SSD.
- iGPU: GPU integrada.
Qué hace la CPU en IA
- Carga y descomprime el modelo.
- Gestiona entradas, tokenización y preparación de prompts.
- Realiza los cálculos si el modelo se ejecuta por CPU.
- Gestiona la transferencia de datos entre RAM y GPU.
- Realiza preprocesamiento y postprocesamiento.
- Evita cuellos de botella en el suministro de datos a la GPU.
Núcleos y threads
Más núcleos ayudan en:
- Multitarea.
- Preprocesamiento.
- Cargas de trabajo paralelas.
- Inferencia por CPU.
Para inferencia pura de IA con GPU, la frecuencia de un único núcleo suele importar más que el número total de núcleos.
Frecuencia e IPC
Una frecuencia alta e IPC bueno (instrucciones por ciclo) garantizan threads individuales rápidos. Muchas operaciones de IA se ejecutan primero en uno o pocos threads antes de ir a la GPU. Un núcleo rápido acelera la evaluación de prompts y la tokenización.
AVX y AMX
- AVX2/AVX-512: Instrucciones vectoriales que usan llama.cpp y otros backends.
- AMX: Los chips Intel más nuevos ofrecen aceleradores matriciales para cálculos de IA.
- No toda CPU soporta AVX-512.
CPUs consumer
| CPU | Características |
|---|---|
| Intel Core i9-14900K | Frecuencia alta, muchos núcleos |
| AMD Ryzen 9 7950X | Rendimiento multicore sólido |
| AMD Ryzen 9 9950X | Nueva generación Zen, eficiente |
| Intel Core Ultra | Meteor Lake con NPU |
Las CPUs consumer son económicas y suficientes para la mayoría de homelabs.
CPUs workstation
| CPU | Uso |
|---|---|
| AMD Threadripper PRO 7995WX | Muchos núcleos, muchos PCIe-Lanes |
| Intel Xeon W9-3495X | Muchos PCIe-Lanes, ECC |
| AMD EPYC | Servidores y cargas continuas |
Las CPUs workstation valen la pena para multi-GPU y mucha RAM.
Intel vs AMD
- Intel: Frecuencia de un único núcleo generalmente mejor, AMX en modelos nuevos.
- AMD: Más núcleos por euro, buena eficiencia energética, muchos PCIe-Lanes en HEDT.
iGPU como opción
Una iGPU fuerte puede acelerar modelos pequeños:
- iGPUs AMD RDNA3 con ROCm.
- iGPUs Intel Arc.
- Apple Silicon con memoria unificada.
Consejos
- Para IA pura por GPU: CPU moderna de 8 núcleos con frecuencia alta.
- Para inferencia por CPU: Tantos núcleos como sea posible y AVX2.
- Para multi-GPU: CPU HEDT o workstation.
- Suficientes PCIe-Lanes para GPUs y SSDs NVMe.
- Elegir RAM DDR5 rápida.
- No olvidar solución de refrigeración.
Errores típicos
- Demasiados núcleos sin GPU: Desperdicio de energía en IA pura por GPU.
- Pocos núcleos: La CPU se convierte en cuello de botella en multitarea.
- Sin soporte AVX: Inferencia por CPU lenta.
- PCIe-Lanes insuficientes: Las GPUs funcionan más lentamente.
- Refrigeración débil: Limitación de rendimiento.
- RAM lenta: Cuello de botella de datos del sistema.
Enlaces e información adicional
- BotServ.de Comprar GPU para IA local
- BotServ.de RAM para IA
- BotServ.de Armar PC para IA
- BotServ.de Workstation para IA
FAQ: CPU para IA
¿Necesito muchos núcleos para Ollama? Con GPU no necesariamente, pero más núcleos ayudan en multitarea.
¿Es importante AVX-512? Para inferencia por CPU sí, para ejecución pura por GPU menos.
¿Debo elegir Intel o AMD? Ambas funcionan bien. AMD ofrece a menudo más núcleos, Intel generalmente frecuencia más alta.
¿Son suficientes 6 núcleos para IA? Para inferencia basada en GPU sí, para cargas de trabajo serias mejor 8 núcleos.
¿Necesito CPUs workstation? Solo con multi-GPU o mucha RAM.
Fuentes y lecturas adicionales
- Procesadores Intel: https://www.intel.com
- AMD Ryzen: https://www.amd.com/de/processors/ryzen
- PassMark CPU: https://www.cpubenchmark.net/
Resumen: Comprar CPU para IA local
La CPU es un componente importante de un sistema de IA, no solo la GPU. Para IA basada en GPU es suficiente una CPU moderna de 8 núcleos con frecuencia alta. Para inferencia por CPU, multitarea o workstations profesionales, vale la pena invertir en más núcleos, soporte AVX/AMX y plataformas workstation. Prestar atención a frecuencia, número de núcleos, PCIe-Lanes y refrigeración evita que la CPU se convierta en un cuello de botella inesperado.