Comprar disco para IA local
Qué cubre este artículo sobre almacenamiento para IA local
- El papel del disco en cargas de trabajo de IA.
- Diferencias entre unidades SATA, NVMe y HDD.
- Cuánto almacenamiento necesitan los modelos y datos.
- TLC vs. QLC, caché DRAM y durabilidad.
- Recomendaciones para diferentes casos de uso.
Introducción: comprar disco para IA local
Los modelos de IA pueden ser muy grandes. Un único modelo de 70B en precisión completa ocupa más de 100 GB. Los modelos cuantizados, embeddings y bases de datos vectoriales también crecen rápidamente. Si cargas modelos con frecuencia, necesitas SSDs NVMe rápidas. Si acumulas muchos modelos o haces copias de seguridad, requieres capacidad suficiente. Por eso el disco es más importante de lo que muchos piensan en configuraciones locales de IA.
Este artículo te muestra cómo elegir la solución de almacenamiento correcta para aplicaciones de IA.
Términos clave
- SSD: Solid State Drive, almacenamiento Flash rápido.
- NVMe: protocolo para SSDs sobre PCIe.
- SATA: interfaz más antigua y lenta.
- TLC: Triple-Level-Cell, tres bits por celda.
- QLC: Quad-Level-Cell, cuatro bits por celda, más barato pero más lento.
- Caché DRAM: búfer para operaciones de escritura.
- TBW: Terabytes Written, vida útil de una SSD.
- IOPS: Input/Output Operations por segundo.
Cuánto almacenamiento necesita un PC de IA
| Contenido | Tamaño estimado |
|---|---|
| Sistema operativo y programas | 50 a 100 GB |
| Modelos pequeños (7B, Q4) | 4 a 8 GB por modelo |
| Modelos medianos (13B, Q4) | 8 a 15 GB por modelo |
| Modelos grandes (70B, Q4) | 40 a 50 GB por modelo |
| Modelos de embedding | 1 a 5 GB |
| Base de datos vectorial y datos | Variable, 10 a 100+ GB |
| Copias de seguridad y snapshots | Según estrategia |
Para un PC de IA típico, planifica al menos 1 o 2 TB. Si coleccionas muchos modelos, necesitarás rápidamente 4 TB o más.
SATA vs. NVMe
| Tipo | Velocidad | Uso |
|---|---|---|
| SATA SSD | aprox. 550 MB/s | Iniciación, almacén de datos |
| NVMe PCIe 3.0 | hasta 3.500 MB/s | Bueno para todo |
| NVMe PCIe 4.0 | hasta 7.000 MB/s | Carga rápida de modelos grandes |
| NVMe PCIe 5.0 | hasta 14.000 MB/s | High-end, caro |
| HDD | 100 a 200 MB/s | Solo para archivos |
Si cargas modelos grandes con frecuencia, una SSD NVMe con PCIe 3.0 o 4.0 vale la pena.
TLC vs. QLC
- TLC: tres bits por celda, buen equilibrio entre velocidad, precio y durabilidad.
- QLC: cuatro bits por celda, más barato por GB, pero más lento en escrituras y menos duradero.
Si escribes o modificas modelos con frecuencia, TLC es mejor. Para cargas de trabajo de solo lectura, QLC es suficiente.
Caché DRAM
Las SSDs con caché DRAM propio son más rápidas ante accesos aleatorios y más duraderas. Sin caché, la velocidad de escritura cae mucho cuando el caché SLC se llena. Para cargas de trabajo de IA con muchos archivos pequeños o escrituras frecuentes, un caché DRAM es recomendable.
M.2 o 2,5 pulgadas
- M.2: compacto, normalmente NVMe, directamente en la placa base.
- 2,5 pulgadas: SSDs SATA o NVMe más pequeños con adaptador.
- Tarjeta PCIe: SSDs adicionales a través del puerto PCIe.
M.2 NVMe es la solución moderna y preferida.
Organizar modelos y conjuntos de datos
- Modelos en un NVMe rápido.
- Archivo grande de datos en una segunda SSD o HDD.
- Copias de seguridad en disco externo o NAS.
- Volúmenes de Docker en almacenamiento rápido.
- Las bases de datos vectoriales se benefician de SSDs rápidas.
Durabilidad de las SSD
TBW indica cuántos terabytes se pueden escribir antes de que la SSD falle. Para cargas de trabajo de IA con descargas frecuentes y eliminación de modelos grandes, debes prestar atención a un TBW alto. Las SSDs empresariales o modelos con TBW alto son más adecuados para funcionamiento continuo.
Recomendaciones
Iniciación
- 1 TB NVMe PCIe 3.0.
- TLC.
- Caché DRAM.
Rango medio
- 2 TB NVMe PCIe 4.0.
- TLC.
- TBW alto.
High-end / Workstation
- 4 TB NVMe PCIe 4.0 o 5.0.
- SSD empresarial o de consumo high-end.
- HDD adicional o NAS para archivos.
Errores típicos de compra
- Capacidad insuficiente: los modelos y conjuntos de datos no caben.
- QLC para muchas escrituras: lento y menos duradero.
- Sin caché DRAM: la velocidad cae con escrituras grandes.
- SATA en lugar de NVMe: tiempos de carga notablemente más largos.
- Sin segundo disco para copias de seguridad: posible pérdida de datos.
- Poco espacio libre: las SSDs se ralentizan cuando están casi llenas.
Enlaces e información adicional
- BotServ.de Comprar RAM para IA local
- BotServ.de Montar un PC de IA
- BotServ.de Comprar placa base para IA local
- BotServ.de Copia de seguridad de Docker
FAQ: disco para IA local
¿Cuál debería ser el tamaño de mi SSD? Mínimo 1 TB, mejor 2 TB si usas varios modelos.
¿Necesito NVMe? Recomendado. Los modelos grandes cargan mucho más rápido que desde SATA.
¿Es QLC malo? No es malo, pero más lento y menos duradero ante muchas escrituras.
¿Cuánto tiempo dura una SSD? Normalmente muchos años, si no funciona constantemente al límite de capacidad.
¿Debería almacenar modelos en un segundo disco? Un segundo disco o NAS es útil para archivo y copia de seguridad.
Fuentes y lectura adicional
- Guía SSD: https://www.techpowerup.com/ssd-specs/
- Conceptos básicos de NVMe: https://nvmexpress.org/
- CrystalDiskMark: https://crystalmark.info/
Resumen: comprar disco para IA local
Para IA local, una SSD NVMe rápida con capacidad suficiente es imprescindible. Los modelos, embeddings y bases de datos crecen rápidamente, así que debes planificar al menos 1 o 2 TB. Las SSDs TLC con caché DRAM y buen TBW ofrecen el mejor equilibrio entre velocidad y durabilidad. Para archivos y copias de seguridad, merece la pena un segundo disco o NAS. Si no ahorras en almacenamiento, ahorras tiempo al cargar modelos y evitas mejoras posteriores.