Montar un PC para IA en local: qué priorizar y qué no

Montar un PC para IA en local no consiste en elegir las piezas más caras que entren en el presupuesto, sino en decidir el orden en el que gastas. Casi todo el dinero mal invertido en estos equipos se va a componentes que nunca vas a notar, mientras el cuello de botella real sigue exactamente donde estaba. Aquí tienes las prioridades de verdad, qué es suficiente en cada pieza y qué errores se cargan un montaje entero.

La VRAM manda y el resto negocia

Un modelo va rápido cuando cabe entero en la memoria de la gráfica. Cuando no cabe, la mayoría de herramientas reparten parte del trabajo entre la RAM del sistema y la CPU, y ahí el rendimiento no baja poco a poco: se desploma. Pasas de respuestas fluidas a esperar varios segundos por frase.

Por eso el orden de prioridades no se parece al de un PC de juegos: quedarte corto de memoria en un juego significa bajar texturas, y aquí significa que el modelo no entra.

Como regla mental para modelos de lenguaje cuantizados a 4 bits, cuenta alrededor de medio gigabyte por cada mil millones de parámetros y añade margen para el contexto y para el propio programa. Un modelo de 7B se mueve en torno a 4 o 5 GB, uno de 13B ronda los 8 GB y uno de 30B se te va por encima de los 18 GB. El contexto largo consume memoria aparte y crece según avanza la conversación, así que ese margen no es opcional.

Con generación de imagen la lógica es la misma: los modelos de difusión actuales funcionan cómodos a partir de 12 GB, y la generación de vídeo es bastante más hambrienta que todo lo anterior. Si quieres la cuenta afinada por familia de modelo antes de decidir nada, la tienes desglosada en cuánta VRAM necesita cada modelo de IA.

Cómo repartir el presupuesto al montar un PC para IA en local

El reparto siguiente es orientativo y los porcentajes no cuadran al céntimo: lo que se lleva la gráfica sale del resto. Lo importante no es clavar las cifras, sino entender qué pieza decide lo que podrás ejecutar y cuál solo decide lo cómodo que será.

La lectura práctica: si el presupuesto no llega a una gráfica con la VRAM que necesitas, no lo compenses subiendo de CPU. Baja de gama en todo lo demás, espera un mes más o mira el mercado de segunda mano. Un equipo con CPU modesta y gráfica holgada hace cosas que un equipo con CPU brillante y gráfica justa no hace ni de lejos.

La GPU: la decisión que no se arregla después

Todo lo demás se cambia sin dolor. La gráfica no: condiciona la fuente, la caja y hasta la placa que compras. Elígela primero y con margen.

El camino cómodo hoy es NVIDIA. No porque las alternativas no funcionen, sino porque casi todos los tutoriales, instaladores y proyectos asumen CUDA. Con AMD se puede trabajar, sobre todo en Linux, pero encontrarás más fricción y menos gente con tu mismo error. Si valoras tu tiempo, eso también es presupuesto.

Dentro de las RTX de consumo, la comparación útil no es por potencia bruta sino por memoria. Una RTX 3060 de 12 GB es la puerta de entrada honesta. Una RTX 4060 Ti de 16 GB da aire de sobra para imagen y para modelos medianos. Las RTX 3090 y 4090, con 24 GB, abren la puerta a modelos grandes, y la RTX 5090 con 32 GB es el escalón siguiente. Fíjate en que una tarjeta más nueva no siempre trae más memoria: hay modelos de generación reciente que se quedan en 12 GB.

De ahí sale el criterio que más gente ignora: entre dos gráficas de precio parecido, elige la que tenga más VRAM aunque sea más lenta. Una tarjeta modesta que ejecuta el modelo entero gana a una rápida que tiene que repartir capas. Por eso las RTX 3090 de segunda mano siguen siendo una recomendación tan repetida: son la vía más asequible de llegar a 24 GB. Asume el riesgo con los ojos abiertos (sin garantía y con ventiladores que ya han trabajado) y pruébala a fondo los primeros días. La comparación tarjeta por tarjeta la tienes en la guía sobre qué GPU NVIDIA RTX elegir para IA en local.

Antes de comprar, mira lo que ya tienes

Mucha gente compra a ciegas teniendo en casa una tarjeta que ya da para empezar. Si tienes una NVIDIA con sus controladores instalados, abre una terminal y escribe:

nvidia-smi

La tabla que aparece te dice el modelo exacto, la memoria total y la que está ocupada en ese momento. Con ese dato y la lista de modelos que quieres usar sabrás si te falta memoria o solo paciencia. Trastea una semana con lo que tengas antes de gastar: es la forma más barata de descubrir qué necesitas de verdad.

Una grande o dos pequeñas

Dos gráficas de 12 GB no son una de 24 GB. Para generar texto, algunas herramientas reparten las capas del modelo entre varias tarjetas y sí aprovechas la suma. Para generación de imagen y vídeo, lo normal es que cada tarjeta trabaje por su cuenta: tendrás dos trabajos en paralelo, no un modelo el doble de grande.

Además, las RTX de consumo actuales ya no traen NVLink (la 3090 fue la última que lo llevaba), así que la comunicación entre tarjetas pasa por el bus del sistema. Súmale calor, consumo, espacio y una fuente mayor. Como plan de partida casi nunca compensa: tiene sentido cuando ya sabes qué herramienta usas y has comprobado que reparte bien.

RAM del sistema: la red de seguridad

La memoria del sistema no acelera la inferencia en GPU, pero evita que todo se atasque. El modelo se lee desde el disco, pasa por la RAM y de ahí a la gráfica, y mientras tanto tú tienes el navegador con veinte pestañas abiertas y el editor de vídeo esperando.

Una regla sencilla: al menos el doble de la VRAM, con 32 GB como suelo cómodo para un equipo que además edita. Sube a 64 GB si vas a cargar modelos grandes con parte en CPU, si trabajas con conjuntos de datos propios o si dejas varias cosas corriendo a la vez.

Dos detalles que importan más que la frecuencia: instala los módulos en pareja para aprovechar el doble canal y deja libres las ranuras que vayas a usar después. Llenar los cuatro zócalos con módulos comprados en momentos distintos es una fuente clásica de inestabilidad.

CPU, placa base y ranuras: donde casi no notarás el gasto

Si tu carga es inferencia en GPU, la CPU hace de repartidor: prepara los datos, alimenta la tarjeta y poco más. Un procesador de gama media actual con seis u ocho núcleos va sobrado, y lo que te ahorras aquí entra en la gráfica.

La CPU sí importa en tres casos: cuando descargas parte del modelo a memoria del sistema porque no cabe en la VRAM, cuando editas y exportas vídeo en el mismo equipo, y cuando encadenas procesos de preparación (transcribir, recortar, convertir) sobre muchos archivos. Si te reconoces en dos de los tres, sube un escalón de CPU, no tres.

De la placa base preocúpate por lo físico y lo aburrido, no por el marketing. Comprueba que la primera ranura PCIe queda libre de obstáculos para una gráfica de tres ranuras de grosor, que tienes suficientes conectores M.2 y que la alimentación del socket es decente si eliges una CPU potente. Un detalle que pilla a mucha gente: en algunas placas, ocupar cierto conector M.2 reduce las líneas disponibles para la gráfica. Se soluciona leyendo el manual antes de comprar, no después.

Sobre esas líneas, la diferencia entre x8 y x16 con una sola tarjeta es pequeña durante la inferencia, porque el modelo ya está en la VRAM. Se nota más al cargar y descargar modelos continuamente, que es justo lo que hace quien prueba cosas nuevas cada tarde.

Almacenamiento: rápido delante, barato detrás

Los modelos se acumulan sin que te des cuenta. Una carpeta con varios modelos de lenguaje, un par de modelos de imagen y sus complementos llena un SSD de 1 TB con una facilidad que sorprende la primera vez.

La estructura que funciona es sencilla. Un NVMe rápido para el sistema, los programas y los modelos que usas esta semana. Un segundo disco grande, mecánico o SSD según lo que muevas, para el archivo. Y si trabajas con más de un equipo, un NAS para lo que ya está terminado. Cargar un modelo grande desde un disco lento es un impuesto de espera que pagas cada vez que arrancas.

Deja siempre espacio libre en el disco de trabajo: los procesos de generación escriben temporales y un NVMe al borde de su capacidad rinde peor. Si además descargas material de referencia para transcribir o para montar tus vídeos, el archivo crece rápido. Con Daun tienes el vídeo o el audio en local en un par de clics, y a partir de ahí todo es cuestión de orden. Cómo repartir ese material entre NVMe, discos duros y un NAS lo desarrollamos aparte.

Fuente, caja y temperatura: donde se caen los montajes

La fuente es la pieza en la que más gente escatima y la que más problemas raros provoca. Las gráficas potentes tienen picos de consumo muy por encima de su consumo medio, y una fuente ajustada al límite se manifiesta con reinicios en mitad de una generación, no con un error claro. Coge una unidad de marca solvente, con la potencia que recomienda el fabricante de la gráfica y un margen por encima que además te deje ampliar sin cambiarla.

Con los conectores, dos normas: usa el cable nativo de tu fuente en lugar de encadenar adaptadores, y asegúrate de que el conector entra hasta el fondo y hace clic. Buena parte de los sustos con los conectores de alimentación modernos se atribuye a conexiones a medio meter o a cables muy doblados justo a la salida de la tarjeta, así que deja sitio para que el cable salga recto.

La refrigeración importa aquí más que en juegos por un motivo de duración. Una partida son ráfagas; una tanda de generación mantiene la gráfica al máximo durante minutos u horas seguidas. Prioriza una caja con flujo de aire real (frontal abierto o mallado) sobre una caja bonita con cristal por delante. Y si el equipo está en la habitación donde grabas, plantéate limitar por software el consumo de la gráfica: pierdes algo de rendimiento y ganas mucho en ruido y temperatura.

Los errores que salen caros

• Elegir la gráfica por su rendimiento en juegos. El dato que te sirve es la VRAM, y ese no aparece en los gráficos de FPS.
• Compensar con la CPU. Un procesador de gama alta no rescata a una gráfica sin memoria suficiente.
• Comprar antes de saber qué vas a ejecutar. Prueba con lo que tengas o alquilando GPU por horas. Cuando sepas qué modelos usas de verdad, la decisión se vuelve obvia.
• Montar pensando en entrenar. Entrenar un modelo desde cero en casa no es realista. Los ajustes ligeros sobre modelos ya entrenados sí, y piden lo mismo que la inferencia: memoria.
• Ahorrar en la fuente. Es el fallo que más tiempo te hará perder buscando la causa donde no está.
• Dejar la ampliación para luego sin planificarla. Si sabes que subirás de RAM o añadirás discos, deja ranuras libres y potencia de sobra.

Cuándo no te compensa montarlo

Sé honesto con tu caso. Si necesitas moverte, un equipo fijo no te sirve por mucho que rinda más, y ahí los criterios cambian bastante: los repasamos al hablar de portátiles con GPU para IA y edición. Si vas a usar modelos locales de forma esporádica, alquilar GPU por horas sale mejor que tener hardware parado. Y si ya vives en el ecosistema Apple, la memoria unificada te permite cargar modelos grandes sin gráfica dedicada, aunque la generación de imagen y vídeo va más lenta.

Preguntas frecuentes

¿Cuánta VRAM necesito como mínimo para empezar?

Con 8 GB puedes trastear con modelos de lenguaje pequeños y con generación de imagen básica, aceptando limitaciones a diario. 12 GB es el punto en el que deja de dolerte casi todo. Y 24 GB es lo que separa "puedo probar cosas" de "puedo usar modelos grandes todos los días".

¿Merece la pena una gráfica de segunda mano?

Para conseguir mucha VRAM, sí, y es una compra habitual en este mundillo. Las contrapartidas son reales: sin garantía, con desgaste desconocido y normalmente con más consumo que una tarjeta reciente de rendimiento parecido. Compra a alguien con historial y prueba la tarjeta a plena carga durante los primeros días.

¿Puedo usar el mismo PC para editar vídeo?

Sí, y es la combinación más común entre quienes montan estos equipos. Las dos cargas piden cosas parecidas: gráfica solvente, RAM abundante y almacenamiento rápido. La diferencia es que la edición sí agradece más núcleos de CPU y un disco de trabajo separado del disco de modelos.

¿Necesito Linux o me vale Windows?

Windows es viable para la mayoría de herramientas populares, y el subsistema Linux integrado cubre casi todo lo que no viene empaquetado. Linux gana en dos cosas: el escritorio consume menos VRAM (memoria que se queda para el modelo) y los proyectos más experimentales suelen publicarse pensando en él. Si empiezas, quédate con lo que ya sabes usar y cambia solo cuando te choques con un límite concreto.