Nikhilesh Singh explica qué PC necesitas para ejecutar modelos de IA en local: hasta 128 GB de RAM y una RTX 5090

¿Qué PC necesitas para ejecutar modelos de IA en local?
¿Qué PC necesitas para ejecutar modelos de IA en local?Canva
Noticia
Añádenos en Google

Elígenos como tu fuente preferida en Google.

El investigador en informática y ciberseguridad indio Nikhilesh Singh explica qué ordenador es recomendable para ejecutar modelos de IA en local y los "accesibles" requisitos mínimos necesarios.

En una era en la que la inteligencia artificial sigue evolucionando sin parar, muchos usuarios que no quieren perder la oportunidad buscan nuevos ordenadores que les permitan trabajar con esta tecnología de forma fluida. Sin embargo, y al contrario de lo que muchos creen, no es necesario tener siempre un ordenador extraordinario. Así lo asegura el experto en informática y ciberseguridad, Nikhilesh Singh, que diferencia entre usar un modelo a través de una API, que funciona en servidores externos, y hacer funcionar la IA en un equipo propio.

En el primer caso, indica que es suficiente con un PC corriente, con SSD y entre 16 y 32 GB de memoria RAM, y para ciertas cargas locales grandes, considera que puede ser suficiente un PC de hasta 128 GB de memoria RAM y una tarjeta RTX 5090. De esta manera, quiere diferenciar entre ambas posibilidades. En su publicación agrupa GPT-5 y modelos abiertos al hablar de trabajo local, pero GPT-5 se ofrece a desarrolladores mediante la API de OpenAI, y comprar una tarjeta gráfica más potente no permite instalar sus pesos en PC.

De esta manera, quien desee ejecutar un modelo en su equipo propio deberá elegir uno distribuido para ese uso. En el trabajo local, uno de los aspectos más importantes es la memoria de la tarjeta gráfica (VRAM), que no se debe confundir con la RAM del ordenador. Nikhilesh Singh explica que la GeForce RTX 5090 dispone de 32 GB de VRAM, según NVIDIA, lo que sería una capacidad suficiente para experimentar ciertos modelos, pero inferior a los 80 GB de memoria de GPU que OpenAI indica para poder ejecutar gpt-oss-120b en una sola tarjeta.

Esto significa que tener 128 GB de RAM del sistema no convierte esos 32 GB de VRAM en 128. En cualquier caso, el tamaño del modelo cambia mucho en función de las necesidades. Asimismo, también influyen la forma en la que se cargan los pesos, las técnicas para reducir su tamaño y la longitud de las conversaciones a procesar.

Elegir el equipo adecuado para cada trabajo

Antes de valorar la compra de una tarjeta gráfica, Singh recalca la importancia de definir la tarea. Esto se debe a que las necesidades no son iguales en todos los casos: para programar una web que envíe preguntas a una API, el ordenador local ejecuta sobre todo el entorno de desarrollo y el cálculo pesado sucede fuera.  Sin embargo, si hay que analizar documentos en la propia organización o probar modelos sin depender de una conexión, habrá que disponer de más recursos locales, más espacio de almacenamiento y memoria suficiente para ello.

El informático indio considera que la RTX 5090 y los 128 GB de RAM son parte de una configuración potente para determinados usos, por lo que se puede tomar como referencia, pero no entenderlo como el mínimo para empezar. Una persona que quiera ensayar modelos más pequeños puede necesitar bastante menos, mientras que quienes trabajen con modelos enormes pueden necesitar de varias GPU u otro tipo de hardware.

Asimismo, el experto recalca que se debe distinguir entre ejecutar un modelo y entrenarlo. Responder consultas con un modelo ya preparado exige menos recursos que modificarlo intensamente o entrenar uno desde cero. Su propuesta pasa por una opción híbrida, con equipos propios para pruebas y tareas concretas y recurrir a una infraestructura externa cuando haga falta mayor capacidad.

Esta elección depende del volumen de trabajo, de las necesidades de privacidad y del propio coste de mantener el equipo. Por lo tanto, todo pasa por conocer las necesidades del trabajo y optar por un PC que las satisfaga.

Más información sobre: