En el artículo anterior hablábamos de la importancia de la GPU y dejábamos paso para la CPU.

Para nuestro servidor, no necesitaremos que la CPU sea el componente que determine principalmente la velocidad del LLM, siempre y cuando usemos una NVIDIA potente; ya sabemos que aquí manda la GPU y, sobre todo, su VRAM. Sin embargo la CPU sí que determina cuánto de “servidor” podremos construir alrededor de esa GPU: como por ejemplo, RAG, OCR, indexación, bases de datos, máquinas virtuales, procesamiento de documentos, descompresión, análisis forense, varios usuarios/servicios simultáneos, etc.

Además, en nuestro caso particular, y debido a la inversión que a buen seguro vamos a tener que hacer, lo más probable es que acabemos utilizando la máquina para otras tareas, como procesamiento masivo de documentación técnica o forense, OCR, scripts Python, bases SQLite, búsquedas, Docker, quizá VMs, etc.

 

Y ahora viene el gran dilema: ¿Intel, o AMD?

Para esta máquina concreta, quizá la mejor opción sea AMD, como ya os avancé en la parte II.

Y dentro de estas dos marcas tan diferentes hay procesadores mejores y peores, como es lógico. Según mi opinión (y los datos oficiales de cada fabricante) creo que los siguientes procesadores serían los ideales:

 

Si tiramos la casa por la ventana y elegimos Ryzen, me decantaría (a día de hoy, claro) por el AMD Ryzen 9 9950X3D, pues sus 16 núcleos/32 hilos, arquitectura Zen 5, 5,7 Ghz, 128 mb L3, 170 W, TDP, PCIe 5.0 y capacidad de manejo de hasta 256 Gb Ram DDR5, lo convierten en un auténtico monstruo.

Pero realmente no necesitamos este procesador pensado más par Gamingy determinadas cargas. En nuestro caso concreto podemos irnos a presupuestos más modestos, como pueden ser el mismo Ryzen9 de 16 núcleos, pero sin X3D.

Si, por el contrario, sois más de INTEL, yo me decantaría por el INTEL Core Ultra 9 285K, con un total de 24 núcleos, 5,7 Ghz y 125 W (hasta 250 W turbo). Además permite ejecutar el jit de herramientas «OpenVINO», diseñado específicamente para optimizar y desplegar modelos de aprendizaje profundo e inferencia de inteligencia artificial de alto rendimiento.

Tanto «Threadripper PRO» como «Xeon W» son dos muy buenas opciones, pero solo si estamos pensando en tener una máquina «para muchos años»; solo tenéis que mirar lo que cuestan y, puestos a gastar, yo apostaría primero por la tarjeta gráfica (GPU).

Finalmente, tenemos la arquitectura «M5» de Apple, con la denominada «Memoria Unificada». Un candidato muy serio, capaz de desbancar tanto a AMD como a INTEL. Simplemente debemos tener cuidado a la hora de elegir el equipo, pues el procesador debe ser el «M5 Max» o «M5 Ultra»; especialmente, el «Mac Studio M5 Ultra».

En esta arquitectura «M5» la GPU y la CPU comparten el mismo espacio de memoria. Por ejemplo, el Mac Studio M5 Ultra actual puede configurarse con 256 o, incluso 512 Gb de memoria unificada, albergando -además- una GPU de hasta 80 núcleos y 1,2 Tb/s de ancho de banda de memoria. Un maquinón, vamos. Su precio -en cualquier caso- también es acorde.

De hecho, Apple ha demostrado públicamente con MLX la ejecución local de modelos cuyos pesos cuantizados ocupaban alrededor de 380 GB utilizando 512 GB de memoria unificada en Apple Silicon.

Eso es extraordinariamente difícil de conseguir en una workstation NVIDIA convencional.

En el próximo artículo hablaremos de la RAM y de la Placa Base.