Mercados Financieros
NVIDIA presenta su servidor de inteligencia artificial DGX GB200 NVL72, un sistema de altas prestaciones que utiliza más de tres kilómetros de cableado
Características técnicas del servidor de IA
La compañía NVIDIA presentó recientemente su servidor de inteligencia artificial DGX GB200 NVL72, un sistema creado mediante la integración de 36 aceleradoras GB200. Cada una de estas unidades combina una CPU NVIDIA Grace con 72 núcleos ARM Neoverse V2 y dos GPUs B200, logrando un total de 1,44 exaFLOPS en precisión FP4.
El diseño físico del equipo es notablemente compacto, adoptando la forma de un armario de rack que alcanza un peso de 1,36 toneladas. Este contiene 18 nodos de computación Bianca en formato 1U, cada uno equipado con dos GB200 que equivalen a cuatro GPUs B200, para un total de 72 unidades en el sistema completo. El precio estimado del servidor se sitúa en tres millones de dólares.
Sistema de refrigeración y conectividad
El manejo térmico del DGX GB200 NVL72 se aborda mediante un sistema de refrigeración líquida que cubre no solo las CPU Grace y las GPUs B200, sino también los chips NVLink de los switches. Esta solución se considera necesaria debido al intenso flujo de datos que manejan estos componentes.
Para garantizar la sincronización entre las 72 GPUs, cada aceleradora GB200 incorpora tarjetas de red NVLink de quinta generación. El sistema utiliza nueve switches para interconectar los nodos de computación, permitiendo un ancho de banda bidireccional de 1,8 TB/s. Una característica destacada es el uso de 3,2 kilómetros de cable de cobre en el interior del equipo, lo que contribuye al peso del módulo de switches que supera los 30 kilogramos.
Razones para elegir el cable de cobre
La elección del cableado de cobre frente a alternativas como la fibra óptica se justifica por la reducción de costes y consumo energético. Según explica la empresa, el uso de fibra requeriría componentes electrónicos adicionales para la conversión y estabilización de las señales ópticas, lo que incrementaría tanto el gasto inicial como el consumo del sistema.
Capacidades de procesamiento y consumo energético
La potencia de cada chip B200 es notable, triplicando el rendimiento de las GPUs GeForce RTX 5090. Aunque incorpora núcleos RT (Ray-Tracing) de cuarta generación, su uso para videojuegos no es su propósito principal y su desempeño en este ámbito podría ser limitado, similar al de las NVIDIA H100.
El consumo energético del servidor alcanza un TDP estimado de 140 kW. Este nivel de consumo implica que, en una hora de funcionamiento, el sistema consume la misma cantidad de energía que un hogar promedio en España en 17 días. Si se mantuviera operando durante un año completo, su consumo equivaldría al de 415 hogares españoles.