Echa un vistazo a NVIDIA H100 en nuestro primer vistazo a Hopper

Patrick con NVIDIA H100 en la sede de NVIDIA Abril de 2022
Patrick con NVIDIA H100 en la sede de NVIDIA Abril de 2022

En GTC 2022, NVIDIA tuvo algunas buenas representaciones de NVIDIA H100. Hace unas semanas pude sostener una, y acabo de recibir la llamada de que ya puedo compartir las fotos. Para aquellos que prefieren las tomas en vivo a las representaciones, aquí está nuestro primer vistazo a la GPU NVIDIA H100 Hopper que será un gran negocio en el mercado a finales de este año.

Viendo el NVIDIA H100 en NVIDIA HQ

Contrariamente a algunos rumores, no estuve en Santa Clara, California, a principios de abril para ver el último equipo de barbacoa de NVIDIA.

En cambio, como habrás visto en nuestros módulos NVIDIA Cedar Fever de 1,6 Tbps utilizados en la pieza DGX H100, estaba comprobando el nuevo hardware. Uno de estos fue cubierto por Random Floating Black Box en NVIDIA:

Patrick con una caja negra que flota aleatoriamente en la sede de NVIDIA, abril de 2022
Patrick con una caja negra que flota aleatoriamente en la sede de NVIDIA, abril de 2022

A partir de hoy, el RFBB se puede levantar, y esto es lo que estaba posando con una NVIDIA H100.

Patrick con NVIDIA H100 en la sede de NVIDIA Abril de 2022

Aquí está el frente de la NVIDIA H100. Puede ver que el empaque de SXM se está llenando bastante en este momento. Hay mucho más aquí de lo que vimos en la generación V100.

Patrick con NVIDIA H100 en NVIDIA HQ Abril de 2022 Anverso
Patrick con NVIDIA H100 en NVIDIA HQ Abril de 2022 Anverso

La GPU en sí es la matriz central con un diseño CoWoS y seis paquetes que la rodean. Cinco de esos paquetes que escuchamos durante GTC 2022 están activos como HBM y uno es para ingresos/soporte estructural. A modo de comparación, aquí hay un V100 del piso de exhibición de SC:

Supermicro 8x NVlink NVIDIA Tesla V100 a través de Microway
Supermicro 8x NVlink NVIDIA Tesla V100 a través de Microway

Mientras estaba allí, sostuve el segundo paquete H100 que falló y no estaba montado en la placa lógica SXM. Simplemente no se me permitió tomar fotos de eso, ni siquiera con un RFBB. Estaba marcado como #2. El módulo en sí parece bastante parecido a la representación que vimos en GTC 2022.

Módulo NVIDIA GTC 2022 H100 SXM
Módulo NVIDIA GTC 2022 H100 SXM

Esta es la parte de atrás del módulo:

Patrick con NVIDIA H100 en la sede de NVIDIA Abril de 2022 Contraportada
Patrick con NVIDIA H100 en la sede de NVIDIA Abril de 2022 Contraportada

Algo que es muy diferente en esta generación son los conectores. Además, dado que se suponía que no debía tomar fotografías de esto (estaba usando mi teléfono, no la Canon R5/R5 CI que tenía antes), no pude quitar las cubiertas de Molex. En generaciones anteriores, como la V100, teníamos dos conectores largos a cada lado de la GPU. Así que este es definitivamente un nuevo diseño de conector.

ultimas palabras

Como acabo de recibir la llamada de que podríamos publicar las fotos que probablemente no debería haber tomado, solo quería sacar estas. El H100 es real. Lo que NVIDIA necesita es que las CPU AMD EPYC e Intel Xeon de próxima generación sean compatibles con PCIe Gen5, por lo que tiene una plataforma para sus GPU PCIe Gen5 de próxima generación, DPU BlueField-3, ConnectX-7 y más. Confirmamos en el artículo de Cedar Fever que NVIDIA tiene diseños de placas base para la DGX H100 tanto para Sapphire Rapids como para Génova, pero se elegirá una más cerca del lanzamiento (si no lo ha sido en el último mes).

Estas fotos son en realidad uno de los grandes impulsores detrás de NVIDIA Grace. NVIDIA tiene el H100 hoy, pero no tiene plataformas x86 PCIe Gen5 para vender a los clientes, y no usará Ampere ni ninguna otra solución Arm en esta generación. Dado que NVIDIA tiene su propia CPU, la empresa puede lanzar nuevas generaciones de aceleradores sin tener que esperar a las CPU x86 retrasadas en el futuro.

Leave a Comment