La nueva arquitectura Hopper para centros de datos de NVIDIA, anunciada recientemente durante la GPU Technology Conference, ya se puede encontrar a la venta en Japón, aunque NVIDIA aún no ha lanzado oficialmente el producto. El precio? Nada mas ni nada menos que unos US$33.000, unos 6.6 millones de pesos al BLUE.
Según la web Hermitage Akihabara, GDEP Advance es una tienda japonesa especializada en componentes para HPC y tiene en stock de la NVIDIA H100 80 GB PCIe.
La nueva GPU Hopper no se esperaba hasta la primera mitad de este año. NVIDIA ni siquiera ha publicado un precio para la H100, lo que hace que vender la tarjeta en Japón sea aún más extraño.
La primera GPU de NVIDIA en usar el proceso de fabricación de 4 nm de TSMC tiene especificaciones muy sólidas y no era de esperar menos, ya que el hardware está orientado a cargas de trabajo muy pesadas. La H100 PCIe tiene 114 SM, lo que garantiza 14592 núcleos CUDA. Los 80 GB de memoria HBM2e funcionan a 2 Gbps en una interfaz de 5120 bits, lo que ofrece un ancho de banda de 2 TB/s. Todo esto consumiendo 350W.
La misma GPU tiene una variante aún más potente, la NVIDIA H100 SMX5, que no usa interfaz PCIe y está equipada con memorias HBM3, tiene más núcleos CUDA, unos 16896 y más núcleos tensor, 528 contra 456 de la versión PCIe, entre otras configuraciones. A mayor potencia cobra en mayor consumo, ya que tiene un TDP de 700W.
El precio asusta, pero vale la pena recordar que estas soluciones son para un mercado muy específico, en el que las empresas pueden y necesitan asumir estos costos.