Nvidia presenta la Titan V: Un monstruo orientado a inteligencia artificial

Nvidia presentó hoy en la conferencia anual de Sistemas de Procesamiento de Información Neuronal (NIPS por sus siglas en inglés) su nueva integrante de la linea Titan, la nueva Titan V, basada en su última arquitectura Volta, mostrando todo el potencial de la nueva arquitectura con esta versión levemente reducida de la Tesla V100 PCI-E.

La nueva gráfica de Nvidia se encuentra orientada al 100% a lo que es inteligencia artificial, y cuenta con 21.1 billones de transistores y una potencia bruta de 110 TFlop/s, es decir, 9 veces mas potencia bruta que los 12 TFlop/s de la Titan Xp que era la anterior tope de gama, con el doble de eficiencia energética.

Esto se logra gracias a una arquitectura diseñada desde cero para inteligencia artificial y cómputos de alto rendimiento, que no solo tiene una gran cantidad de Cuda Cores, sino que además incorpora por primera vez los Tensor Cores, los cuales en resúmen se encuentran orientados a cálculos matemáticos de alta complejidad, siendo capaces de realizar 64 cálculos de punto flotante mixtas (Combinando FP16 para multiplicar y FP32 para acumular en simultaneo) por ciclo de reloj cada Tensor Core, y con un grupo de 8 ya podremos realizar un total de 1024 cálculos de punto flotante si sumamos los 512 de FP16 mas los 512 de FP32.

De esta manera, se logra un incremento de 12 veces el rendimiento de Pascal en operaciones FP32, y 6 veces el rendimiento en FP16, además del rendimiento bruto 9 veces mayor mencionado anteriormente.

Volviendo a hablar particularmente de la Titan V, la gráfica cuenta con 5120 Cuda Cores, 640 Tensor Cores, 320 TMUs. La frecuencia base es de 1200MHz, con un boost teórico de 1455MHz. Por el lado de la memoria, cuenta con 12GB al igual que todas las gráficas de la linea Titan, aunque en este caso de tipo HBM2, con un bus de 3072 bits, trabajando a 850MHz lo cual resulta en un ancho de banda de 652.8GB/s. Es la primera gráfica en fabricarse con el proceso de 12nm++, ya que Pascal estaba fabricada con proceso de 14nm.

Todas estas mejoras, traen asociadas un costo, que antes de mencionarlo para evitar opiniones incorrectas, vamos a mencionar que es la gráfica con mejor relación entre precio y rendimiento FP64 jamas lanzada, lo cual es algo muy importante a la hora de realizar una compra para los investigadores de AI. La gráfica está disponible en ciertos mercados directamente desde la página de Nvidia, a un costo de U$S 3000, frente a los U$S 7000 de la Tesla V100 PCI-E que no tiene mucha diferencia en rendimiento y si mucha en precio.

A continuación les dejamos un cuadro extraido de Reddit, donde pueden observar la relación entre precio y rendimiento FP64 de las últimas gráficas de Nvidia, y toda la linea Titan, para que vean que aunque el precio parezca elevado, realmente no lo es ya que es la mejor gráfica precio-rendimiento para estas tareas: