Durante la pandemia, el mundo experimentó una escasez sin precedentes de tarjetas gráficas, un componente crucial para una amplia gama de aplicaciones, desde videojuegos hasta diseño gráfico y más. Esta situación se salió de control por varios factores, entre ellos el aumento exponencial de la demanda de hardware para el trabajo y el entretenimiento desde los hogares, así como un crecimiento de la minería de criptomonedas, que dependía en gran medida de estas tarjetas. Los fabricantes lucharon por mantenerse al día con las demandas crecientes, pero todo resultó en una escasez global que disparó los precios.
Ahora, a medida que nos adentramos más en la era de la inteligencia artificial (IA), surge una preocupación similar, las GPU, se han convertido en una herramienta esencial para impulsar algoritmos y aplicaciones de IA, y nuevamente podrían enfrentarse a una escasez.
Escasez de GPU para IA
Ante la reciente falta de disponibilidad de GPU específicas para IA, muchas personas han optado por las tarjetas gráficas destinadas a videojuegos como una solución viable. En este contexto, Tiny, una compañía especializada en IA, ha lanzado la TinyBox, un producto dirigido a consumidores que quieren trabajar con IA pero no consiguen los mejores productos, como las H100 de NVIDIA.
Las TinyBox vienen con 6 AMD Radeon RX 7900 XT dentro de un rack, conectándolas a través de carriles PCIe 4.0 x16 para asegurar un flujo constante de datos sin sacrificar el rendimiento.
Aunque Tiny no ha especificado directamente el rendimiento que se puede lograr con esta configuración, las estimaciones indican que el conjunto de las 6 GPU puede alcanzar aproximadamente los 738 TFLOPS de rendimiento FP16, con 96 GB de memoria GDDR6. Esto es una alternativa considerable en términos de relación rendimiento-precio.
El resto de características de la TinyBox, son: un procesador AMD EPYC 7532, 128 GB de memoria RAM, cinco SSDs SN850X (WD Black PCIe 4.0) de 1 TB cada uno, dos fuentes de alimentación de 1600W, y una ranura OCP 3.0 16x para la conexión de red. Al revisar todas las especificaciones del equipo, la inversión comienza a parecer justificada. La empresa estima que el costo de estos componentes es de menos de 10 mil dólares, la empresa vende el rack por más de 15.000 dólares, obtienen muchas ganancias
Que puede pasar?
La creación de productos como la TinyBox marca un punto de inflexión en la industria de la inteligencia artificial, pero también plantea preguntas sobre la futura disponibilidad de tarjetas gráficas para el consumidor promedio. A medida que más empresas y consumidores se inclinan hacia el uso de tarjetas graficas de alto rendimiento para tareas de IA, podríamos estar al borde de una nueva era de escasez, similar a la experimentada durante la pandemia y el auge de la minería de criptomonedas.
La situación nos invita a reflexionar sobre el equilibrio entre el avance tecnológico y la disponibilidad de los recursos necesarios para impulsar dichos avances.
