Nvidia celebrará: la competencia de Samsung inicia la producción de HBM3E que se utilizará en las GPU Blackwell Ultra.
SK Hynix ha anunciado que comenzará con los envíos en volumen a finales de 2024.
El gigante surcoreano de la memoria, SK Hynix, ha iniciado la producción masiva del primer HBM3E en el mundo con 12 capas, que ofrece una capacidad total de 36GB, un significativo incremento respecto a los 24GB de la configuración anterior de 8 capas. Este nuevo diseño se logró mediante la reducción del grosor de cada chip DRAM en un 40%, lo que permite apilar más capas manteniendo el mismo tamaño general. La empresa tiene planeado comenzar los envíos en volumen hacia finales de 2024.
La memoria HBM3E proporciona un ancho de banda de 9600 MT/s, lo que se traduce en una velocidad efectiva de 1.22 TB/s si se utiliza en una configuración de ocho capas. Esta mejora la convierte en una opción ideal para el manejo de Modelos de Lenguaje de Gran Escala (LLMs) y tareas de inteligencia artificial (IA) que requieren tanto velocidad como alta capacidad. La capacidad de procesar más datos a tasas más rápidas permite que los modelos de IA funcionen de manera más eficiente.
Para lograr un apilamiento avanzado de memoria, SK Hynix utiliza tecnologías de empaquetado innovadoras, como Through Silicon Via (TSV) y el proceso de Mass Reflow Molded Underfill (MR-MUF). Estos métodos son fundamentales para mantener la integridad estructural y la disipación de calor necesarias para un funcionamiento estable y de alto rendimiento en el nuevo HBM3E. Las mejoras en el rendimiento de disipación del calor son especialmente cruciales para mantener la fiabilidad durante tareas intensivas de procesamiento de IA.
Además de su aumento en velocidad y capacidad, el HBM3E está diseñado para ofrecer una estabilidad mejorada, con procesos de empaquetado patentados de SK Hynix que garantizan una mínima deformación durante el apilamiento. La tecnología MR-MUF de la compañía permite una mejor gestión de la presión interna, reduciendo las posibilidades de fallos mecánicos y asegurando una durabilidad a largo plazo.
Las primeras muestras de este producto de HBM3E de 12 capas comenzaron en marzo de 2024, y se espera que las GPUs Blackwell Ultra de Nvidia y los aceleradores Instinct MI325X de AMD sean algunos de los primeros en aprovechar esta memoria mejorada, beneficiándose de hasta 288GB de HBM3E para soportar complejas computaciones de IA. Recientemente, SK Hynix rechazó un pago anticipado de 374 millones de dólares de una compañía desconocida para asegurarse de que podría proporcionar a Nvidia suficiente HMB para su hardware de IA que está en alta demanda.
Justin Kim, Presidente del Infraestructura de IA en SK Hynix, expresó que “SK Hynix ha superado nuevamente los límites tecnológicos, demostrando nuestro liderazgo en la memoria para IA. Continuaremos nuestra posición como el proveedor número uno global de memoria para IA mientras preparamos productos de memoria de próxima generación para superar los desafíos de la era de la IA”.
