La startup de chips de inteligencia artificial Groq asegura 640 millones de dólares para competir con Nvidia.

Groq, una startup dedicada al desarrollo de chips diseñados para ejecutar modelos de inteligencia artificial generativa más rápidamente que los procesadores convencionales, ha anunciado recientemente que ha recaudado 640 millones de dólares en una nueva ronda de financiamiento liderada por Blackrock. En esta ronda también participaron Neuberger Berman, Type One Ventures, Cisco, KDDI y Samsung Catalyst Fund. Con esta inyección de capital, el total de fondos recaudados por Groq supera los 1,000 millones de dólares, y su valoración se ha elevado a 2.8 mil millones de dólares. Esto representa un gran éxito para la compañía, que inicialmente tenía como objetivo recaudar 300 millones a una valoración inferior de 2.5 mil millones de dólares.

La nueva valoración más que duplica la anterior, que era de aproximadamente 1,000 millones de dólares en abril de 2021, cuando Groq recaudó 300 millones en una ronda liderada por Tiger Global Management y D1 Capital Partners. Además, Groq anunció que Yann LeCun, el principal científico de inteligencia artificial de Meta, actuará como asesor técnico. Stuart Pann, exjefe del negocio de fundición de Intel y ex-CIO de HP, se unirá a la startup como director de operaciones.

Groq, que salió de su fase de desarrollo secreto en 2016, está creando un motor de inferencia conocido como LPU (unidad de procesamiento de lenguaje). La empresa afirma que sus LPUs pueden ejecutar modelos de inteligencia artificial generativa, similares en arquitectura a ChatGPT y GPT-4, a diez veces la velocidad y con una décima parte de la energía consumida. El CEO de Groq, Jonathan Ross, es conocido por haber contribuido a la invención del tensor processing unit (TPU), el chip personalizado de inteligencia artificial de Google.

Groq ha desarrollado una plataforma para desarrolladores llamada GroqCloud, que cuenta con modelos “abiertos” como la familia Llama 3.1 de Meta, Gemma de Google, Whisper de OpenAI y Mixtral de Mistral, además de ofrecer una API que permite a los clientes utilizar sus chips en instancias de nube. Hasta julio, GroqCloud contaba con más de 356,000 desarrolladores, y se espera que parte de los fondos recaudados se destinen a aumentar la capacidad y agregar nuevos modelos y características.

“Muchos de estos desarrolladores se encuentran en grandes empresas,” señaló Stuart Pann. “Nuestros cálculos indican que más del 75% de las empresas Fortune 100 están representadas.” En medio del auge de la inteligencia artificial generativa, Groq enfrenta competencia creciente tanto de nuevas startups de chips de IA como del dominante Nvidia, que controla entre el 70% y 95% del mercado de chips para IA.

Nvidia ha tomado medidas agresivas para mantener su liderazgo, comprometiéndose a lanzar una nueva arquitectura de chip de IA cada año y estableciendo una nueva unidad de negocio para diseñar chips personalizados. Además, Groq compite con Amazon, Google y Microsoft, que también ofrecen o están a punto de ofrecer chips personalizados para cargas de trabajo de inteligencia artificial en la nube.

Para diferenciarse, Groq está invirtiendo en la creación de alianzas con el sector empresarial y gubernamental. Hace poco, adquirió Definitive Intelligence, una empresa de Palo Alto, para formar una nueva unidad de negocio llamada Groq Systems, dedicada a servir a organizaciones, incluidas agencias gubernamentales de EE. UU. Actualmente, Groq está colaborando con Carahsoft, un contratista de TI gubernamental, y tiene una carta de intención para instalar miles de LPUs en un centro de datos en Noruega de la firma Earth Wind & Power. También está trabajando con Aramco Digital en la instalación de LPUs en futuros centros de datos en Oriente Medio.

Finalmente, Groq se encuentra avanzando hacia la próxima generación de su chip. El año pasado anunció un acuerdo con la fundición de Samsung para fabricar LPUs de 4nm, que se espera que ofrezcan mejoras en rendimiento y eficiencia en comparación con sus chips de primera generación de 13nm. La compañía planea desplegar más de 108,000 LPUs para finales del primer trimestre de 2025.

• Groq
• Inteligencia Artificial
• Chipsets