Una de las mayores redes móviles del mundo entrenará su LLM de mil millones de parámetros en los chips de IA de Huawei, dejando de lado a Nvidia y AMD.

China Telecom, una empresa estatal, ha dado a conocer la creación de dos modelos de lenguaje de gran tamaño (LLMs) que han sido entrenados exclusivamente con chips producidos en el país. Según una declaración del Instituto de IA de China Telecom, publicada en WeChat, su modelo de código abierto, TeleChat2-115B, cuenta con más de 100 mil millones de parámetros, mientras que el segundo modelo, cuyo nombre no ha sido revelado, se estima que tiene 1 billón de parámetros. Estos modelos fueron desarrollados utilizando decenas de miles de chips fabricados localmente.

La afirmación de la compañía sostiene que este avance representa una verdadera autosuficiencia en la capacitación de LLMs dentro de China, un reto importante desde que Estados Unidos impuso regulaciones de exportación estrictas que limitan el acceso a unidades de procesamiento gráfico de alta gama, como las Nvidia H100 y A100.

Respecto a los proveedores de los chips, China Telecom no ha revelado información específica, pero se cree que Huawei ha suministrado la mayoría, si no todos, de los dispositivos necesarios. Huawei se ha presentado como una alternativa local a Nvidia y, según información previa de China Telecom, está trabajando en tecnología LLM utilizando chips Ascend desarrollados por la empresa de telecomunicaciones de Shenzhen.

Recientemente, Huawei ha comenzado a enviar muestras de su nuevo procesador Ascend 910C a empresas chinas en el sector de servidores y telecomunicaciones para realizar pruebas. La empresa también ha estado dirigiéndose a los principales clientes de Nvidia en China con la esperanza de que consideren cambiar al menos parte de sus operaciones.

A pesar de la existencia de un mercado negro para las GPUs de alta gama de Nvidia en China, muchas empresas, como ByteDance y Alibaba, prefieren mantenerse dentro de la legalidad utilizando GPUs de especificaciones más bajas, como la Nvidia H20, para evitar riesgos legales y mantener acceso al soporte de Nvidia. Estas compañías están viendo a Huawei como un proveedora viable para sus necesidades de inteligencia artificial. De hecho, se reportó que ByteDance ha realizado un pedido de 100,000 procesadores Ascend.

Además de colaborar con Huawei, China Telecom también está analizando la posibilidad de incorporar hardware de Cambricon, una nueva empresa de chips de IA local, para diversificar aún más su suministro de chips.