Zoho apuesta por Nvidia NeMo para desarrollar modelos de lenguaje propios.

Zoho, el reconocido proveedor de servicios de correo electrónico, ha revelado su intención de desarrollar modelos de lenguaje a gran escala (LLMs) personalizados, utilizando la plataforma de computación AI de Nvidia. Estos LLMs, orientados a negocios, se beneficiarán de las herramientas NeMo y de las avanzadas unidades de procesamiento gráfico (GPUs) de Nvidia para mejorar la implementación de inteligencia artificial en los servicios de Zoho.

La compañía ha realizado una inversión inicial de 10 millones de dólares en inteligencia artificial, con planes de duplicar esta cifra en el próximo año. Esta inversión, junto con la colaboración con Nvidia, permitirá a Zoho ampliar y perfeccionar sus capacidades de IA para los usuarios de sus plataformas ManageEngine y Zoho.com, que ya cuentan con más de 700,000 clientes. El desarrollo de estos LLMs está enfocado en satisfacer necesidades específicas de las empresas, diferenciándolos de las herramientas de IA de consumo general y facilitando decisiones más rápidas y acertadas para las organizaciones.

Los planes de Zoho en el ámbito de la inteligencia artificial no se limitan solo a LLMs, sino que también incluyen modelos multimodales que pueden procesar elementos visuales y herramientas de IA habilitadas para el habla, adaptadas para las empresas. Actualmente, la compañía se encuentra evaluando el uso de Nvidia TensorRT-LLM para avanzar aún más en el despliegue de sus LLMs, logrando un aumento del 60% en el rendimiento y una reducción del 35% en la latencia en comparación con otros marcos de código abierto que había probado anteriormente.

La alianza con Nvidia proporciona a Zoho un entorno más adecuado para manejar una gama más amplia de cargas de trabajo de IA. La tecnología de Nvidia facilita la implementación de características como la conversión de voz a texto y la infraestructura de alto rendimiento necesaria. Lo más importante es que estas capacidades de IA se integrarán en la completa gama de más de 100 herramientas que ofrece Zoho, optimizando áreas como ventas, marketing, atención al cliente y contabilidad.

A diferencia de los modelos más grandes y de propósito general, Zoho se enfocará en desarrollar modelos de lenguaje más pequeños y especializados que atiendan específicamente las necesidades de datos comerciales. Esto hará que la IA de Zoho sea más accesible para empresas independientemente del tamaño de sus conjuntos de datos, permitiendo un uso más eficiente de la inteligencia artificial con objetivos específicos y generando información relevante para la toma de decisiones.

Ramprakash Ramamoorthy, director de IA en Zoho, afirmó: “Muchos LLMs en el mercado actual están diseñados para uso de consumidores, ofreciendo un valor limitado para las empresas. En Zoho, nuestra misión es crear LLMs diseñados específicamente para una amplia gama de casos de uso empresarial. Al poseer nuestra propia pila tecnológica, que abarca diversas funciones empresariales, podemos integrar el elemento fundamental que hace que la IA sea realmente efectiva: el contexto.”