¿Está en dificultades GPT-5? Un informe indica que la IA ha alcanzado un estancamiento.

OpenAI podría estar enfrentando desafíos significativos con la llegada de su modelo de próxima generación, conocido como Orion, que se ha rumoreado y negado que será lanzado a finales de este año. Según un informe reciente, basado en informaciones de empleados anónimos de la empresa, se sugiere que las mejoras que ofrecerá Orion sobre su predecesor, GPT-4, son mucho más limitadas de lo que se esperaba inicialmente. En algunas áreas, como las aplicaciones de codificación, el nuevo modelo no muestra un rendimiento superior al de GPT-4, aunque sí se destaca en capacidades generales de lenguaje, como la resumición de documentos y la generación de correos electrónicos.

Uno de los problemas señalados en el informe es la reducción en la disponibilidad de datos de alta calidad para entrenar nuevos modelos. La industria de la inteligencia artificial se está encontrando con un cuello de botella en el suministro de datos de entrenamiento, ya que muchas de las fuentes fáciles, como los datos de redes sociales, han sido agotadas. Esto ha dificultado que las empresas encuentren desafíos complejos en programación que podrían impulsar sus modelos más allá de sus capacidades actuales, lo que a su vez está ralentizando el proceso de entrenamiento previo a su lanzamiento.

Además, este descenso en la eficiencia de entrenamiento de los modelos tiene consecuencias comerciales y ecológicas significativas. Con el crecimiento de los modelos de lenguaje de gran escala (LLM, por sus siglas en inglés) y el aumento anticipado de sus requerimientos energéticos y de recursos para la próxima década, se están explorando soluciones alternativas. Microsoft, AWS y Google están tomando medidas para asegurar el suministro energético necesario para sus centros de datos relacionados con la IA, mientras que OpenAI ha establecido un nuevo equipo destinado a encontrar formas de abordar la falta de datos apropiados, lo que podría incluir el uso de datos de entrenamiento sintéticos.

Orion, que inicialmente se creía sería conocido como GPT-5, se espera que sea lanzado en algún momento de 2025, lo que plantea la incógnita de si la infraestructura eléctrica podrá soportar su funcionamiento. Con el panorama actual, incluso se están considerando herramientas de mejora del rendimiento post-entrenamiento para optimizar la efectividad del modelo.

Por otro lado, OpenAI planea que este modelo no esté disponible de inmediato para el público en general tras su lanzamiento, a diferencia de lo que sucedió con versiones anteriores como GPT-4. Se prevé que se entregue a empresas y socios selectos, quienes lo utilizarán como base para desarrollar sus propios productos y servicios, siguiendo una estrategia similar a la de otras compañías como Nvidia.