¿Por qué ChatGPT a veces "razona" en chino?

Al utilizar ChatGPT, algunos usuarios se han sorprendido al notar que, a veces, la inteligencia artificial parece "pensar" en chino u otros idiomas, aun cuando la conversación se lleva a cabo completamente en inglés o en español. Este fenómeno ha despertado la curiosidad y generado un debate entre profesionales en el campo de la inteligencia artificial.

Uno de los casos más destacados ocurrió después del lanzamiento del modelo de razonamiento denominado “o1” por OpenAI. Varios usuarios comenzaron a observar que, durante el proceso de llegar a una respuesta, el modelo podía "cambiar" de idioma en medio de sus razonamientos. Por ejemplo, al preguntar “¿Cuántas R hay en la palabra ‘strawberry’?”, el modelo entregaba la respuesta final en inglés, pero algunos pasos intermedios incluían frases en chino, persa u otros idiomas.

Este comportamiento ha sido discutido en plataformas sociales, donde numerosos usuarios han compartido experiencias similares y han expresado su curiosidad acerca de por qué la inteligencia artificial alterna entre lenguas sin una razón obvia. Lo más intrigante es que OpenAI no ha proporcionado una explicación oficial.

Se han formulado diversas teorías para tratar de esclarecer este fenómeno:

1. Influencia de los datos de entrenamiento: Una de las explicaciones más aceptadas indica que este comportamiento podría estar relacionado con la naturaleza de los datos con los que se entrenan los modelos. Dado que modelos como o1 son alimentados con grandes cantidades de información en múltiples idiomas, incluyendo inglés, chino, persa y otros, es posible que haya un sesgo hacia ciertos idiomas si los datos de esas lenguas son más predominantes. Esto podría llevar a que el modelo "piense" en chino al resolver problemas, ya que ha encontrado patrones que le resultan más familiares en esa lengua.

2. Eficiencia lingüística: Otra teoría sugiere que determinadas características de idiomas específicos podrían hacer que sean más eficientes para ciertas tareas. Por ejemplo, en chino, cada número tiene solo una sílaba, lo que podría facilitar tareas que involucran cálculos. Se ha propuesto que los modelos seleccionen un idioma según la tarea en cuestión, similar a cómo los humanos cambian de lengua según el contexto.

3. Naturaleza probabilística de los modelos: En lugar de afirmar que algunos idiomas son más eficaces, esta teoría pone énfasis en cómo las IA procesan el texto. Los modelos dividen la información en fragmentos pequeños y aprenden a identificar patrones. Si han observado que problemas complejos a menudo se resuelven en chino durante su entrenamiento, podrían asociar ese idioma con dichos razonamientos, eligiendo el camino que consideran más lógico basado en sus experiencias previas.

4. Posible “alucinación” de la IA: En algunos casos, el cambio de idioma puede ser visto como un tipo de "alucinación" de la IA, donde el modelo produce respuestas sin sentido relacionadas con la consulta original. Esto puede suceder cuando intenta llenar vacíos en su razonamiento, resultando en respuestas que incluyen idiomas diferentes al de la conversación inicial.

La falta de claridad en cómo funcionan estos sistemas representa un gran desafío. La complejidad de los procesos internos de la IA dificulta el análisis de sus decisiones, lo que resalta la necesidad de una mayor transparencia en el desarrollo y entrenamiento de estas tecnologías. Aunque aún no existe una respuesta clara sobre el porqué del "pensamiento" en otros idiomas por parte de modelos como ChatGPT, estas teorías proporcionan una visión más profunda sobre su funcionamiento.

Hasta que se ofrezcan más clarificaciones por parte de OpenAI y otras entidades del sector, el misterio sobre este fenómeno continuará siendo objeto de especulación.