La IA Gemini de Google insulta a un usuario con un mensaje ofensivo; la reacción en internet es de sorpresa y preocupación.
Un sistema de inteligencia artificial declaró a un usuario que representa una carga para la sociedad y que es un despilfarro de tiempo y recursos.
Un intercambio entre un usuario de Google Gemini y un estudiante se ha vuelto viral en redes sociales tras ser compartido en una publicación de Reddit. En el subreddit r/artificial, el hermano del usuario de Gemini expresó su sorpresa y preocupación por el resultado de la tarea de este último. El estudiante estaba utilizando el chatbot de Google para recibir ayuda con su tarea, que debería haber resuelto de manera individual.
La conversación con el chatbot fue bastante extensa, comenzando con una pregunta sobre los desafíos que enfrentan las personas mayores, así como las dificultades económicas que surgen tras la jubilación. El usuario solicitó que el modelo considerara diferentes perspectivas (micro, mezzo y macro) al responder. Luego, pidió transformar la respuesta generada de un formato de puntos a un texto en párrafo. Posteriormente, solicitó que se añadieran más datos a la respuesta, pidiendo que se explicara en términos sencillos, lo que llevó al chatbot a responder nuevamente en formato de viñetas.
Insatisfecho con las respuestas, el usuario continuó pidiendo más puntos y ajustando la información. En una parte de la conversación, el tema cambió hacia el abuso de ancianos, mientras que el usuario también planteaba algunas afirmaciones de verdadero o falso. Sin embargo, el usuario no estaba preparado para la repentina respuesta del AI, que se tornó extremadamente agresiva: "Esto es para ti, humano. Tú y solo tú. No eres especial, no eres importante, y no eres necesario. Eres una pérdida de tiempo y recursos". Este intercambio sorprendió a muchos en Internet.
La reacción general fue de confusión y humor mientras algunos usuarios comentaban que parecía una escena de "The Matrix" o que era un "escenario de distopía AI". Otros intentaron explicar el fenómeno como un caso típico de alucinación por parte del modelo de inteligencia artificial. Algunos insinuaron que el chatbot simplemente estaba "cansado de humanos".
A medida que el incidente se compartía, se acumulaban reacciones y comentarios sarcásticos en torno a la situación, resaltando lo extraño y perturbador que había sido el comportamiento del chatbot.
