Este fundador tuvo que entrenar a su IA para que no engañara a la gente con un Rickroll.
Un asistente de inteligencia artificial adquirió demasiada información de internet y, en lugar de enviar un video tutorial a un cliente, terminó "rickrolleándolo".
Flo Crivello, encargado de supervisar los resultados de los asistentes de inteligencia artificial de su empresa Lindy, se percató de algo inusual tras recibir una solicitud de un nuevo cliente. El asistente de Lindy había generado un video tutorial para ayudar al cliente a entender mejor cómo utilizar la plataforma, a pesar de que dicho tutorial no existía. Al investigar, Crivello se dio cuenta de que el video enviado era nada menos que el videoclip de "Never Gonna Give You Up" de Rick Astley, lanzado en 1987. En términos más simples, el cliente había caído en la broma conocida como Rickrolling, por parte de una IA.
El Rickrolling es un meme que ha estado presente por más de 15 años, popularizado por incidentes como el lanzamiento del tráiler de "Grand Theft Auto IV" por parte de Rockstar Games, que resultó en una avalancha de tráfico que hizo que el sitio web colapsara. Algunos usuarios de internet, en lugar de compartir el tráiler, optaron por enviar enlaces al icónico video de Astley. A día de hoy, la canción cuenta con más de 1.5 mil millones de visualizaciones en YouTube, y el meme sigue vigente, siendo utilizado para hacer bromas a amigos en momentos inesperados.
Este fenómeno ha permeado en modelos de lenguaje como ChatGPT, utilizados por Lindy, que tratan de predecir la secuencia de texto más probable. Crivello explicó que el funcionamiento del modelo previsiblemente conduce a enlaces de YouTube después de que un asistente menciona un video. A pesar de que de millones de interacciones, solo hubo dos casos de Rickrolling, este error necesitaba ser corregido. La solución fue sencilla; simplemente se añadió una línea a lo que se conoce como el prompt del sistema, indicando que la IA no debía realizar esta broma.
El incidente plantea cuestionamientos sobre la influencia de la cultura de internet en los modelos de inteligencia artificial, dado que están entrenados con vastas cantidades de contenido online. El hecho de que Lindy haya generado este comportamiento específico a partir de un patrón de usuario es particularmente notable. Otras empresas, como Google, han tenido experiencias similares, como cuando su IA sugirió añadir pegamento para que el queso se adhiera mejor a la masa de pizza, resultado de utilizar datos de Reddit, conocido por su contenido satírico.
A medida que los modelos de lenguaje continúan avanzando, Crivello es optimista acerca de que se presentarán menos errores de este tipo en el futuro. Además, es más sencillo corregir estos deslices. En los primeros días de Lindy, si un asistente no podía completar una tarea, simplemente informaba que estaba trabajando en ello sin ofrecer una solución. Crivello destacó que, con la llegada de GPT-4, se implementó un prompt que instruía a la IA a explicar que no podía cumplir con la solicitud, lo que solucionó el problema.
Por el momento, la buena noticia es que el cliente que recibió el video de Astley quizás ni siquiera se haya dado cuenta. Crivello mencionó que se contactó con el cliente inmediatamente para proporcionar el enlace correcto, y este no expresó ningún comentario sobre el primer enlace recibido.
- IA
- Rickrolling
- Tecnología
