OpenAI confirma que está explorando la posibilidad de implementar marcas de agua en los textos de ChatGPT para identificar a estudiantes que hagan trampa.

OpenAI ha proporcionado detalles adicionales sobre su investigación en métodos de identificación de textos, en respuesta a un informe que afirma que la empresa posee una herramienta capaz de detectar ensayos generados por ChatGPT con un alto grado de precisión. Aunque esta herramienta supuestamente está "lista", su lanzamiento ha estado en duda debido a debates internos sobre su correcta implementación.

En una actualización a una publicación de blog de mayo, OpenAI mencionó que ha desarrollado un método de marca de agua para textos, que está en consideración mientras exploran alternativas. Según la compañía, la marca de agua es solo una de las varias soluciones, que incluyen clasificadores y metadatos, investigadas dentro de su amplio trabajo sobre la procedencia del texto.

OpenAI ha señalado que su método ha demostrado ser bastante preciso en ciertos contextos, aunque su efectividad disminuye frente a algunas manipulaciones, como el uso de sistemas de traducción o la modificación del texto mediante otro modelo generativo. Además, advirtió que la implementación de la marca de agua podría tener consecuencias desproporcionadas para determinados grupos, destacando el riesgo de que se estigmatice el uso de herramientas de IA entre hablantes no nativos de inglés.

La empresa ha estado evaluando estos riesgos antes de avanzar con cualquier implementación. Asimismo, OpenAI ha manifestado que está priorizando el desarrollo de herramientas de autenticación para contenido audiovisual. En un comentario adicional, un portavoz de OpenAI indicó que la empresa está adoptando un enfoque "deliberado" hacia la procedencia del texto, en reconocimiento a las complejidades involucradas y su posible impacto en el ecosistema más amplio, más allá de OpenAI.

• OpenAI
• Texto generado
• Herramientas de IA