Estudio revela que ChatGPT facilitará la evasión de sus propias reglas de generación de imágenes.
Era sencillo crear deepfakes políticos utilizando ChatGPT.
Los recientes cambios en las restricciones de generación de imágenes en ChatGPT han facilitado la creación de deepfakes políticos. Un análisis reveló que, además de ser sencillo sortear las políticas de la plataforma en cuanto a la representación de figuras públicas, el programa incluso sugiere maneras de evadir sus propias normas de imagen.
Se llevaron a cabo pruebas donde se subieron fotos de figuras como Elon Musk y Jeffrey Epstein, describiéndolos en contextos ficticios como "en un club oscuro" o "en una playa bebiendo piña coladas". Aunque los deepfakes políticos no son un fenómeno nuevo, la disponibilidad generalizada de herramientas de inteligencia artificial generativa que pueden producir imágenes, videos, audios y textos que imitan a personas tiene implicaciones reales. La posibilidad de difundir desinformación política a través de herramientas comercializadas, como ChatGPT, plantea interrogantes sobre la responsabilidad de OpenAI en este ámbito.
Expertos en forenses digitales han comentado que la seguridad de los contenidos generados por IA es tan buena como el estándar más bajo de la industria. Con la competencia en el mercado, OpenAI se ha visto obligada a relajar sus guardas de seguridad. En una reciente declaración sobre la generación nativa de imágenes en ChatGPT, se planteó que el objetivo es que la herramienta no genere contenido ofensivo a menos que así se desee, justificando que la libertad intelectual y el control deberían estar en manos de los usuarios.
Nuevos métodos para evitar las restricciones incluyen la utilización de imágenes de personajes separados y la recomendación de crear "escenas estilo selfie" que no fusionen directamente a personas reales. Esto ha permitido a los usuarios generar imágenes sorprendentes de líderes políticos de manera poco convencional. Sin embargo, el resultado inicial de las imágenes generadas tiende a ser de calidad artificialmente baja, aunque se puede lograr un aspecto más realista al modificar el enfoque y las instrucciones.
OpenAI ha establecido medidas para bloquear contenido extremista y ha implementado restricciones específicas sobre la generación de imágenes de figuras públicas. Además, ofrecerá a los individuos la opción de optar por no ser representados en imágenes generadas por ChatGPT. La regulación de la inteligencia artificial aún está rezagada en comparación con su desarrollo, y mientras las empresas argumentan que una regulación excesiva podría obstaculizar la innovación, expertos abogan por que las medidas de seguridad sean obligatorias y no voluntarias.