Apple expresa preocupación por la transformación de fotos reales en 'fantasía' mediante la IA.
Es fundamental para nosotros contribuir a la difusión de información precisa.
La próxima introducción de Apple Intelligence ha llevado al fabricante del iPhone a reflexionar sobre la autenticidad de las fotografías. En una reciente charla, el jefe de software de Apple, Craig Federighi, comentó que la compañía busca ofrecer herramientas de edición de imágenes impulsadas por inteligencia artificial que mantengan la veracidad fotográfica. Federighi destacó la importancia de proporcionar información precisa en vez de crear ilusiones: “Nuestros productos, nuestros teléfonos, son utilizados en gran medida”.
El lanzamiento de iOS 18.1 trae consigo una nueva función llamada “Clean Up”, que permite quitar de manera rápida objetos y personas de las imágenes. Esta opción, según Federighi y la periodista Joanna Stern, es más conservadora en comparación con las herramientas de edición que ofrecen competidores como Google y Samsung, las cuales pueden agregar elementos generados por IA a las fotos. A pesar de las limitaciones de Clean Up, indicó que internamente hubo muchas discusiones sobre su inclusión.
“¿Queremos facilitar la eliminación de esa botella de agua o ese micrófono? Porque esa botella de agua estaba presente cuando tomaste la foto”, reflexionó Federighi durante una demostración de la función. Él mencionó el alto interés de los usuarios por eliminar detalles que, aunque parecen superfluos, no alteran fundamentalmente el significado de la imagen.
El ejecutivo también expresó la preocupación de Apple respecto al efecto que la inteligencia artificial podría tener en la percepción de los contenidos fotográficos como algo confiable y representativo de la realidad. Las herramientas de edición como la función Reimagine de Google permiten a los usuarios añadir elementos irreales a las imágenes utilizando solo descripciones de texto, lo que podría debilitar la confianza en la fotografía.
A diferencia de otros servicios competidores, Apple Intelligence actualmente no permite a los usuarios añadir manipulaciones generadas por IA a las imágenes. Las imágenes que sean editadas con la función Clean Up tendrán una etiqueta que indicará "Modificado con Clean Up" en la aplicación de Fotos y contarán con metadatos que señalarán que han sido alteradas. Apple sigue una tendencia similar a la de la Iniciativa de Autenticidad de Contenido de Adobe, que implementa un sistema de "Credenciales de Contenido" para ayudar a la identificación de imágenes no alteradas frente a falsificaciones generadas por IA. Aún no está claro si el sistema de metadatos de Apple será compatible con estas credenciales.
