Sitios web de desnudos impulsados por inteligencia artificial enfrentan demandas.
San Francisco está intentando eliminar 16 de los lugares más concurridos.
La oficina del fiscal de la ciudad de San Francisco ha presentado una demanda contra 16 de los sitios web de "desnudamiento" impulsados por inteligencia artificial más visitados, que frecuentemente son utilizados para crear deepfakes desnudos de mujeres y niñas sin su consentimiento. Este litigio, anunciado en una conferencia de prensa por el fiscal de la ciudad, David Chiu, señala que estos sitios web fueron visitados en conjunto más de 200 millones de veces en los primeros seis meses de 2024.
Los sitios web en cuestión permiten que los usuarios suban imágenes de personas reales y vestidas, que posteriormente son "desnudadas" digitalmente mediante herramientas de inteligencia artificial. Un sitio específico, no mencionado en la demanda, supuestamente promociona: "Imagina perder tiempo llevándola a citas, cuando puedes utilizar [el sitio redactado] para obtener sus desnudos".
Los operadores de estos sitios son acusados de infringir leyes estatales y federales que prohíben la pornografía de represalias, el uso de deepfakes en pornografía y la pornografía infantil, además de violar la ley de competencia desleal de California. La demanda argumenta que el daño causado a los consumidores supera con creces cualquier beneficio asociado a estas prácticas. La acción legal busca imponer sanciones civiles, así como cerrar permanentemente los sitios web y evitar que sus operadores generen más pornografía deepfake en el futuro.
Esta demanda surge en un contexto de creciente preocupación por la creación y difusión de imágenes desnudas no consensuadas, impulsada en gran medida por los avances en inteligencia artificial generativa, lo que ha llevado a un aumento en los informes de "sextorsión". Celebridades reconocidas, como Taylor Swift, han sido víctimas de deepfakes sexualmente explícitos, y escolares en todo el país han sido expulsados o detenidos por distribuir fotos desnudas generadas por IA de sus compañeros.
En palabras de Chiu, "Esta investigación nos ha llevado a los oscuros rincones de Internet, y estoy absolutamente horrorizado por las mujeres y niñas que han tenido que soportar esta explotación. Este es un problema grande y multifacético que, como sociedad, necesitamos resolver lo antes posible."
- Inteligencia Artificial
- Deepfake
- Derechos de las Mujeres
