Los reposts de falsificaciones de Kamala Harris por parte de Elon Musk podrían enfrentar problemas con la nueva ley en California.

California ha implementado una nueva legislación que podría meter en problemas legales a los usuarios de redes sociales que publiquen o reenvíen deepfakes generados por inteligencia artificial destinados a engañar a los votantes sobre las próximas elecciones. El gobernador Gavin Newsom indicó que la ley AB 2839, que entró en vigor de manera inmediata después de su firma el martes, busca frenar la difusión de contenidos engañosos, incluido el retweet de figuras como Elon Musk. Newsom mencionó en un tweet: “He firmado un proyecto de ley que hace esto ilegal en California”, aludiendo a un deepfake que Musk reposteó anteriormente este año, el cual falsamente hacía que Kamala Harris se describiera como una candidata incompetente y un fichaje por diversidad.

La legislación prohíbe la distribución consciente de anuncios o comunicaciones electorales que contengan contenido materialmente engañoso, incluidos los deepfakes. Está dirigida específicamente a aquellos que comparten estos contenidos falsos, sobre todo si la publicación se asemeja a un candidato en la boleta electoral de California y quien lo publica sabe que es un engaño que causará confusión. A diferencia de otros esfuerzos legales, AB 2839 no sanciona a los creadores de los deepfakes o a las plataformas donde aparecen, sino a aquellos que los difunden de forma maliciosa.

Cualquier persona que vea un deepfake en redes sociales puede solicitar medidas cautelares, lo que permite a un juez ordenar la eliminación del contenido o incluso imponer daños monetarios al responsable de su publicación. Esta ley se considera una de las más robustas en Estados Unidos contra los deepfakes relacionados con elecciones, en un contexto electoral que se aproxima, como las elecciones presidenciales de 2024.

Leora Gershenzon, directora de políticas de California Initiative for Technology and Democracy (CITED), uno de los patrocinadores de la ley, afirmó que AB 2839 puede afectar a cualquier usuario de redes sociales, no solo a Musk, que publique deepfakes relacionados con las elecciones de forma maliciosa. Definió la malicia como el conocimiento de la falsedad del contenido y la intención de confundir a los votantes. “Esta es una materia engañosa que se distribuye a sabiendas de que es falsa, con desprecio temerario a la verdad, y que probablemente influirá en la elección”, añadió Gershenzon.

En una rueda de prensa, Newsom no descartó la posibilidad de que Musk pueda afrontar acciones legales por reenviar deepfakes, señalando que “la parodia sigue viva en California, pero los deepfakes y las manipulaciones electorales dañan la democracia”. La nueva ley no solo se aplica a anuncios de campaña política, sino también a publicaciones de ciudadanos comunes, prohibiendo deepfakes electorales en medios como televisión, radio, mensajes de texto y cualquier comunicación en internet.

AB 2839 establece un período de 120 días antes de una elección en California y 60 días después en el que las reglas sobre lo que se puede publicar sobre candidatos políticos son más estrictas. La intención, como explicó Gershenzon, va más allá de buscar indemnizaciones; el verdadero propósito es prevenir que se realicen estas acciones fraudulentas en primer lugar. La ley es aplicable a candidatos locales y estatales en California, así como a candidatos federales que figuren en la boleta californiana, tales como Kamala Harris y Donald Trump.

Sin embargo, si un deepfake incluye un aviso claro que indique que ha sido alterado digitalmente, no se le aplican las restricciones de AB 2839. Recientemente, Musk ha comenzado a poner a prueba la capacidad de California para hacer cumplir esta nueva ley, al repostear el deepfake de Kamala Harris mencionado por Newsom, alcanzando más de 31 millones de impresiones en la plataforma X. Además, reposteó otro deepfake del gobernador Newsom, sumando más de 7 millones de impresiones. Por otra parte, Musk y X enfrentan otros problemas legales relacionados con la moderación de contenidos, incluyendo una multa impuesta por un juez del Tribunal Supremo brasileño por eludir la prohibición del país sobre la plataforma.

• legislación
• deepfakes
• elecciones