Clausuran aplicación que prometía "usar IA para filtrar a usuarios con infecciones de transmisión sexual"

HeHealth's aplicación Calmara, impulsada por inteligencia artificial, afirmó: "Nuestra innovadora tecnología de IA ofrece un screening de salud sexual rápido, confidencial y científicamente validado, brindándote tranquilidad antes de embarcarte en encuentros íntimos", pero ahora ha sido cerrada después de una investigación de la Comisión Federal de Comercio (FTC, por sus siglas en inglés).

La aplicación incitaba a los usuarios a enviar imágenes explícitas para verificar infecciones de transmisión sexual, prometiendo "respuestas claras respaldadas por la ciencia sobre el estado de salud sexual de tu pareja", según una carta de la FTC fechada el 11 de julio. La carta expone algunas de las preocupaciones de la agencia con la información en la que HeHealth basaba sus afirmaciones, incluyendo una que indicaba que podía detectar más de 10 infecciones de transmisión sexual con hasta un 94 por ciento de precisión. La FTC señala que HeHealth pagó a varios autores de estudios, que el estudio principal citado por la compañía solo evaluó cuatro tipos de ITS en lugar de 10, y que los datos utilizados para entrenar el modelo de IA incluían imágenes de usuarios que nunca se sometieron a pruebas de diagnóstico para confirmar los resultados.

Dado que la mayoría de las ITS son asintomáticas, según la Organización Mundial de la Salud, los profesionales médicos han cuestionado la fiabilidad de las tácticas de la aplicación. Una investigación del Los Angeles Times encontró que Calmara ni siquiera podía distinguir objetos inanimados y no lograba identificar imágenes "clásicas" de ITS. Además, vídeos en YouTube muestran que Calmara se promocionaba a mujeres para evaluar a sus citas, lo que plantea interrogantes evidentes sobre el consentimiento, aunque en un comunicado de prensa de marzo se aseguraba que la aplicación requería "consentimiento explícito".

La aplicación de HeHealth, que utiliza la misma IA, se promocionaba más como un paso inicial para individuos antes de contactar con un proveedor médico. La empresa acordó cerrar ambas aplicaciones para el 15 de julio, y el sitio web de Calmara y los enlaces a la aplicación de HeHealth parecen estar inactivos. La compañía también acordó eliminar toda la información personal de los clientes obtenida a través de las aplicaciones o de los proveedores de pagos y solicitar a esos proveedores eliminar cualquier dato de sus clientes, afirmó la FTC.

Sin embargo, artículos que describen la aplicación y vídeos de Calmara que permanecen en YouTube hasta el martes muestran que proporcionaba señales a los usuarios sobre si los genitales estaban "limpios" o si un usuario debería abstenerse de actividad sexual con una pareja debido a signos de una posible ITS. En un momento dado, según informes, la compañía promocionó la aplicación como "tu mejor amiga íntima para el sexo sin protección."

"La FTC está tan comprometida con proteger a los consumidores que incluso está dispuesta a navegar a través de páginas de imágenes explícitas para proteger a los estadounidenses de estafadores de IA", dijo una fuente familiarizada con el asunto, que pidió permanecer en el anonimato porque no estaba autorizada a hacer comentarios sobre la investigación en relación con The Verge.

La FTC emitió una orden de investigación civil (similar a una citación) solicitando información sobre las afirmaciones publicitarias y las prácticas de privacidad de Calmara, y puso en aviso a HeHealth de que es ilegal hacer afirmaciones de beneficios para la salud sin "evidencia científica confiable". HeHealth no respondió de inmediato a una solicitud de comentario de The Verge.

La FTC dijo que no seguiría adelante con la investigación ya que HeHealth aceptó esos términos y debido al "pequeño número de usuarios y ventas de Calmara en EE. UU.". Sin embargo, advirtió que "se reserva el derecho de tomar medidas adicionales según lo que requiera el interés público".