Amazon se enfrenta a más escrutinio de la UE por algoritmos recomendadores y transparencia de anuncios

En su última acción dirigida a un importante mercado, la Comisión Europea envió a Amazon otra solicitud de información (RFI) el viernes pasado en relación con su cumplimiento con el marco normativo de la Unión Europea para los servicios digitales. Este desarrollo destaca áreas donde los supervisores de la UE están aumentando su escrutinio sobre el gigante del comercio electrónico, con la UE pidiendo más información sobre los sistemas de recomendación de Amazon, las disposiciones de transparencia de anuncios y las medidas de evaluación de riesgos. Una RFI anterior de la Comisión a Amazon, en noviembre pasado, se centró en evaluaciones de riesgos y medidas de mitigación en torno a la difusión de productos ilegales; y la protección de los derechos fundamentales, incluidos los relacionados con sus sistemas de recomendación. La Ley de Servicios Digitales de la UE (DSA) establece requisitos para que las plataformas y servicios cumplan con una serie de estándares de gobernanza, incluyendo áreas como moderación de contenido. En el caso de los mercados en línea, la ley también exige que implementen medidas para poder actuar contra los riesgos en torno a la venta de productos ilegales. Mientras que los grandes mercados, como Amazon, tienen una capa adicional de obligaciones de transparencia y responsabilidad algorítmica bajo el régimen, es aquí donde se centran las solicitudes de información de la Comisión. Las reglas adicionales se aplican en Amazon desde finales de agosto del año pasado, luego de su designación por la UE como una plataforma en línea muy grande (VLOP) en abril de 2023. Es responsabilidad de la Comisión hacer cumplir estas obligaciones adicionales en los VLOP. Aunque aún está por verse si la última RFI de la Comisión a Amazon dará lugar a una investigación formal de su cumplimiento con la DSA, las apuestas siguen siendo altas para el gigante del comercio electrónico. Cualquier violación confirmada podría resultar muy costosa, ya que las sanciones por infringir la ley pan-europea pueden llegar hasta el 6% de la facturación anual global. (NB: Los ingresos anuales completos de la empresa en 2023 fueron de $574.8 mil millones, lo que significa —sobre el papel al menos— que su riesgo regulatorio se eleva a decenas de miles de millones). Detallando su acción en un comunicado de prensa, la Comisión dijo que envió a Amazon una RFI relacionada con las medidas que ha tomado para cumplir con las reglas de la DSA relacionadas con la transparencia de los sistemas de recomendación y sus parámetros. También mencionó que está solicitando más información sobre las disposiciones de Amazon para mantener un repositorio de anuncios —otro paso de transparencia legalmente obligatorio para las plataformas más grandes. La Comisión también expresó que desea más detalles sobre el informe de evaluación de riesgos de Amazon. La DSA exige a los VLOP evaluar de manera proactiva los riesgos sistémicos que puedan surgir en sus plataformas y tomar medidas para mitigar los problemas. Además, las plataformas deben documentar su proceso de cumplimiento. "En particular, se pide a Amazon que proporcione información detallada sobre su cumplimiento con las disposiciones relacionadas con la transparencia de los sistemas de recomendación, los factores de entrada, características, señales, información y metadatos aplicados para dichos sistemas y las opciones ofrecidas a los usuarios para excluirse de ser perfilados para los sistemas de recomendación", escribió la UE. "La empresa también tiene que proporcionar más información sobre el diseño, desarrollo, implementación, prueba y mantenimiento de la interfaz en línea de la Biblioteca de Anuncios de Amazon Store y documentos de apoyo relacionados con su informe de evaluación de riesgos". La UE le ha dado a Amazon hasta el 26 de julio para proporcionar la información solicitada. Después de eso, cualquier paso siguiente dependerá de su evaluación de la respuesta. Pero la falta de una respuesta satisfactoria a una RFI podría en sí misma desencadenar una sanción. El año pasado, la UE nombró a los mercados en línea como uno de los pocos temas prioritarios para su aplicación de las reglas de la DSA para VLOP. Y ha mostrado atención en esta área. A finales del mes pasado, envió RFIs separadas a los VLOPs del mercado rival, Shein y Temu —poco después de designar a la pareja. Aunque, en su caso, las RFIs de la Comisión también plantearon preocupaciones sobre los riesgos de productos ilegales y el diseño manipulador (incluido como un posible riesgo para la seguridad infantil), además de solicitarles más información sobre el funcionamiento de sus propios sistemas de recomendación. ¿Por qué tanto interés aquí? La clasificación algorítmica tiene el poder de influir en toda la experiencia de los usuarios de la plataforma al determinar el contenido y/o productos que ven. En resumen, la UE quiere que la DSA abra estos sistemas de inteligencia artificial de caja negra para asegurar que las agendas comerciales de las plataformas, para captar la atención de los usuarios y/o impulsar más ventas, no sean lo único que programe estas decisiones automatizadas. Por lo tanto, desea que la DSA actúe como un escudo contra los riesgos de los perjuicios sociales impulsados por la inteligencia artificial, como plataformas que promueven contenido perjudicial para la salud mental de las personas o recomiendan a los compradores comprar productos peligrosos. Pero lograr ese objetivo requerirá hacer cumplir la ley. Mientras tanto, Amazon no está contento con el régimen de la UE. El año pasado impugnó su designación como VLOP en virtud de la DSA. Y el otoño pasado obtuvo una suspensión provisional sobre un elemento del cumplimiento de la DSA de los VLOP —específicamente el requisito de publicar una biblioteca de anuncios. Sin embargo, en marzo, el Tribunal General de la UE revocó la decisión anterior, anulando la suspensión parcial. "Tras su designación como una Plataforma en Línea Muy Grande y la decisión del Tribunal de rechazar la solicitud de Amazon para suspender la obligación de hacer pública su biblioteca de anuncios, Amazon debe cumplir con el conjunto completo de obligaciones de la DSA", escribió hoy la Comisión. "Esto incluye identificar y evaluar diligentemente todos los riesgos sistémicos relevantes para su servicio, proporcionar una opción en sus sistemas de recomendación que no esté basada en el perfilado de usuarios y tener una biblioteca de anuncios disponible públicamente". Dado que Amazon ha gastado dinero en abogados para tratar de argumentar por qué no debería tener que cumplir con el elemento de la biblioteca de anuncios de la DSA —y la posterior anulación de la suspensión—, no es demasiado sorprendente que esta sea una de las áreas donde la Comisión está buscando más información ahora. Se contactó a la UE con preguntas. También nos pusimos en contacto con Amazon para obtener una respuesta a la RFI de la Comisión. Un portavoz de la empresa envió por correo electrónico a TechCrunch esta declaración: "Estamos revisando esta solicitud y trabajando estrechamente con la Comisión Europea. Amazon comparte el objetivo de la Comisión Europea de crear un entorno de compras seguro, predecible y confiable. Creemos que esto es importante para todos los participantes en la industria minorista, e invertimos significativamente en proteger nuestra tienda de actores malintencionados, contenido ilegal y en crear una experiencia de compra confiable. Hemos construido sobre esta base sólida para cumplir con la DSA".