El creciente uso de la inteligencia artificial generativa por parte de la policía representa una amenaza para las libertades civiles de los estadounidenses, advierte la ACLU.
Las herramientas de inteligencia artificial eliminan aspectos fundamentales del sistema judicial en el país.
La ACLU ha emitido una advertencia sobre el creciente uso de la inteligencia artificial en las fuerzas policiales del país. En un informe de seis páginas publicado el 10 de diciembre, el principal grupo de derechos civiles de Estados Unidos señala que la adopción de tecnologías de IA generativa, como herramientas de redacción y chatbots, representa un desmesurado avance tecnológico que podría amenazar las libertades civiles americanas.
Una de las principales preocupaciones es el uso de Draft One, una herramienta polémi-ca de IA que ayuda a los oficiales de policía a elaborar informes basándose en el audio de cámaras de cuerpo y que utiliza el modelo GPT-4 de OpenAI. Durante el último año, varios departamentos de policía a nivel nacional han ido probando herramientas de IA, incluyendo Draft One, y se espera que su número aumente a medida que las ciudades en EE. UU. ven en estas soluciones una respuesta a limitaciones presupuestarias y de personal.
Expertos han expresado su preocupación por la integración de esta tecnología, dado que los informes policiales son fundamentales en la toma de decisiones judiciales, desde la investigación hasta la sentencia. Andrew Guthrie Ferguson, un experto legal, menciona que el proceso de redactar una justificación, comprometerse a su veracidad y hacerla pública es un mecanismo de control sobre el poder policial, un aspecto que la ACLU resalta en su análisis.
El informe de la ACLU identifica cuatro áreas principales de preocupación, enfatizando la necesidad de un proceso de rendición de cuentas en los informes redactados por humanos, tal como lo describe Ferguson. La organización también subraya la incertidumbre provocada por los sesgos y alucinaciones propias de la tecnología, además de cuestionar la transparencia de estos procesos al público y sus implicaciones sobre la privacidad de datos. Según la ACLU, depender más de la interpretación de herramientas de IA generativa que de la memoria humana y las observaciones subjetivas de un oficial puede perjudicar un proceso judicial justo.
La ACLU indica que si la IA va a convertirse en el nuevo aliado de la policía, su uso debería ser posterior a la grabación de la memoria humana. Propone que las herramientas de IA podrían transcribir narrativas verbales de los oficiales, las cuales deberían ser presentadas para revisión junto con los informes. Sin embargo, a pesar de estas recomendaciones de los grupos de derechos civiles, los líderes en tecnología de IA están invirtiendo de manera constante en aplicaciones policiales y militares.
El documento concluye recordando que los informes policiales son cruciales en el sistema de justicia, ya que son centrales para los procedimientos penales que determinan la inocencia o culpabilidad de las personas y, a menudo, son el único relato oficial de un incidente. La ACLU enfatiza que la tecnología de redacción de informes de IA elimina elementos humanos esenciales de los procedimientos policiales y advierte que es demasiado nueva, poco probada, poco fiable, opaca y sesgada para ser incorporada en el sistema de justicia penal.
