Conoce la base de datos sobre riesgos de inteligencia artificial desarrollada por el MIT.
Se ha creado una extensa base de datos en constante actualización que reúne más de 700 riesgos asociados a la inteligencia artificial, organizados según su origen y el área de riesgo correspondiente.
El Instituto Tecnológico de Massachusetts (MIT) ha lanzado un recurso importante para diferentes sectores, incluyendo el laboral, gubernamental, educativo y la investigación, que aborda los riesgos asociados con la inteligencia artificial (IA). Este recurso, denominado Repositorio de Riesgos de IA, es una base de datos exhaustiva que compila cientos de riesgos que representan los sistemas de IA.
El propósito principal del repositorio es ofrecer asistencia a quienes toman decisiones en el gobierno, la investigación y la industria en la evaluación de los riesgos dinámicos que puede acarrear el uso de la IA. Según los representantes del MIT, se trata de una base de datos en constante actualización que incluye más de 700 riesgos de IA organizados por sus causas y áreas de riesgo.
El Repositorio de Riesgos de IA se distingue por su estructura en tres componentes clave. Primero, la base de datos integra riesgos extraídos de 43 enfoques existentes, con referencias y precisiones. Segundo, la taxonomía de riesgos clasifica la manera en que surgen y se desarrollan estos riesgos. Por último, la Taxonomía de Dominios de Riesgos de IA categoriza los riesgos en siete áreas, tales como "Desinformación", y 23 subcategorías, como "Información falsa o engañosa".
Este repositorio ofrece diversas ventajas, como una perspectiva accesible sobre el panorama de riesgos de la IA, acceso a información actualizada acerca de nuevos riesgos e investigaciones, y un marco común para investigadores, desarrolladores y reguladores. También se presenta como un recurso valioso para el desarrollo de investigaciones, currículos, auditorías y políticas, facilitando la localización de riesgos y estudios pertinentes.
El líder del proyecto, Peter Slattery, comentó que el inicio de este esfuerzo se centró en comprender las respuestas de las organizaciones frente a los riesgos de la IA. Al analizar la literatura existente, se percataron de que las categorías de riesgos eran fragmentarias y requerían una integración más completa.
El repositorio implementa un sistema de clasificación que abarca dos ejes. Primero, se ordenan los riesgos según sus causas, considerando la entidad responsable, la intención y el momento en que se manifiestan. Este marco ayuda a identificar las circunstancias que originan estos retos. En segundo lugar, los riesgos se agrupan en siete dominios específicos, que incluyen discriminación, privacidad y desinformación, entre otros.
Diseñado como una base de datos dinámica, el repositorio es accesible al público y las organizaciones pueden utilizarla a su conveniencia. El equipo de investigación planea realizar actualizaciones periódicas, incorporando nuevos riesgos y novedades en el campo.
- Inteligencia Artificial
- Riesgos Tecnológicos
- Investigación y Desarrollo