Los nuevos desarrollos en Inteligencia Artificial están transformando el mundo, de la ciencia y la industria a la administración gubernamental y las finanzas. El aumento de la toma de decisiones de AI también implica derechos fundamentales de imparcialidad, responsabilidad y transparencia. El análisis moderno de datos produce resultados significativos que tienen consecuencias en la vida real para las personas con empleo, vivienda, crédito, comercio y sentencias penales. Muchas de estas técnicas son totalmente opacas, lo que deja a las personas sin saber si las decisiones fueron precisas, justas o incluso acerca de ellas.
Proponemos estas Directrices Universales para informar y mejorar el diseño y uso de la IA. Las Directrices tienen como objetivo maximizar los beneficios de la IA, minimizar el riesgo y garantizar la protección de los derechos humanos. Estas Directrices deben incorporarse en los estándares éticos, adoptarse en la legislación nacional y en los acuerdos internacionales, e incorporarse en el diseño de sistemas. Declaramos claramente que la responsabilidad principal de los sistemas de AI debe residir en aquellas instituciones que financian, desarrollan y despliegan estos sistemas.
Derecho a la transparencia. Todas las personas tienen derecho a conocer la base de una decisión de AI que les concierne. Esto incluye el acceso a los factores, la lógica y las técnicas que produjeron el resultado.
Derecho a la determinación humana. Todas las personas tienen derecho a una determinación final hecha por una persona.
Obligación de identificación. La institución responsable de un sistema de AI debe darse a conocer al público.
Obligación de imparcialidad. Las instituciones deben garantizar que los sistemas de AI no reflejen un sesgo injusto ni tomen decisiones discriminatorias inadmisibles.
Evaluación y obligación de rendición de cuentas. Un sistema de inteligencia artificial debe implementarse solo después de una evaluación adecuada de su propósito y objetivos, sus beneficios y sus riesgos. Las instituciones deben ser responsables de las decisiones tomadas por un sistema de AI.
Exactitud, confiabilidad y obligaciones de validez. Las instituciones deben garantizar la exactitud, confiabilidad y validez de las decisiones.
Obligación de calidad de los datos. Las instituciones deben establecer la procedencia de los datos y garantizar la calidad y relevancia para la entrada de datos en los algoritmos.
Obligación de seguridad pública. Las instituciones deben evaluar los riesgos de seguridad pública que surgen del despliegue de sistemas de AI que dirigen o controlan dispositivos físicos, e implementan controles de seguridad.
Obligación de Ciberseguridad. Las instituciones deben proteger los sistemas de inteligencia artificial contra las amenazas de ciberseguridad.
Prohibición de perfiles secretos. Ninguna institución establecerá o mantendrá un sistema secreto de perfiles.
Prohibición de puntuación unitaria. Ningún gobierno nacional establecerá o mantendrá una puntuación de propósito general en sus ciudadanos o residentes.
Obligación de terminación. Una institución que ha establecido un sistema de AI tiene una obligación afirmativa de terminar el sistema si ya no es posible el control humano del sistema.
