Un marco para la gobernanza internacional de la IA

1. 1. Una organización técnica neutral que clasifique los marcos jurídicos, las mejores prácticas y las normas que han alcanzado el máximo nivel de aceptación mundial. Serán necesarias reevaluaciones continuas a medida que evolucionen las tecnologías y los paradigmas normativos.

2. Un Observatorio Mundial de la IA (GAIO) encargado de elaborar informes normalizados, tanto a nivel general como de ámbitos específicos, sobre las características, funciones y prestaciones de la IA y los sistemas relacionados que se lancen y desplieguen. Estos esfuerzos permitirán evaluar la conformidad de los sistemas de IA con las normas existentes que se hayan acordado. Los informes deben actualizarse lo más cerca posible al tiempo real para facilitar la coordinación de respuestas tempranas antes de que se haya producido un daño significativo. Los observatorios que ya existen, como el de la OCDE, no representan a todos los países y partes interesadas, ni proporcionan supervisión, ni permiten una profundidad de análisis suficiente, ni cumplen todas las tareas que se proponen a continuación.

• La GAIO orquestaría el debate y la cooperación mundiales convocando a expertos y a otras partes interesadas pertinentes e integradoras, según fuera necesario.
• GAIO publicaría un informe anual sobre el estado de la IA en el que se analizarían las cuestiones clave, los patrones, los esfuerzos de normalización y las inversiones que han surgido durante el año anterior, así como las opciones que los gobiernos, los líderes electos y las organizaciones internacionales deben tener en cuenta. Se trataría de una prospectiva estratégica y de escenarios centrados principalmente en las tecnologías que probablemente entren en funcionamiento en los dos o tres años siguientes. Estos informes fomentarán un acuerdo lo más amplio posible sobre los fines y las normas aplicables a las plataformas y sistemas específicos de IA.
• GAIO desarrollaría y actualizaría continuamente cuatro registros. Juntos, un registro de incidentes adversos y un registro de aplicaciones nuevas, emergentes y (cuando sea posible) anticipadas ayudarán a los reguladores gubernamentales e internacionales a atender los posibles daños antes del despliegue de nuevos sistemas.
• El tercer registro hará un seguimiento de la historia de los sistemas de IA, incluyendo información sobre pruebas, verificación, actualizaciones y la experiencia de los Estados que los han desplegado. Esto ayudará a los numerosos países que carecen de recursos para evaluar dichos sistemas. Un cuarto registro mantendrá un repositorio mundial de datos, código y procedencia de modelos.

3. Una capacidad de gobernanza normativa con poderes coercitivos limitados para promover el cumplimiento de las normas mundiales para el uso ético y responsable de la IA y las tecnologías relacionadas. Esto podría implicar la creación de un sistema de "pasaporte tecnológico" para facilitar las evaluaciones entre jurisdicciones y panoramas normativos. El apoyo de los actores internacionales existentes, como la ONU, proporcionaría legitimidad y un mandato para esta capacidad. Podría desarrollarse dentro del ecosistema de las Naciones Unidas mediante la colaboración entre la UIT, la UNESCO y la OACDH, con el apoyo de organizaciones técnicas mundiales como el IEEE.

4. Un conjunto de herramientas de evaluación de la conformidad y certificación de procesos para promover un comportamiento responsable y contribuir a las medidas de creación de confianza y a los esfuerzos de transparencia. Dichas evaluaciones no deben ser realizadas por las empresas que desarrollan sistemas de IA o las herramientas utilizadas para evaluar dichos sistemas.

5. El desarrollo continuo de herramientas tecnológicas ("regulación en una caja"), ya sea integradas en software o hardware o en ambos, es necesario para la transparencia, la responsabilidad, la validación y los protocolos de seguridad de auditoría, y para abordar cuestiones relacionadas con la preservación de los derechos humanos, sociales y políticos en todos los bienes digitales, cada uno de los cuales es un elemento crítico de las medidas de fomento de la confianza. Desarrolladas con otros actores del espacio digital, estas herramientas deben ser auditadas continuamente para detectar actividades erróneas y adaptadas por la comunidad científica y técnica. Deben ser accesibles a todas las partes sin coste alguno. La ayuda de la comunidad empresarial para proporcionar y desarrollar herramientas e información sobre la viabilidad técnica es esencial, al igual que sus sugerencias sobre las normas. Sin embargo, es inaceptable que los que más tienen que ganar financieramente se apoderen de la regulación. Las empresas no deben desempeñar ningún papel en el establecimiento de las normas, en su aplicación o en quién debe disponer de las herramientas.

Somos plenamente conscientes de que este esqueleto de marco plantea innumerables preguntas sobre cómo se aplican y gestionan estos mecanismos de gobernanza, cómo se puede establecer y mantener su neutralidad y fiabilidad, o cómo se decidirán los desacuerdos políticos y técnicos y se remediarán las posibles consecuencias perjudiciales. Sin embargo, se ofrece para estimular una reflexión más profunda sobre lo que hemos aprendido de la promoción y el gobierno de las tecnologías existentes, lo que se necesita y los próximos pasos a dar.

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las de sus autores y no reflejan necesariamente la posición de Carnegie Council.