Autor
Wendell Wallach
Carnegie-Uehiro Fellow, Iniciativa sobre Inteligencia Artificial e Igualdad (AIEI); Centro Interdisciplinario de Bioética de Yale
Anja Kaspersen
Carnegie Council Senior Fellow, Iniciativa de Inteligencia Artificial e Igualdad (AIEI); IEEE
El rápido despliegue de la inteligencia artificial generativa (IA) ha creado un punto de inflexión para el uso responsable de la tecnología y ha planteado a la sociedad una cuestión crítica: ¿Cómo podemos promover los beneficios de las tecnologías innovadoras y, al mismo tiempo, hacer frente a las posibles perturbaciones y garantizar la seguridad pública? Creemos que este equilibrio es posible , pero no sin un marco sólido para la gobernanza internacional de la IA. La comunidad internacional debe actuar ahora para establecer mecanismos de gobernanza potentes que proporcionen una supervisión ética y jurídica eficaz de la IA.
A partir de las ideas y conceptos debatidos en dos talleres multidisciplinares de expertos organizados en junio de 2023 por Carnegie Council's AI & Equality Initiative (AIEI) e IEEE SA y acogidos por la UNESCO en París y la UIT en Ginebra, se elaboró un marco formal para la gobernanza internacional de la IA. El marco propone cinco componentes simbióticos, tres de los cuales mencionamos aquí. En primer lugar, la necesidad de crear de inmediato un Observatorio Mundial de la IA (GAIO) para facilitar la comunicación, la cooperación y un cierto grado de coordinación entre las numerosas iniciativas que se incorporan al espacio de gobernanza de la IA. Un GAIO debería realizar una serie de tareas, desde la elaboración de informes anuales hasta el mantenimiento de registros críticos. En segundo lugar, está el desarrollo de una capacidad de gobernanza normativa con una autoridad de aplicación limitada que legitime la supervisión global de la IA, entendiendo que esto puede llevar más tiempo de desarrollo. Por último, habrá que desarrollar una serie de herramientas (algunas técnicas) para garantizar la seguridad y la transparencia de las aplicaciones de IA y facilitar la capacidad de los Estados y las partes interesadas para gobernarlas.
Nuestro objetivo es que estas recomendaciones tengan un efecto inmediato. Por lo tanto, hemos centrado nuestra atención en las formas prácticas de aplicar un marco de gobernanza que se base en los recursos existentes para promover la comprensión, la colaboración y la aplicación. Dicho marco permitiría el uso constructivo de la IA y las tecnologías relacionadas, al tiempo que ayudaría a prevenir usos inmaduros o usos indebidos que causen trastornos sociales o amenacen la seguridad pública y la estabilidad internacional.
Un marco para la gobernanza internacional de la IA
Leer el marcoDe cara al futuro
Somos plenamente conscientes de que este esqueleto de marco plantea innumerables preguntas sobre cómo se aplican y gestionan estos mecanismos de gobernanza, cómo se puede establecer y mantener su neutralidad y fiabilidad, o cómo se decidirán los desacuerdos políticos y técnicos y se remediarán las posibles consecuencias perjudiciales. Sin embargo, se ofrece para estimular una reflexión más profunda sobre lo que hemos aprendido de la promoción y el gobierno de las tecnologías existentes, lo que se necesita y los próximos pasos a dar.
También creemos que este marco tiene importantes aplicaciones potenciales más allá del espacio de la IA. Si son eficaces, muchos de los componentes propuestos podrían servir de modelo para la gobernanza de campos aún no previstos del descubrimiento científico y la innovación tecnológica. Si bien la IA generativa hace urgente el establecimiento de una gobernanza internacional, muchos otros campos de descubrimiento científico e innovación tecnológica existentes, emergentes y previstos requerirán supervisión. Estos campos amplifican el desarrollo de los demás y convergen de formas difíciles de predecir.
Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las de sus autores y no reflejan necesariamente la posición de Carnegie Council.
