Definición e introducción
La gobernanza de la IA es el conjunto de normas, reglamentos, marcos éticos y técnicos y mecanismos similares que guían el desarrollo y despliegue de las tecnologías de inteligencia artificial. Existen dudas acuciantes sobre si los actuales sistemas de gobernanza de la IA son lo suficientemente prevalentes, reflexivos, suficientes o inclusivos como para ser eficaces.
Los Senior Fellows Wendell Wallach y Anja Kaspersen, codirectores de la Iniciativa Inteligencia Artificial e Igualdad (AIEI) de Carnegie Council, sostienen que es posible promover los beneficios de la IA al tiempo que se abordan las posibles perturbaciones para proteger la seguridad pública, pero no sin un marco sólido para la gobernanza internacional de la tecnología. A partir de los debates multidisciplinares que tuvieron lugar en dos talleres de junio de 2023 organizados por la AIEI y el IEEE SA, se elaboró un marco formal.
Uno de los componentes del marco propuesto sugiere la creación de un Observatorio Global de la IA (GAIO) que proporcione la investigación y el análisis de la IA necesarios para fundamentar la toma de decisiones. De forma similar a la función que desempeña el Grupo Intergubernamental de Expertos sobre el Cambio Climático (IPCC) en el ámbito del clima, el GAIO "proporcionaría una base fiable de datos, modelos e interpretación para orientar la política y la toma de decisiones en general sobre la IA".
Para más análisis relacionados con la gobernanza de la IA, consulte los siguientes artículos, podcasts y recursos externos creados y seleccionados por la red de expertos de Carnegie Council.
Explorar el marco de gobernanza de la IA propuesto
5 DE JULIO DE 2023 - Artículo
Un marco para la gobernanza internacional de la IA
JUL 6, 2023 - Artículo
Argumentos a favor de un Observatorio Mundial de la Inteligencia Artificial (GAIO), 2023
Argumentar a favor de un "Observatorio Mundial de la IA" (GAIO) señalando seis áreas principales de actividad para una regulación más seria de la IA.
JUL 7, 2023 - Artículo
Lograr un marco internacional para la gobernanza de la IA
Los Senior Fellows Wendell Wallach y Anja Kaspersen abogan por un marco sólido para la gobernanza internacional de la IA.
Los derechos humanos deben estar en el centro de la gobernanza de la IA y la tecnología
Como continuación al argumento de Wallach y Kaspersen a favor de un reajuste sistémico de la gobernanza de la IA, Kate Jones analiza por qué los derechos humanos deben ocupar un lugar central en la gobernanza de la IA de cara al futuro.
Suscríbase al boletín Carnegie Ethics para saber más sobre la gobernanza de la IA.
Formas de influir en la política y la gobernanza de la IA
Merve Hickok y Marc Rotenberg, investigadora principal y presidente del Center for AI and Digital Policy (CAIDP) respectivamente, se unen a Wallach en el podcast AI & Equality para hablar de las principales iniciativas políticas en materia de IA y del Índice anual de Inteligencia Artificial y Democracia del CAIDP.
Más del podcast AI & Equality
7 DE FEBRERO DE 2023 - Podcast
La gobernanza tecnológica y el papel del multilateralismo, con Amandeep Singh Gill
JUL 7, 2021 - Podcast
Enfoques de Derecho indicativo para la gobernanza de la IA
En este podcast de Inteligencia Artificial e Igualdad, la investigadora principal Anja Kaspersen habla con Gary Marchant y Carlos Ignacio Gutiérrez, de la Universidad Estatal de Arizona, sobre su trabajo de caracterización de los programas de Derecho indicativo para la gobernanza de la IA. ¿Qué papel desempeñan estos programas en la gestión de las aplicaciones de la IA?
JUN 22, 2022 - Podcast
¿Está la IA cambiando la geopolítica? con Angela Kane
En este episodio del podcast "Artificial Intelligence & Equality Initiative", Wendell Wallach, becario de Carnegie-Uehiro, y Angela Kane, presidenta del Consejo de Gobierno de la Universidad de las Naciones Unidas, debaten sobre cómo la inteligencia artificial puede cambiar la geopolítica.
¿Cree que las actuales tecnologías de IA tienen capacidad para manipular el comportamiento humano?
Recursos externos
Lecciones de los dos experimentos mundiales de gobernanza de la IA
"La inteligencia artificial (IA) es omnipresente y conceptualmente escurridiza, lo que la hace notoriamente difícil de regular. Afortunadamente para el resto del mundo, dos grandes experimentos en el diseño de la gobernanza de la IA se están desarrollando actualmente en Europa y China."
LeerAlianza para la Gobernanza de la IA
"Una iniciativa pionera de múltiples partes interesadas que une a líderes de la industria, gobiernos, instituciones académicas y organizaciones de la sociedad civil, para defender el diseño global responsable y la liberación de sistemas de IA transparentes e inclusivos."
Más informaciónGobernar la IA: un plan para el futuro
"No preguntes qué pueden hacer los ordenadores, pregunta qué deberían hacer".
Este informe propone un plan jurídico y normativo para el futuro y esboza el enfoque de Microsoft para crear una IA responsable.
Perspectivas sobre cuestiones de gobernanza de la IA
"Hace tiempo que hemos superado una época en la que los avances en la investigación de la IA se limitaban al laboratorio. Ahora la IA se ha convertido en una tecnología de aplicación en el mundo real y forma parte del tejido de la vida moderna."
Leer