La ética de los agentes de IA en la gobernanza global

La adopción de agentes de IA se está expandiendo rápidamente, especialmente en los ámbitos multilaterales y diplomáticos. Esta integración plantea una gran cantidad de nuevas cuestiones y retos éticos tanto para los profesionales actuales como para los líderes de la próxima generación.

En este Evento «Ethics Empowered: Leadership in Practice» , Eleonore Fournier-Tombs, directora de IA del estado de Nueva York, dirige un debate sobre esta cuestión tan apremiante.

Recursos

«Una zona gris ética: los agentes de IA en las deliberaciones políticas», Eleonore Fournier-Tombs, Carnegie Council, 13 de noviembre de 2024

«Escenarios prospectivos sobre el uso de la inteligencia artificial en la diplomacia», Carnegie Ethics Accelerator, Carnegie Council, 15 de mayo de 2024

«La geopolítica en la era de la IA general», Values & Interests, Carnegie Council, 25 de noviembre de 2025

«Las ventajas y desventajas de la IA en la diplomacia», Carnegie Council, 12 de febrero de 2024

Preguntas para el debate

1. ¿Cuáles deberían ser los primeros pasos para crear un marco creíble e inclusivo de cooperación en materia de inteligencia artificial entre los gobiernos, la sociedad civil y el sector privado?
2. ¿Cómo deberían los líderes de la próxima generación hacer un uso ético de las herramientas de inteligencia artificial que pueden fomentar la transparencia?
3. ¿Quién debería decidir los principios éticos que rigen la IA en los procesos deliberativos: las instituciones que la utilizan, las comunidades que participan en ellos o una entidad totalmente distinta?
4. Como señalaron los ponentes, la gobernanza de la IA debe centrarse en la capacidad de acción humana. ¿Qué ejemplos podemos tomar —en el control de armamento, la gobernanza de Internet o la diplomacia climática— para garantizar que eso siga siendo la prioridad?
5. ¿De qué manera se puede garantizar que las personas que utilizan agentes de IA en los debates internacionales cuenten con los conocimientos digitales necesarios para comprender las ventajas y los inconvenientes del uso de estas tecnologías?
6. ¿Cómo deberían las instituciones equilibrar los principios de privacidad y seguridad y dar prioridad a los derechos de las personas a la hora de decidir si utilizan o no herramientas de inteligencia artificial?

Carnegie Council for Ethics in International Affairs es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este panel son las de los ponentes y no reflejan necesariamente la posición de Carnegie Council.

Imágenes de archivo proporcionadas por four_track.