IA y guerra: A New Era for Arms Control & Deterrence, con Paul Scharre

24 de julio de 2024

En este episodio del podcast Inteligencia Artificial e Igualdad , la investigadora principal Anja Kaspersen habla con Paul Scharre, del Center for a New American Security, analista de guerra, estratega y autor de Four Battlegrounds y Army of None. Hablan de los aspectos cambiantes y persistentes de nuestra concepción de la guerra, de la adquisición de IA como cuestión estratégica y de la gobernanza de la IA y las funciones autónomas en los sistemas de armamento. Además, ofrecen advertencias sobre la aplicación de las nociones tradicionales de control de armamentos, incluidas las analogías de carrera armamentística y disuasión, al ámbito de estas tecnologías emergentes.

ANJA KASPERSEN: En un momento en que la inteligencia artificial (IA) sigue reconfigurando las narrativas y los paradigmas de la seguridad internacional, me complace dar la bienvenida al Dr. Paul Scharre. Paul Scharre es vicepresidente y director de estudios del Center for a New American Security. Es el galardonado autor del libro Cuatro campos de batalla: El poder en la era de la inteligencia artificial. Su primer libro Army of None: Las armas autónomas y el futuro de la guerra ha ganado varios premios y se considera fundamental para entender la guerra moderna.

Scharre trabajó anteriormente para el gobierno de Estados Unidos, dirigiendo e informando los procesos clave en torno a la integración de las nuevas tecnologías y la IA en las estrategias de defensa y los conceptos de combate. En la transcripción de este podcast se puede encontrar un enlace a su impresionante biografía y obra.

Bienvenido, Paul. Es un honor tener esta conversación contigo. Hace tiempo que era necesaria.

PAUL SCHARRE: Gracias por su amable presentación, y es un placer estar aquí hablando con usted.

ANJA KASPERSEN: Usted y yo nos conocimos hace muchos años, cuando ambos formábamos parte de lo que yo llamaría el "movimiento inicial", que advertía no sólo contra el bombo publicitario que rodea a la IA en un contexto de lucha bélica, sino también sobre su carácter de palanca de poder y sus inherentes características desestabilizadoras y de escalada.

Antes de explorar las complejidades de la guerra moderna que plantean estos sistemas, especialmente en la era digital, me gustaría hacerle una pregunta que hago a todos nuestros invitados en este podcast: ¿Qué le inspiró para entrar en este campo? Personalmente, su formación me parece casi tan interesante como sus libros: desde licenciarse en física hasta servir en un escuadrón de fusileros, pasando por escribir libros sobre IA en operaciones bélicas y, por supuesto, dirigir un instituto de política bastante importante en Estados Unidos. ¿Qué momentos cruciales o influencias clave le han traído hasta aquí?

PAUL SCHARRE: Es una gran pregunta. Supongo que hay un par de ellas. Había leído el libro de Ray KurzweilLa era de las máquinas espirituales: Cuando los ordenadores superen la inteligencia humana a finales de la década de 1990, cuando salió a la venta, y definitivamente me pareció una idea fascinante, esta idea de que las máquinas van a seguir haciéndose más y más poderosas. Muchas de sus ideas en el libro creo que son muy premonitorias, muy orientadas al futuro, en términos de una IA más potente con el tiempo. Hace 25 años hablaba de las redes neuronales y me parecía una locura.

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este podcast son las de los ponentes y no reflejan necesariamente la posición de Carnegie Council.

También le puede interesar

31 JULIO 2024 - Podcast

Responsible AI & the Ethical Trade-offs of Large Models, con Sara Hooker

En este episodio, Anja Kaspersen, Senior Fellow, habla con Sara Hooker, de Cohere for AI, sobre el diseño de modelos, el sesgo de los modelos y la representación de datos.

2 DE JULIO DE 2024 Podcast

Cibernética, vigilancia digital y el papel de los sindicatos en la gobernanza tecnológica, con Elisabet Haugsbø

Anja Kaspersen, investigadora sénior, habla con Elisabet Haugsbø, presidenta del sindicato tecnológico Tekna, sobre su trayectoria en ingeniería, la resiliencia en la era de la IA y mucho más.

27 DE JUNIO DE 2024 - Podcast

AI, Military Ethics, & Being Alchemists of Meaning, con Heather M. Roff

Anja Kaspersen, Senior Fellow, y Heather Roff, investigadora científica senior del Centro de Análisis Navales, debaten sobre sistemas de IA, asuntos militares y mucho más.