IA beneficiosa: más allá de los riesgos, con Raja Chatila

15 de mayo de 2024 - Escucha de 70 minutos

En este episodio del podcast Inteligencia Artificial e Igualdad, la investigadora principal Anja Kaspersen habla con Raja Chatila, profesor emérito de la Universidad de la Sorbona, sobre la integración de la robótica, la IA y la ética. Chatila se adentra en su trayectoria en el campo de la IA, desde sus primeras influencias a finales de los años setenta hasta su trabajo actual sobre la ética global de la IA, debatiendo la evolución de las tecnologías de IA, las consideraciones éticas en el despliegue de estos sistemas y la importancia de diseñarlos con habilidad y atención.

Chatila aboga por sistemas de inteligencia artificial diseñados para beneficiar a la humanidad, centrándose en la seguridad frente a los marcos centrados en el riesgo y estableciendo paralelismos con otros sectores, como la aviación. ¿Cuáles son las responsabilidades de los desarrolladores y los responsables políticos para garantizar que estas tecnologías se desarrollen, prueben y certifiquen con cuidado y teniendo en cuenta sus efectos en la sociedad?

ANJA KASPERSEN: Hoy nos acompaña Raja Chatila, profesor emérito de la Universidad de la Sorbona y líder en la combinación de robótica, inteligencia artificial (IA) y ética. Como ex director del Laboratorio de Análisis y Arquitectura de Sistemas del Centro Nacional de Investigación Científica de Francia y ex presidente de la Sociedad de Robótica y Automatización del Instituto de Ingenieros Eléctricos y Electrónicos (IEEE), Raja ha sido una figura clave en la configuración del discurso de la IA. Su papel como presidente de la Iniciativa Global sobre Ética de los Sistemas Autónomos e Inteligentes del IEEE y su participación en la Asociación Global sobre IA ponen de relieve su impacto fundamental en los debates mundiales sobre IA y ética.

Bienvenido al podcast, Raja. Nos sentimos muy honrados de tenerte con nosotros.

RAJA CHATILA: Gracias por recibirme. El honor es mío.

ANJA KASPERSEN: Raja, nuestra colaboración a lo largo de muchos años, especialmente las iniciativas en el marco del IEEE, ha sido decisiva para avanzar en los debates sobre las implicaciones éticas de la IA, desafiando, diría yo, las normas y luchando por tecnologías seguras y beneficiosas para la humanidad, y su dedicación a esta causa, unida a sus notables logros, ha marcado verdaderamente una pauta en este campo.

Reflexionando sobre su propia trayectoria, Raja, estoy intrigado: ¿Qué le atrajo inicialmente del campo de la robótica y la inteligencia artificial? ¿En qué y quién te inspiraste?

RAJA CHATILA: Es una pregunta que me remonta a mucho tiempo atrás. Cuando aún era estudiante de ingeniería en la ciudad de Toulouse conocí a alguien que se llamaba Georges Giralt. Era investigador en robótica, pero en aquella época -me refiero a finales de los años setenta- la robótica no era un campo tan amplio y la IA tampoco. Era un campo de investigación importante, pero nadie hablaba todos los días de robótica ni de IA.

Como sabe, la IA como campo de investigación comenzó a finales de los años 50, así que esto es 20 años después de que empezara, y la robótica propiamente dicha empezó más o menos al mismo tiempo, pero más con la idea de fabricar robots que hicieran movimientos sistemáticos, movimientos precisos y movimientos rápidos, por ejemplo, recoger, soldar o pintar.

El campo de la robótica inteligente, que es la convergencia de la IA y la robótica, no estaba tan avanzado. Había muy pocos proyectos, y uno de los principales del mundo era el del robot Shakey en lo que entonces se llamaba Stanford Research Institute.

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este podcast son las de los ponentes y no reflejan necesariamente la posición de Carnegie Council.

También le puede interesar

31 JULIO 2024 - Podcast

Responsible AI & the Ethical Trade-offs of Large Models, con Sara Hooker

En este episodio, Anja Kaspersen, Senior Fellow, habla con Sara Hooker, de Cohere for AI, sobre el diseño de modelos, el sesgo de los modelos y la representación de datos.

24 DE JULIO DE 2024 - Podcast

IA y guerra: A New Era for Arms Control & Deterrence, con Paul Scharre

La Senior Fellow Anja Kaspersen habla con Paul Scharre, del Center for a New American Security, sobre las cuestiones emergentes en la intersección entre tecnología y guerra.

2 DE JULIO DE 2024 Podcast

Cibernética, vigilancia digital y el papel de los sindicatos en la gobernanza tecnológica, con Elisabet Haugsbø

Anja Kaspersen, investigadora sénior, habla con Elisabet Haugsbø, presidenta del sindicato tecnológico Tekna, sobre su trayectoria en ingeniería, la resiliencia en la era de la IA y mucho más.