Cartografía de la IA y la igualdad, Parte 5: Las crisis de (des)legitimación y distribución de la IA

17 de febrero de 2022

Al trazar el mapa de la IA y la igualdad, resulta útil desarrollar categorías generales que pongan de relieve distintas trayectorias que muestren cómo la IA afecta a las personas y a sus relaciones mutuas y con nuestro entorno común. El objetivo de esta serie de entradas de blog es dar pie a nuevas reflexiones.

La humanidad ha entrado en un punto de inflexión en su historia. La convergencia de crisis causadas por el cambio climático, las pandemias, la desigualdad estructural y las tecnologías desestabilizadoras contribuyen a lo que el filósofo Jurgen Habermas denominó una "crisis de legitimación", en la que los ciudadanos están perdiendo la fe en sus gobiernos para resolver sus problemas (Habermas, Jürgen, 1975. Legitimation Crisis. Boston: Beacon Press).La inestabilidad del orden internacional es palpable y está siendo aprovechada por líderes cínicos o aspirantes a autoritarios.   

En 1930, el economista británico John Maynard Keyes acuñó el término "desempleo tecnológico" para captar el antiguo temor ludita de que cada nueva tecnología robara más puestos de trabajo de los que creaba. En los últimos 200 años, casi todos los avances tecnológicos, desde la Revolución Industrial hasta los avances en agricultura, fabricación, química y sanidad, han creado muchos más puestos de trabajo de los que han destruido. Sin embargo, estos puestos de trabajo rara vez se distribuyen de forma que se beneficien directamente aquellos cuyas ocupaciones tienen más probabilidades de verse diezmadas. La economía digital crea muchos nuevos empleos de gama alta que requieren cualificaciones avanzadas, pero aún no se ha correspondido con inversiones en educación cívica para crear y ampliar adecuadamente la reserva de talentos necesaria. Así pues, las zonas más desfavorecidas del mundo no experimentan mejoras significativas. 

Se ha producido una crisis de distribución en la que las ganancias de productividad van a parar cada vez más a los dueños del capital, aquellos de nosotros capaces de invertir en instrumentos financieros. Por ejemplo, quienes invirtieron en el sector tecnológico durante la pandemia vieron crecer espectacularmente el valor de sus carteras, mientras cientos de millones perdían su empleo. Las principales empresas proveedoras de servicios digitales , que facilitaron una nueva forma de trabajar virtualmente, se expandieron rápidamente. Según Satya Nadella, CEO de Microsoft, los objetivos que su empresa predijo que se alcanzarían en dos años se hicieron realidad en dos meses de la primavera de 2020.

Los gobiernos han caído cada vez más bajo un culto a la innovación en el que la innovación en sí misma se percibe como buena y no debe ser alterada mediante restricciones normativas. Cuando los legisladores o las agencias gubernamentales buscan formas de frenar a las empresas tecnológicas o las plataformas de medios sociales, por ejemplo, a menudo se les dice que no entienden la tecnología y que si imponen restricciones, socavarán la innovación y las ganancias de productividad esenciales. En algunos casos, a los gobiernos también les preocupa que las normativas se interpongan en el camino de objetivos estratégicos arraigados en preocupaciones de seguridad nacional. Si los proveedores de tecnologías disruptivas sólo recogen los frutos y no se responsabilizan de los costes sociales, las desigualdades estructurales se agravarán.No es una situación saludable. 

Siempre ha existido un problema de ritmo, un desfase entre la implantación de una nueva tecnología y la velocidad a la que se pone en marcha la supervisión ética/legal.Como señaló David Collingridge en 1980(The Social Control ofTechnology , Nueva York: St. Martin's Press; Londres: Martin's Press; Londres: Pinter), el desarrollo de una tecnología puede configurarse más fácilmente desde el principio. Desgraciadamente, al principio de su desarrollo rara vez prevemos plenamente el impacto social de una tecnología.Para cuando reconocemos las consecuencias sociales no deseadas de la adopción de una tecnología, es probable que esté tan arraigada en el entorno político y económico que resulte difícil modificarla."Cuando el cambio es fácil, no se puede prever su necesidad; cuando la necesidad de cambio es evidente, el cambio se ha vuelto caro, difícil y lento".(Ibid) La velocidad a la que se despliegan las tecnologías es rápida y nuestra capacidad para domarla, escasa. 

En otras palabras, la economía digital está exacerbando la desigualdad, y los gobiernos no han logrado controlar sus excesos ni abordar eficazmente los perjuicios causados a quienes han perdido su empleo, necesitan formación o son objeto de sesgos algorítmicos. Como dice Christina Colclough: "Podríamos exigir a las empresas que, cuando inviertan en tecnologías disruptivas, se vean también obligadas a invertir en su gente, en su reciclaje y mejora profesional, y en sus trayectorias profesionales". Ha empeorado las oportunidades, y probablemente seguirá planteando retos, para quienes aún no se han integrado de forma significativa (o segura) en la economía digital.


Anja Kaspersen es Senior Fellow en Carnegie Council of Ethics in International Affairs. Fue Directora de la Oficina de Asuntos de Desarme de las Naciones Unidas en Ginebra y Vicesecretaria General de la Conferencia de Desarme. Anteriormente, ocupó el cargo de responsable de compromiso estratégico y nuevas tecnologías en el Comité Internacional de la Cruz Roja (CICR).

Wendell Wallach es consultor, especialista en ética y académico del Centro Interdisciplinario de Bioética de la Universidad de Yale. También es académico del Lincoln Center for Applied Ethics, miembro del Institute for Ethics & Emerging Technology y asesor principal del Hastings Center.

También le puede interesar

21 DE FEBRERO DE 2024 - Podcast

Prepararse, no entrar en pánico: Navegar por el panorama de los derechos digitales, con Sam Gregory

La Senior Fellow Anja Kaspersen habla con Sam Gregory, director ejecutivo de WITNESS, sobre los retos y oportunidades que presentan los datos sintéticos, los medios generados por IA y los deepfakes.

23 ENE 2024 - Podcast

Cuando la ciencia se encuentra con el poder, con Geoff Mulgan

En este episodio especial, la Senior Fellow Anja Kaspersen habla con el profesor Geoff Mulgan, del University College de Londres, sobre las tendencias que determinan el impacto de la tecnología en la sociedad.

28 DE NOVIEMBRE DE 2023 Podcast

IA y consumidores, con Helena Leurent

En esta conversación de gran alcance, Helena Laurent, de Consumer International, y Wendell Wallach, investigador sénior, describen los desafíos que la IA plantea a los consumidores.