Mapeo de la IA y la igualdad, Parte 2: Definición de la IA y la igualdad

27 de enero de 2022

Al trazar el mapa de la IA y la igualdad, resulta útil desarrollar categorías generales que pongan de relieve distintas trayectorias que muestren cómo la IA afecta a las personas y a sus relaciones mutuas y con nuestro entorno común. El objetivo de esta serie de entradas de blog es dar pie a nuevas reflexiones.

La inteligencia artificial es un término controvertido.En general, se refiere a la simulación de capacidades cognitivas humanas (formas discretas de inteligencia) por parte de máquinas. Sin embargo, ha habido desacuerdos sobre qué capacidades son realmente expresiones de inteligencia.   

El proceso o conjunto de reglas que utiliza un ordenador para realizar una tarea se denomina algoritmo.

Muchos procesos (algoritmos) implican pasos mecánicos o puramente matemáticos, mientras que otros procesos requieren facultades mentales de orden superior, como la capacidad de aprender o planificar. Pero a lo largo de la breve historia de la informática, algunas tareas esencialmente mecánicas realizadas por ordenadores se han etiquetado como inteligencia artificial.Por ejemplo, la tarea de buscar una palabra o frase en una gran base de datos o en Internet a veces se denomina IA, aunque generalmente se reconoce que se trata de una actividad en gran medida mecánica que no requiere ninguna inteligencia especial por parte del ordenador.En este sentido, las aplicaciones de IA existen desde hace décadas.  

Sin embargo, muchos puristas de la IA, como Stuart Russell, coautor del principal libro de texto sobre el tema, desean reservar el término IA para las capacidades cognitivas de orden superior (Russell, Stuart, 2019, Human Compatible, Generic), como el aprendizaje, la planificación, la resolución de problemas y la comprensión precisa del habla humana. La capacidad de tomar decisiones de forma autónoma (con poca o ninguna participación humana directa) también se ha considerado una característica esencial en algunas definiciones de IA.Por ejemplo, El Grupo de Alto Nivel sobre IA establecido por la Comisión Europea en junio de 2018 hizo de la toma de decisiones autónoma un elemento de su definición de un sistema de IA, que define como una máquina "diseñada por humanos que, dado un objetivo complejo, actúa en la dimensión física o digital... la mejor acción o acciones a tomar para lograr el objetivo dado" (Grupo Independiente de Expertos de Alto Nivel sobre Inteligencia Artificial, 2019).   

La historia de la investigación en IA se ha caracterizado por periodos de gran entusiasmo, o veranos de IA, cada uno de ellos generado por un nuevo y emocionante enfoque, seguido de un invierno de IA en el que el enfoque no logra los avances previstos. Sin embargo, la llegada de los algoritmos de aprendizaje profundo, combinada con el hardware avanzado que tiene potencia suficiente para ejecutarlos, está produciendo avances significativos y continuos que han colocado el campo de la investigación de la IA sobre una base sólida. La evolución de la inteligencia artificial no ha sido lineal y su impacto transformador en la condición humana sigue manifestándose a través de un espectro de diferencias culturales que no pueden captarse claramente en modelos simples o estadísticos.  

Los sistemas de aprendizaje profundo analizan grandes bases de datos de información a través de múltiples capas de procesamiento.Los algoritmos de aprendizaje profundo han dado lugar a nuevos enfoques para abordar problemas antes insolubles, así como a aumentos de eficiencia y productividad, al clasificar bibliotecas de datos buscando y extrapolando relaciones destacadas que de otro modo sería imposible encontrar. Esto es una bendición para la minería de grandes cantidades de datos de investigación, como los relativos a cualquier afección médica compleja, con el fin de revelar correlaciones dignas de investigación experimental.   

El aprendizaje profundo es un subconjunto del aprendizaje automático.Como ya se ha dicho, los ordenadores distan mucho de tener la capacidad general de aprendizaje incluso de los niños pequeños. No obstante, las técnicas de aprendizaje informatizadas, en combinación con otros procesos informáticos, han superado a los expertos humanos en diversas tareas. Por ejemplo, los investigadores se enfrentaron a la difícil tarea de resolver la estructura tridimensional de proteínas complejas, lo que se conoce como el problema del plegamiento de proteínas.En noviembre de 2020, DeepMind (una división de Aphabet/Google) anuncióAlphaFold, una aplicación de IA que describía con éxito la estructura de muchas proteínas.Los modelos de la estructura de más de 365.000 proteínas acompañaron la apertura de unabase de datos de estructuras proteicasAlphaFold, presentada en julio de 2020(Nature 22 de julio de 2020). 

Existe un intenso debate sobre qué procesos merecen realmente el calificativo de inteligencia y cuáles parecen humanos pero son de naturaleza mecánica. A su vez, este debate sirve de base a otro más amplio sobre qué capacidades pueden informatizarse y cuáles pueden (o deben) seguir siendo exclusivamente humanas. Este último debate queda en gran medida fuera de los objetivos de este artículo, salvo en la medida en que a veces se enmarca en formas que devalúan las capacidades humanas y degradan la dignidad humana en comparación con los sistemas informáticos actuales o futuros. En otras palabras, las personas ya son o serán consideradas desiguales a las máquinas en ciertos aspectos.   

Los distintos elementos de la IA en un sistema informatizado pueden comprender sólo una o dos características para aplicaciones más complicadas, y en sistemas adaptativos complejos como los mercados financieros o de derivados en los que interactúan humanos y sistemas informáticos.  

En la Iniciativa sobre IA e Igualdad de Carnegie Councilno siempre distinguimos entre los elementos de un sistema que tienen inteligencia artificial, los algoritmos que no merecen esa etiqueta y las tareas que realizan las personas. Por ejemplo, la economía digital, que desempeña un papel clave en las cuestiones contemporáneas de igualdad y desigualdad, se compone de las tres cosas.Sin embargo, los elementos distintivos de la IA son cada vez más importantes para el crecimiento general, la eficiencia, la estabilidad y la seguridad de la economía digital. Al trazar el mapa de los efectos de las tareas informatizadas en la economía digital, a veces nos referimos a "sistemas algorítmicos y de IA" como una forma de matizar pero también de eludir debates más laboriosos sobre qué elementos son IA y cuáles no. 

Algunas de las repercusiones de los procesos algorítmicos y de IA en cuestiones de igualdad son intrínsecas a los propios procesos, otras se derivan de las bases de datos en las que se entrenan los algoritmos y de las bases de datos que analizan y, por último, están las herramientas y técnicas que los humanos deciden utilizar. Al describir las repercusiones de la IA en la igualdad, tratamos de distinguir la importancia de los algoritmos de las características intrínsecas de las bases de datos o de las herramientas elegidas por las personas para alcanzar objetivos institucionales o individuales.   

Del mismo modo que hay muchas formas de inteligencia, desde la habilidad para las matemáticas de alto nivel hasta el genio creativo en la improvisación de jazz, hay muchas formas de desigualdad, desde la desigualdad económica hasta la desigualdad de oportunidades, pasando por el trato injusto en comparación con el trato preferente que se da a los demás. La igualdad no es un ideal ni un objetivo en todos los aspectos.Los individuos nacen con diferentes inclinaciones y desarrollan diferentes habilidades.Las personas tienen acceso a recursos económicos diferentes o los crean y, por lo general, esto se tolera, si no siempre se acepta. Lo que nos preocupa es trazar un mapa de las diversas formas en que la IA o la economía digital, de la que la IA se ha convertido en un motor clave, afectan a una serie de cuestiones relacionadas con la igualdad o la desigualdad, a menudo con escaso escrutinio científico o un discurso público significativo.  

Consideremos el objetivo de la igualdad de oportunidades, igualando las condiciones para que la raza, el sexo u otros factores culturales no menoscaben el acceso a la educación, el empleo o la vivienda.Cada vez más, la falta de acceso a los ordenadores y a Internet puede por sí misma poner en desventaja a individuos y comunidades. Aunque facilitar el acceso y la alfabetización digital se ha convertido en un objetivo central de la UNESCO y de los distintos Estados y ciudades en la lucha contra la pobreza, no se trata explícitamente de una forma de desigualdad en la que la IA desempeñe un papel significativo.

Anja Kaspersen es Senior Fellow en Carnegie Council of Ethics in International Affairs. Fue Directora de la Oficina de Asuntos de Desarme de las Naciones Unidas en Ginebra y Vicesecretaria General de la Conferencia de Desarme. Anteriormente, ocupó el cargo de responsable de compromiso estratégico y nuevas tecnologías en el Comité Internacional de la Cruz Roja (CICR).

Wendell Wallach es consultor, especialista en ética y académico del Centro Interdisciplinario de Bioética de la Universidad de Yale. También es académico del Lincoln Center for Applied Ethics, miembro del Institute for Ethics & Emerging Technology y asesor principal del Hastings Center.

También le puede interesar

2 DE JULIO DE 2024 Podcast

Cibernética, vigilancia digital y el papel de los sindicatos en la gobernanza tecnológica, con Elisabet Haugsbø

Anja Kaspersen, investigadora sénior, habla con Elisabet Haugsbø, presidenta del sindicato tecnológico Tekna, sobre su trayectoria en ingeniería, la resiliencia en la era de la IA y mucho más.

27 DE JUNIO DE 2024 - Podcast

AI, Military Ethics, & Being Alchemists of Meaning, con Heather M. Roff

Anja Kaspersen, Senior Fellow, y Heather Roff, investigadora científica senior del Centro de Análisis Navales, debaten sobre sistemas de IA, asuntos militares y mucho más.

17 DE JUNIO DE 2024 - Podcast

Lingüística, sistemas automatizados y el poder de la IA, con Emily M. Bender

En este episodio, el anfitrión invitado, el Dr. Kobi Leins, y la Dra. Emily Bender, de la Universidad de Washington, discuten por qué el lenguaje es importante en el desarrollo de sistemas tecnológicos.