Los derechos humanos deben estar en el centro de la gobernanza de la IA y la tecnología

En su reciente artículo, Anja Kaspersen y Wendell Wallach abogan de forma contundente por un reajuste sistémico de la gobernanza de la IA y la tecnología, pidiendo que la ética de la IA no sólo dé prioridad a la transparencia y la rendición de cuentas, sino que preserve los valores fundamentales y la dignidad humana.

¿Cómo debería ser este reajuste? Muchos se plantean esta pregunta. En la actualidad existen numerosos conjuntos de principios de gobernanza de la IA y un número cada vez mayor de procesos de auditoría para aplicaciones de IA, así como legislación y normas técnicas emergentes. Pero en medio de esta plétora de compromisos, actualmente es difícil para las empresas saber qué deben hacer, para los gobiernos saber cómo regular, y para los individuos saber qué normas esperar y qué recursos tienen si algo va mal.

Actualmente no existe un punto de referencia claro en la conversación sobre ética. Cada vez que una gran innovación llega al mercado de masas, ya sea el metaverso o grandes modelos lingüísticos como ChatGPT, volvemos al principio del diálogo. En lo que respecta a ChatGPT, la mayoría de las cuestiones éticas latentes ni siquiera se han identificado, y mucho menos abordado. Mientras tanto, la tecnología y los beneficios empresariales se desarrollan y crecen a buen ritmo.

Necesitamos principios básicos de gobernanza que garanticen, según Kaspersen y Wallach, que las tecnologías se utilizan para el bien común y no en beneficio de unos pocos elegidos. Estos principios deben ser de aplicación general y adaptables a la gama de innovaciones tecnológicas que se avecinan.

El papel de los derechos humanos

Estos principios ya existen: los derechos humanos. Los derechos humanos son la cristalización de principios éticos en normas que ya se han desarrollado y aplicado en los últimos 70 años. Ya destilan una amplia gama de puntos de vista éticos en principios jurídicos concretos. Los derechos humanos pueden proteger los valores fundamentales y la dignidad humana en el mundo en línea, al igual que lo hacen en el entorno fuera de línea. En lugar de esforzarse por inventar nuevas normas, tanto los gobiernos como las empresas deberían adoptar las normas y procesos existentes en materia de derechos humanos como punto de partida para la gobernanza de la IA. Los derechos humanos son el marco jurídico existente de valores fundamentales y dignidad humana al que pueden añadirse protecciones específicas para cada contexto.

La cuestión de la equidad es un ejemplo. Los especialistas en ética de la IA debaten periódicamente qué significa "justo" en el contexto de la gobernanza de la IA: en qué situaciones significa tratar casos similares de la misma manera y en qué situaciones puede significar tratarlos de forma diferente. A menudo se discute como si se tratara de un problema nuevo, sin tener en cuenta los debates sobre la equidad en la legislación sobre derechos humanos ni cómo la han interpretado los tribunales en casos concretos. Una de las razones por las que los especialistas en ética de la IA han tenido dificultades para entender la equidad es que a menudo no han reconocido el enfoque contextualizado de la equidad que caracteriza la toma de decisiones judiciales.

Situar los derechos humanos en el centro de la gobernanza de la IA tiene varias ventajas. En primer lugar, ya gozan de una amplia aceptación internacional. La Declaración Universal de los Derechos Humanos (DUDH) es conocida en todas partes. Todos los países del mundo no sólo son parte de al menos algunos de los tratados de derechos humanos de las Naciones Unidas, sino que comparecen periódicamente ante el Consejo de Derechos Humanos de la ONU y los organismos de supervisión de los derechos humanos para defender su historial de derechos humanos. Los derechos humanos constituyen ya un lenguaje universal y un marco de normas éticas, cuya negociación ha llevado muchos años. Su aceptación internacional es especialmente importante en un momento en que es muy improbable lograr un acuerdo sobre nuevas normas a escala mundial.

En segundo lugar, los derechos humanos son relativamente claros: los profesionales de los derechos humanos llevan 70 años tratando y resolviendo cuestiones como el significado de "justicia" e "igualdad". En tercer lugar, no son extremos: al contrario, ofrecen un método para equilibrar los derechos e intereses en juego en cualquier situación, utilizando pruebas de necesidad y proporcionalidad que resultan familiares a tribunales y gobiernos. Y ofrecen margen para diferentes interpretaciones en distintos países y contextos, sujetas a parámetros generales. Esto no quiere decir que sean perfectas: tendrán que adaptarse a la IA, al igual que se han adaptado a otros avances a lo largo de los años.

Acabar con los mitos

Entonces, ¿por qué los derechos humanos no están ya en el centro de la gobernanza de la IA? Se ven frenados por varios mitos, como:

• Mito: Los derechos humanos impiden la innovación. Realidad: Los derechos humanos no impiden la innovación, sino que conllevan el cumplimiento de unas normas mínimas y crean unas condiciones equitativas, a nivel nacional e internacional, para los innovadores.
• Mito: Los derechos humanos son complejos. Realidad: No son más complejos que otros sistemas de normas; el problema es simplemente que no se enseñan o entienden bien.
• Mito: Los derechos humanos tienen que ver con los gobiernos. Realidad: Las empresas también tienen responsabilidades en materia de derechos humanos, como acordaron unánimemente los gobiernos en las Naciones Unidas en 2011, y respaldaron ampliamente las empresas y la sociedad civil.
• Mito: Los derechos humanos son radicales o vagos. Realidad: Proporcionan protecciones específicas contra el daño y la discriminación a todos los adultos y niños, en todas partes, en el día a día, no sólo la protección en situaciones extremas que tan a menudo se discute en los medios de comunicación.
• Mito: Los derechos humanos son de ultramar y se refieren principalmente a las personas en situaciones de crisis, como conflictos armados y emergencias humanitarias. Realidad: Los derechos humanos (también conocidos como libertades civiles) protegen jurídicamente los valores fundamentales y la dignidad humana en todos los países del mundo.

A menudo se malinterpreta que los derechos humanos ofrecen respuestas extremas. Por poner un ejemplo, se suele afirmar que los derechos humanos implicarían que no debería utilizarse el reconocimiento facial. Esto no es así: Por el contrario, la legislación sobre derechos humanos exige que cualquier violación de la intimidad de las personas cuyos rostros se capten esté prescrita por la ley, sea necesaria para un fin legítimo, como la seguridad pública o la prevención de desórdenes o delitos, y sea proporcionada a ese fin legítimo. Esto significa, en pocas palabras, que el reconocimiento facial que permite a la policía o a otros acumular grandes cantidades de datos sobre los movimientos de las personas no es permisible; pero el reconocimiento facial cuidadosamente prescrito para evitar o minimizar dicha recopilación de datos, al tiempo que pretende tener un impacto positivo en la seguridad pública, puede ser permisible. No se trata de un planteamiento radical, sino sensato.

En algunas partes del mundo, los derechos humanos han atraído la carga política: han sido etiquetados por gobiernos y medios de comunicación como un bloqueo a las políticas sensatas, en lugar de como una salvaguarda de las libertades de todos frente a posibles abusos. Y a menudo son malinterpretados, pues se considera que promueven posturas absolutistas o extremas en lugar de matizadas. Por ejemplo, en algunos países europeos, incluido el Reino Unido, parte de los medios de comunicación han criticado los derechos humanos por limitar la capacidad de los gobiernos para deportar a los solicitantes de asilo. Pero unos pocos temas controvertidos no deben distraernos de ver el valor de los derechos humanos para todos, todos los días: para promover la igualdad y la equidad, para situar a los niños en el centro de las decisiones que les conciernen, para elevar el nivel de las personas discapacitadas, para establecer normas de trato policial y penitenciario, para apuntalar las políticas de sanidad y educación, etcétera.

Sensibilización sobre los derechos humanos

Uno de los principales problemas prácticos es que, en muchas partes del mundo, los derechos humanos no son ampliamente comprendidos fuera del cuerpo de abogados y activistas que los defienden. En particular, los informáticos y los programadores no suelen estar familiarizados con ellos. Esto tiene que cambiar: debería haber más educación interdisciplinar sobre derechos humanos en las universidades, más formación en derechos humanos para los tecnólogos y para los ejecutivos de las empresas, más experiencia en derechos humanos en los gobiernos. El debate sobre la gobernanza de la IA en los consejos de administración y los órganos legislativos debe incluir a la sociedad civil, en lugar de dejarla al margen. Los derechos humanos deben formar parte del diálogo general, no ser un mero tema para expertos jurídicos.

En resumen, el reto para la gobernanza de la IA en 2023 no es sólo adoptar la ética, sino tomar los derechos humanos como punto de partida para las conversaciones sobre la ética y la regulación de la IA. Las empresas que desarrollen y utilicen la IA deberían incorporar más expertos en derechos humanos, y los inversores deberían medir esto a través de marcos ESG. Los gobiernos deberían basarse en los derechos humanos para elaborar normativas y políticas sobre IA. Las organizaciones internacionales deberían hacer hincapié en el papel de los derechos humanos en la gobernanza de la IA.

Hacerlo será un atajo para garantizar que la IA preserve realmente los valores fundamentales y la dignidad humana, y que se aproveche realmente para el bien común, no sólo en unos pocos países, sino en todo el mundo.

Kate Jones es investigadora asociada de Chatham House y autora del recientemente publicado Chatham House Research Paper, AI Governance and Human Rights: Resetting the Relationship, Londres: Royal Institute of International Affairs, 2023.

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente la posición de Carnegie Council.