Por qué el Derecho indicativo es la mejor forma de abordar el problema del ritmo en la IA

29 de septiembre de 2021

El "problema del ritmo" se produce cuando una tecnología en rápido desarrollo repercute en la sociedad con demasiada rapidez para que los gobiernos puedan proteger a las personas mediante leyes y normativas.

Las leyes y los reglamentos son "hard law". Por el contrario, el derecho indicativo se refiere a medidas que no son directamente aplicables desde el punto de vista jurídico pero que, no obstante, pueden a veces crear obligaciones sustantivas. Algunos ejemplos son las directrices, los conjuntos de principios, los códigos de conducta, las normas privadas y los programas de asociación. En muchos sectores, la legislación vinculante y la no vinculante coexisten.

Sigue habiendo escepticismo sobre el papel del Derecho indicativo en la IA. Algunos sostienen que debemos contar con leyes duras para proteger a las personas, y entiendo por qué: cuando se observa el comportamiento de los gigantes tecnológicos en los últimos años, es difícil decir que podemos o debemos confiar en que se autorregulen.

Sin embargo, lo que los escépticos suelen perder de vista es que la autorregulación puede formar parte del Derecho indicativo, pero dista mucho de ser la solución. Otros enfoques de Derecho indicativo pueden ser más contundentes y tener mayor repercusión. Un ejemplo es la investigación con células madre: si se quiere publicar en una de las principales revistas académicas, hay que demostrar que se cumplen las normas acordadas para la investigación con células madre. Esto ha demostrado ser un poderoso incentivo para hacer cumplir las normas en la práctica.

Junto con mi colega Carlos Ignacio Gutiérrez, del Centro de Derecho, Ciencia e Innovación de la Universidad Estatal de Arizona, he estado investigando ejemplos como este para descubrir qué funciona bien, qué funciona mal y qué funciona peor. Hemos recopilado 634 programas de Derecho indicativo en una base de datos de acceso público. Los programas de soft law proceden de distintos lugares del mundo y contienen programas que abarcan distintos sectores y ámbitos. Hemos analizado cada uno de ellos y los hemos puesto a prueba con más de 100 criterios.

Descubrimos que alrededor de dos tercios no proporcionaban ningún mecanismo público para garantizar que el programa cumpliera su promesa. Así pues, el Derecho indicativo no es la panacea para el uso responsable de la IA y las tecnologías adyacentes. Sin embargo, al convertir esto en aprendizajes futuros basados en éxitos pasados y actuales, destacaron dos factores que hacen que los enfoques de derecho indicativo sean más eficaces: mecanismos creíbles de aplicación indirecta y una percepción de legitimidad. El ejemplo de las células madre ilustra ambos aspectos.

Aunque lo ideal sería preferir enfoques basados en el derecho vinculante, el problema del ritmo significa que no es razonable ni responsable esperar a que las ruedas legislativas giren. La nanotecnología es un ejemplo de lo que puede tardar: hace 15 años participé en debates en los que algunos insistían en que la nanotecnología sólo podía regirse por el Derecho positivo, y todavía hoy no existe en Estados Unidos un Derecho positivo específico para la nanotecnología.

Aunque su gran desventaja es no ser directamente aplicable desde el punto de vista jurídico, el Derecho indicativo tiene muchas ventajas sobre el Derecho vinculante. Es más flexible y adaptable. Es más fácil experimentar con el Derecho indicativo, viendo lo que funciona y abandonando lo que no. El soft law es normativo y transfronterizo, mientras que el hard law suele promulgarse prematuramente antes de llegar a un acuerdo y entendimiento, y se limita a las jurisdicciones nacionales.

Los gobiernos son conscientes de estas ventajas: una de las sorpresas de nuestra base de datos fue darnos cuenta de cuántos ejemplos de Derecho indicativo son creados y dirigidos por autoridades públicas. La gente suele pensar que el Derecho indicativo está dirigido por entidades no gubernamentales: empresas, organizaciones no gubernamentales u otros organismos de amplia base de interesados. Aunque esto ocurre, en la mayoría de los casos es un gobierno el que establece un mecanismo de Derecho indicativo, reconociendo sus ventajas en cuanto a rapidez y flexibilidad.

Los vehículos autónomos son un ejemplo: más de una docena de gobiernos han establecido directrices para el desarrollo de vehículos autónomos, indicando a las empresas cómo quieren que se comporten. El derecho indicativo, como las normas privadas establecidas por diversas organizaciones de normalización, tiene posibilidades de funcionar eficazmente en casos como este, porque las empresas quieren evitar que el gobierno pase a la reglamentación formal, que podría imponer más costes y restricciones.

Dicho esto, el Derecho indicativo a menudo conduce al Derecho vinculante de otras maneras. Cuando un conjunto de principios se consolida en una industria, los tribunales pueden decidir responsabilizar a las empresas de los daños que se produzcan por su incumplimiento de esos principios. Las aseguradoras que se niegan a cubrir la responsabilidad legal pueden ser un poderoso incentivo para que las empresas acaten las directrices del derecho indicativo.

La IA plantea retos particulares al Derecho indicativo. En primer lugar, su naturaleza de "caja negra" dificulta la transparencia. En segundo lugar, las barreras a la comprensión dificultan la participación significativa de las partes interesadas.

Y en tercer lugar, las directrices funcionan mejor cuando todas las empresas tienen incentivos para seguirlas, por ejemplo, para que sus productos sean interoperables con los de otras empresas o porque les benefician en términos de reputación. La IA presenta el reto más complejo de conseguir que las empresas sigan directrices que perjudiquen sus beneficios, por ejemplo, no desplegando formas de manipular a las personas.

Aunque el Derecho indicativo tiene ciertamente sus retos, el Derecho vinculante también adolece de muchas debilidades y limitaciones, especialmente para una tecnología diversa y en rápida evolución como la IA. Winston Churchill dijo una vez que la democracia es la peor forma de gobierno, aparte de todas las demás. El Derecho indicativo dista mucho de ser una herramienta perfecta para afrontar todos los retos que plantea la integración de la IA en nuestras estructuras democráticas y sociales, pero, desde un punto de vista pragmático, el Derecho indicativo puede ser la peor forma de gobierno, salvo todas las demás.

Gary Marchant es catedrático de Derecho y director del Centro de Derecho, Ciencia e Innovación de la Universidad Estatal de Arizona (ASU). Sus intereses de investigación incluyen los aspectos jurídicos de la genómica y la medicina personalizada, el uso de la información genética en la regulación medioambiental, el riesgo y el principio de precaución, y la gobernanza de tecnologías emergentes como la nanotecnología, la neurociencia, la biotecnología y la inteligencia artificial.

También le puede interesar

Portada del libro A Dangerous Master. CRÉDITO: Sentient Publications.

18 DE ABRIL DE 2024 - Artículo

Un maestro peligroso: Bienvenido al mundo de las tecnologías emergentes

En este prólogo a la edición de bolsillo de su libro "Un maestro peligroso", Wendell Wallach analiza los avances y las cuestiones éticas de la IA y las tecnologías emergentes.

MAR 22, 2024 - Podcast

Dos cuestiones fundamentales en la gobernanza de la IA, con Elizabeth Seger

En este podcast "Inteligencia Artificial e Igualdad", Wendell Wallach, becario de Carnegie-Uehiro, y Elizabeth Seger, de Demos, debaten sobre cómo hacer que la IA generativa sea segura y democrática.

23 DE FEBRERO DE 2024 - Artículo

¿Qué queremos decir cuando hablamos de "democratización de la IA"?

Elizabeth Seger, directora del centro de investigación sobre política digital CASM de Demos, analiza las cuatro acepciones del término.