Autor
Elizabeth Seger
CASM, Demostraciones
Numerosos partidos reclaman "la democratización de la IA". Pero la frase se refiere a una variedad de objetivos que a veces pueden entrar en conflicto.
Este artículo, escrito por Elizabeth Segerdescribe y compara cuatro significados diferentes de "democratización de la IA". Lea el artículo completo de libre acceso aquí.
Introducción
En el último año ha aumentado el debate sobre la "democratización de la IA". Las empresas de IA, las comunidades de desarrolladores y los gobiernos hablan de la importancia de la democratización de la IA y de su compromiso con ella, pero a veces no está claro qué quieren decir con ello. El término "democratización de la IA" se emplea de diversas maneras, lo que a menudo hace que los comentaristas se confundan al hablar de los objetivos, metodologías, riesgos y beneficios de los esfuerzos de democratización de la IA.
Este artículo identifica cuatro nociones diferentes de "democratización de la IA" utilizadas habitualmente: la democratización del uso de la IA, la democratización del desarrollo de la IA, la democratización de los beneficios de la IA y la democratización de la gobernanza de la IA.
Estas nociones suelen complementarse, aunque a veces entran en conflicto. Por ejemplo, si el público prefiere que se restrinja el acceso a determinados tipos de sistemas de IA, la "democratización de la gobernanza de la IA" puede requerir que se establezcan restricciones de acceso, pero la promulgación de estas restricciones puede obstaculizar la "democratización del desarrollo de la IA", para la que es clave cierto grado de accesibilidad a los modelos de IA.
Este artículo subraya dos puntos importantes: (1) la democratización de la IA no es lo mismo que la difusión de modelos, y (2) el valor positivo de la democratización de la IA radica en lo bien que responda a los intereses y valores de las personas afectadas.
Tipos de democratización de la IA
Democratización del uso de la IA
Cuando se habla de democratizar una tecnología, a menudo se hace referencia a democratizar su uso, es decir, facilitar su utilización a un amplio abanico de personas. Así es como Microsoft utiliza el término cuando habla de sus planes para "democratizar la Inteligencia Artificial (IA), para sacarla de las torres de marfil y hacerla accesible a todos". Una parte destacada del plan es "infundir inteligencia a cada aplicación con la que interactuamos, en cualquier dispositivo, en cualquier momento".
Objetivos:
El objetivo más común de democratizar el uso de la IA es distribuir sus beneficios para que mucha gente pueda disfrutarlos. Los beneficios incluyen el valor del entretenimiento (por ejemplo, generar poemas con ChatGPT), aplicaciones de salud y bienestar, mejora de la productividad y otras funciones de utilidad (escribir código, analizar datos, crear arte). Muchos de estos beneficios podrían traducirse en ganancias económicas para quienes integren eficazmente las herramientas de IA en sus flujos de trabajo.
Sin embargo, es importante reconocer que, para algunas aplicaciones de la IA, los beneficios de poner la tecnología a disposición de cualquiera pueden ser relativamente menores, mientras que los riesgos pueden ser significativos. Por ejemplo, el círculo de personas que se beneficiaría enormemente del acceso a una herramienta de descubrimiento de fármacos de IA es relativamente pequeño (principalmente investigadores farmacéuticos), sin embargo, estas herramientas pueden reutilizarse para descubrir nuevas toxinas que podrían usarse como armas químicas.
Métodos:
Los esfuerzos por democratizar el uso de la IA implican reducir los costes de adquisición y funcionamiento de las herramientas de IA y proporcionar interfaces intuitivas para facilitar la interacción entre el ser humano y la IA sin necesidad de una amplia formación o conocimientos técnicos.
Democratización del desarrollo de la IA
Cuando la comunidad de la IA habla de democratizar la IA, rara vez se limita a democratizar su uso. Gran parte del entusiasmo se centra en democratizar el desarrollo de la IA, es decir, en ayudar a un mayor número de personas a contribuir a los procesos de diseño y desarrollo de la IA. Por ejemplo, Emad Mostaque, CEO de Stability AI, defiende que "todo el mundo necesita construir tecnología [de IA] para sí mismo. . . . Es algo que queremos posibilitar porque nadie sabe qué es lo mejor [por ejemplo] para la gente de Vietnam aparte de los vietnamitas". Con este fin, Stability AI decidió abrir el código de Stable Diffusion, lo que significa que cualquiera puede descargar el modelo y basarse en él, siempre que acepte las condiciones de uso.
Objetivos:
La idea es que el aprovechamiento de una comunidad mundial de desarrolladores de IA acelerará la innovación y facilitará el desarrollo de aplicaciones de IA que respondan a intereses y necesidades diversos. También se argumenta que la participación de más personas (por ejemplo, académicos, desarrolladores individuales, laboratorios más pequeños) en los procesos de desarrollo de la IA proporciona un mecanismo crítico de evaluación y auditoría externas.
Métodos:
Diversas actividades pueden permitir una participación productiva en los procesos de diseño y desarrollo de la IA. Algunas estrategias proporcionan acceso a modelos y recursos de IA para facilitar la participación de la comunidad de IA, por ejemplo, compartiendo modelos, mejorando el acceso a los ordenadores o proporcionando apoyo y coordinación a los proyectos. Otras estrategias ayudan a ampliar la comunidad de personas capaces de contribuir a los procesos de desarrollo de la IA, por ejemplo, a través de oportunidades educativas y de mejora de las cualificaciones o mediante el suministro de herramientas de asistencia.
Pero, una vez más, no hay que suponer que todos los métodos de democratización del desarrollo de la IA sean universalmente deseables. Por ejemplo, compartir modelos de código abierto permite contribuciones más numerosas y diversas al desarrollo de modelos, pero también puede abrir una puerta a la modificación malintencionada de modelos. Las ventajas del código abierto deben sopesarse con los riesgos.
Democratización de los beneficios de la IA
Un tercer sentido de la "democratización de la IA" se refiere a la democratización de los beneficios de la IA, facilitando la distribución amplia y equitativa del valor acumulado por las organizaciones que construyen y controlan capacidades avanzadas de IA. La democratización de los beneficios suele ser una de las principales preocupaciones de los gobiernos y la sociedad civil, preocupados por el aumento de las brechas socioeconómicas y de poder y por el bienestar de los ciudadanos.
Objetivos:
Algunos de los objetivos de la democratización de los beneficios de la IA son evitar que aumente la brecha socioeconómica entre los países líderes y los rezagados en IA, aliviar la carga financiera de la pérdida de puestos de trabajo por la automatización, facilitar la transición económica en caso de rápido crecimiento de la industria de la IA y proporcionar mecanismos para que los laboratorios demuestren su compromiso con la búsqueda de una IA avanzada para el bien común.
Métodos:
Los beneficios podrían redistribuirse, por ejemplo, a través de donaciones filantrópicas (por ejemplo, mediante el compromiso de una"cláusula de ganancias extraordinarias") o del Estado a través de los impuestos. Democratizar el desarrollo de la IA también puede ayudar a democratizar los beneficios al descentralizar el desarrollo de la IA de un puñado de grandes empresas tecnológicas.
Democratización de la gobernanza de la IA
Por último, algunos debates sobre la democratización de la IA se refieren a la democratización de la gobernanza de la IA. Las decisiones sobre la gobernanza de la IA a menudo implican equilibrar los riesgos y beneficios relacionados con la IA para determinar si la IA debe utilizarse, desarrollarse y compartirse, cómo y quién debe hacerlo. La democratización de la gobernanza de la IA consiste en distribuir la influencia sobre estas decisiones entre una comunidad más amplia de partes interesadas y poblaciones afectadas. Se trata de un concepto impulsado principalmente por organizaciones de la sociedad civil como Collective Intelligence Project y Demos, y también reflejado en el proyecto de subvención Democratic Inputs to AI de OpenAI.
Objetivos:
El objetivo general de la democratización de la gobernanza de la IA es garantizar que las decisiones en torno a cuestiones como el uso, el desarrollo y los beneficios de la IA reflejen los intereses y las preferencias de las personas afectadas.
Entre los subobjetivos importantes figuran descentralizar el control de la inteligencia artificial en detrimento de las grandes empresas tecnológicas, abordar cuestiones normativas complejas sobre la inteligencia artificial que pueden variar de una cultura a otra y garantizar que los beneficios y las cargas del desarrollo y la implantación de la inteligencia artificial se distribuyan de forma justa y equitativa.
Métodos:
Entre los métodos propuestos para democratizar las decisiones en materia de gobernanza de la IA se incluyen el aprovechamiento de las estructuras de gobierno democráticas existentes, la convocatoria de organismos internacionales de múltiples partes interesadas para deliberar sobre los complejos retos de la gobernanza de la IA y el empleo de enfoques modernos y prometedores de gobernanza participativa y deliberativa habilitados por herramientas deliberativas y plataformas digitales.
Información clave
La democratización de la IA es un término polifacético con numerosos objetivos y métodos para alcanzarlos. Esta observación pone de relieve dos aspectos importantes.
1. La democratización de la IA no es lo mismo que compartir modelos de código abierto.
Un modelo de IA es de código abierto si el desarrollador decide permitir que cualquiera descargue, modifique o desarrolle el modelo en su ordenador siempre que acepte las condiciones de uso. En el discurso popular, "democratización de la IA" y "código abierto" se pronuncian a menudo en la misma frase. La implicación es que el código abierto es un paso necesario hacia la democratización de la IA, pero esto es una simplificación excesiva. El código abierto es una forma de compartir modelos; compartir modelos es un método de democratizar el desarrollo de la IA; y democratizar el desarrollo de la IA es un aspecto de la democratización de la IA.
2. Los esfuerzos de democratización de la IA no son intrínsecamente buenos.
A veces, diferentes formas de democratización de la IA pueden entrar en conflicto. Por ejemplo, una decisión de código abierto podría ir en contra de la democratización de la gobernanza de la IA si no responde a los intereses y valores de quienes probablemente se verán afectados.
Esto nos lleva al último punto. Cualquier esfuerzo de democratización de la IA -ya sea compartir modelos, distribuir beneficios, recabar la opinión de las partes interesadas o crear interfaces de usuario intuitivas- no es intrínsecamente bueno; su valor se deriva de la alineación con los intereses y preferencias de quienes se verán afectados.
Por este motivo, podríamos pensar que la democratización de la gobernanza de la IA prevalece sobre las demás como fuente de la que se deriva el valor moral y político de la terminología "democratización"; la invocación de la terminología "democratización" implica que cualquier decisión (compartir, restringir, distribuir, desarrollar, etc.) es la que seleccionaría un proceso de gobernanza democrática.
Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente la posición de Carnegie Council.
