Riesgos de los datos espaciales para las poblaciones de refugiados

En el marco de la 17ª conferencia internacional anual sobre Privacidad Informática y Privacidad de Datos (CPDP) celebrada en Bruselas, Bélgica, la Fundación Ditchley y su director James Arroyo convocaron un taller sobre los riesgos y oportunidades que la inteligencia artificial (IA) y los datos espaciales presentan para la privacidad individual. Carnegie Council La becaria visitante Zhanna Malekos Smith fue seleccionada para presentar su investigación sobre datos espaciales y ética. En la sesión se destacaron las formas en que la IA está haciendo avanzar la capacidad de la humanidad para recoger, controlar y analizar datos del espacio exterior con múltiples fines. Este artículo resume las principales conclusiones sobre los usos potenciales, así como los usos indebidos, de los datos de observación de la Tierra basados en la IA, también conocidos como datos espaciales.

Datos espaciales

Los datos espaciales se refieren a la información obtenida de instrumentos como satélites, telescopios y sondas espaciales. En general, esta categoría incluye datos de teledetección, meteorología espacial, imágenes de satélite y datos de navegación y comunicaciones. Según Space Data Ethics, un libro blanco publicado en 2023 por el Grupo Consultivo de Usuarios del Consejo Nacional del Espacio, estos datos se centran en la comprensión de fenómenos a nivel macro. Algunos ejemplos son las observaciones de incendios forestales, patrones de migración de especies animales, condiciones del tráfico urbano, niveles de agua e incluso el movimiento de tropas militares. Los datos espaciales también pueden incluir la recogida de información sobre los movimientos de una persona, lo que plantea problemas de privacidad.

Cuestiones de privacidad y vigilancia

Por un lado, la recogida y el tratamiento de datos espaciales mediante IA podría mejorar la capacidad de las organizaciones para coordinar y prestar ayuda humanitaria a las poblaciones de refugiados. Por otro lado, el libro blanco advierte de que "etiquetar erróneamente las observaciones de la Tierra puede crear igualmente un sesgo injustificado con efectos perjudiciales; por ejemplo, etiquetar erróneamente una zona poblada como "barrio marginal" o "campo de refugiados" podría hacer que se la estigmatizara indebidamente e incluso que fuera objeto de erradicación". Con la ayuda del aprendizaje automático y el análisis predictivo para estudiar a las poblaciones de refugiados, preocupa que los regímenes autoritarios puedan utilizar esta información como arma para perjudicar a quienes huyen de la persecución. Según un informe de Chatham House sobre la protección de los refugiados en la era de la IA, "el asilo y la protección de los refugiados constituirán uno de los casos de prueba para la gobernanza mundial y nacional de la IA, y para saber si puede lograrse una IA respetuosa con los derechos humanos."

Aparte de estas preocupaciones, el libro blanco del Consejo Nacional del Espacio explica que la vigilancia por satélite puede aprovecharse para vigilar a un presunto terrorista e interceptar sus comunicaciones desde el espacio o, de forma más inocente, para ayudar a los agricultores a gestionar extensiones de tierra con agricultura de precisión. El documento advierte, sin embargo, que en general es más rentable y tecnológicamente viable utilizar tecnologías terrestres que espaciales para vigilar a las personas.

Para promover la equidad y la autonomía, el mismo libro blanco defiende también la idea de que Estados Unidos promueva un nuevo conjunto de normas éticas para salvaguardar los derechos individuales a la intimidad y reducir el riesgo de discriminación. En concreto, los autores recomiendan: "Para manejar y compartir los datos espaciales de forma responsable, es urgente trabajar para anticipar los posibles daños -que pueden ser diferentes de los fallos ordinarios en la ética de los datos- y desarrollar un nuevo marco ético específico para los datos espaciales."

Ética de los datos en el espacio

Durante el taller internacional del CPDP, pregunté a los asistentes si estaban de acuerdo con la propuesta de desarrollar un marco ético totalmente nuevo para abordar los riesgos de los datos espaciales. Nadie estuvo de acuerdo en que los datos espaciales merecieran un nuevo marco ético. Más bien, los asistentes cuestionaron el valor práctico de un "nuevo modelo" y, en su lugar, animaron a utilizar los marcos existentes para garantizar la dignidad humana, la supervisión y la equidad en la aplicación de esta herramienta.

En lugar de reinventar la rueda, un ejemplo de marco ético preexistente utilizado en la ciencia de datos es el Informe Belmont. Tras el escándalo biomédico de la Salud Pública de EE.UU. en 1972, que implicó prácticas poco éticas en el estudio de pacientes afroamericanos que morían de sífilis, el Congreso creó la Comisión Nacional para la Protección de los Sujetos Humanos de la Investigación Biomédica y del Comportamiento. La comisión se reunió en Belmont, California, y promulgó los tres principios éticos siguientes para los estudios en ciencias de la salud: (1) respeto a las personas, (2) justicia y (3) beneficencia, además del consentimiento informado. A continuación, en 1993, un grupo de líderes en tecnologías de la información se reunió en Menlo Park, California, para elaborar el Informe Menlo. Este informe se basaba en los tres principios del Informe Belmont, pero añadía otros como (1) el respeto de la ley, (2) la mitigación de los daños, (3) la consideración de las perspectivas de las partes interesadas y (4) la responsabilidad.

Antes de que el subcomité de beneficios climáticos y sociales del Grupo Consultivo de Usuarios se presente en el próximo consejo nacional para abogar por un "nuevo" conjunto de principios para la ética de los datos, podría ser más útil examinar en su lugar los modelos Belmont y Menlo para ver qué es lo que falta. ¿Cómo podrían aplicarse estos modelos al ámbito espacial? Con motivo de la 74ª Conferencia Astronáutica Internacional que se celebrará próximamente en Milán (Italia), los líderes espaciales estadounidenses podrían convocar un taller paralelo en la conferencia para avanzar en el debate sobre los principios éticos de la ciencia de datos con una mayor representación de la comunidad espacial internacional. A su vez, esto podría arrojar luz sobre cómo salvaguardar a los refugiados de la persecución bajo esta capacidad aumentada por la IA.

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las de sus autores y no reflejan necesariamente la posición de Carnegie Council.