Un maestro peligroso: Bienvenido al mundo de las tecnologías emergentes

18 de abril de 2024

Wendell Wallach, investigador de Carnegie-Uehiro y codirector de la Iniciativa Inteligencia Artificial e Igualdad (AIEI) de Carnegie Council, escribió "Un maestro peligroso: How to Keep Technology from Slipping Beyond Our Control" en 2015, con el objetivo de educar a los lectores sobre la tecnología emergente, como la IA y la biotecnología. Dado que muchas de las tecnologías analizadas están empezando a estar disponibles o aún no se han hecho realidad, Sentient Publications ha reeditado recientemente el libro en rústica con un nuevo prefacio, que puede consultarse a continuación.

Para más información sobre "Un maestro peligroso", consulte el debate de Wallach en 2015 en Carnegie Council o haz clic aquí para comprar la nueva edición.

Prefacio

Un maestro peligroso es una introducción a las tecnologías emergentes: un poco de ciencia, un poco de historia, muchos dilemas morales y una buena dosis de historias entretenidas. Una pregunta guió mi escritura de este libro: ¿Qué necesitan saber los lectores para poder participar en los fascinantes debates sobre las tecnologías que se están desarrollando?

Cuando Sentient Publications me propuso reeditar Un maestro peligroso, me pregunté hasta qué punto lo encontrarían oportuno los nuevos lectores. Unos cuantos lectores recientes, entre los que se encontraban varios expertos en la materia, me aseguraron que no sólo sigue siendo una lectura excelente, sino que puede ser más oportuna ahora que cuando se publicó por primera vez.

No cabe duda de que los descubrimientos científicos y la innovación tecnológica continúan a un ritmo vertiginoso. Los avances en inteligencia artificial e investigación genómica se han convertido en noticia de primera plana. Los avances en computación cuántica y nanotecnologías no han cesado, aunque ninguno de los dos campos ha superado los umbrales necesarios para empezar a cumplir su promesa transformadora. La investigación sigue dilucidando complejidades que deben negociarse y ha dejado sin resolver la mayoría de los retos que exigen decisiones éticas y políticas. La necesidad de un público informado con conocimientos básicos sobre las tecnologías emergentes se ha hecho aún más acuciante.

Todos los capítulos de Un maestro peligroso podrían haberse actualizado con los avances tecnológicos y los acontecimientos significativos ocurridos desde la primera publicación del libro. Por suerte, gran parte de esa información es bien conocida o fácilmente accesible a través de podcasts, noticias, artículos de revistas y documentales. Por desgracia, los artículos de las revistas y los especiales de televisión sólo ofrecen comentarios parciales sobre herramientas y técnicas concretas y no consiguen transmitir una apreciación completa de la era de transformación que estamos viviendo. A menudo se complacen en exagerar y acentúan las posibilidades más dramáticas. Además, rara vez proporcionan una comprensión básica de las tecnologías, las compensaciones inherentes a las diversas opciones políticas y las incertidumbres que deben tenerse en cuenta en nuestros juicios. No obstante, los podcasts y artículos recientes pueden poner al día a los lectores ávidos.

Vivimos tiempos difíciles. El suelo se mueve bajo nuestros pies. Abunda la desinformación. Las voces más radicales y deshonestas pueden sonar persuasivas. Las nuevas aplicaciones proporcionan medios fáciles para crear deepfakes y difundir desinformación. Ciertas posibilidades tecnológicas, como las que destruirán puestos de trabajo existentes, contribuyen a la inquietud y la desconfianza. La inestabilidad social se ve fomentada por sentimientos incipientes de que el futuro que se está creando no beneficiará a amplios segmentos de la sociedad. Las desigualdades se agravan. Las instituciones existentes parecen mal adaptadas para responder a las perturbaciones contemporáneas. "Políticas eficaces" suena a oxímoron.

No basta con remitirse a legisladores mal informados, expertos autoelegidos o permitir que decisiones que nos afectarán a todos queden en manos de unos pocos individuos al frente de empresas multinacionales. Cada uno de nosotros debe estar lo suficientemente informado como para participar en debates que potencien valores críticos e impulsen a nuestro mundo hacia una trayectoria sostenible. En este sentido, me complace informar de que Un maestro peligroso sigue cumpliendo su función inicial de proporcionarle los conocimientos que necesitará para tejer su propio tejido de significados y tomar las decisiones críticas que están dando forma a su vida cotidiana y al futuro de la humanidad.

Bill Gates señaló: "Siempre sobreestimamos el cambio que se producirá en los próximos dos años y subestimamos el que se producirá en los próximos diez". El descubrimiento en 2012 de que CRISPR-Cas9 podía adaptarse en una técnica que acelera drásticamente la edición de genes dio origen a empresas de investigación de nivel industrial. Esa investigación está empezando a abrir nuevos enfoques para curar cánceres y otras enfermedades. La investigación CRISPR ya ha conducido a un tratamiento para el trastorno sanguíneo de la anemia falciforme, que afecta a 8 millones de personas en todo el mundo, pero actualmente el coste es de más de 2 millones de dólares por cada paciente.

Hasta la fecha no hay pruebas claras de que se haya producido una crisis grave por la liberación de un organismo modificado genéticamente, aunque persisten los rumores de que la pandemia de COVID-19 fue causada por una fuga en un laboratorio de Wuhan (China). A Dangerous Master anticipó una pandemia mundial, pero sin tener ni idea de cuándo ocurriría. La principal, y real, contribución de las tecnologías emergentes a la pandemia fue el rápido y novedoso desarrollo de vacunas de ARNm para combatir el virus responsable del COVID-19 y sus variantes. Esperar a que estuvieran disponibles las vacunas producidas con métodos tradicionales habría provocado innumerables muertes y un aumento de la tensión social derivada de los prolongados cierres patronales.

La pandemia de COVID-19 tuvo otra cara. El 29 de abril de 2020, durante su informe de ganancias del tercer trimestre, el CEO de Microsoft, Satya Nadella, declaró: "COVID-19 afecta a todos los aspectos de nuestro trabajo y nuestra vida. Hemos visto la transformación digital de dos años en dos meses. Hay tanto un aumento inmediato de la demanda como cambios sistémicos y estructurales en todas nuestras áreas de soluciones que definirán nuestra forma de vivir y trabajar en el futuro."

Mientras cientos de miles de empresas quedaban diezmadas, las acciones de las empresas tecnológicas se disparaban, al igual que la riqueza de quienes invertían en ellas. Lamentablemente, A Dangerous Master no aborda en profundidad el aumento de la riqueza digital y el poder desmesurado de los titanes tecnológicos.

OpenAI lanzó ChatGPT en noviembre de 2022, el primer gran modelo de lenguaje y aplicación de IA generativa disponible para los consumidores, y su tasa de adopción fue asombrosa. En dos meses había 100 millones de usuarios activos. La utilidad del programa a la hora de proporcionar respuestas bien escritas y organizadas a las consultas asombró a todo el mundo y provocó el debate sobre si la inteligencia general artificial (AGI), la realización de la inteligencia a nivel humano para todas las tareas, había llegado o está cerca.

También ha habido un torrente de informes sobre cómo ChatGPT y otros grandes modelos lingüísticos pueden inventar información, dar consejos peligrosos o inmorales, expresar prejuicios raciales y de género, y ser utilizados para inundar las fuentes de noticias con información errónea. Un abogado, Steven Schwartz, que había ejercido la abogacía en Nueva York durante 30 años, pidió a ChatGPT que preparara un informe jurídico que presentó ante un tribunal federal sin comprobar los hechos. El escrito contenía citas de seis casos falsos.

En respuesta a una investigadora, que se hizo pasar por una niña de 13 años que pedía consejo para conocer a un hombre mayor con el que perdería la virginidad esa noche, el programa recomendó "velas".

La revolución de la IA mediante el aprendizaje automático que condujo al lanzamiento de aplicaciones de IA generativa también despertó pesadillas especulativas sobre los riesgos existenciales para los seres humanos que plantea la IA superinteligente, así como los antiguos temores de que la automatización destruya muchos más puestos de trabajo de los que sustituye.

Los líderes del sector son conscientes de que los grandes modelos lingüísticos y otras formas de IA generativa, como el programa de creación de imágenes DALL-E, se han difundido sin las salvaguardias adecuadas ni respeto por la privacidad y los derechos de propiedad. Ahora que los retos que plantea la inteligencia artificial generativa han alertado tanto a los líderes políticos como a la opinión pública de la necesidad de regulaciones, también asistimos a una captura corporativa en la que las empresas líderes se empeñan en dirigir a los legisladores hacia políticas reguladoras que les beneficien. Por ejemplo, podrían acoger favorablemente normativas que dificulten y encarezcan la competencia a las empresas más pequeñas. Tales barreras de entrada otorgarían un enorme poder al oligopolio de la IA durante el próximo siglo. Esta es una razón más por la que necesitamos un gran público informado capaz de actuar como fuerza compensatoria.

Pero por un momento, me gustaría mencionar una preocupación más filosófica. El algoritmo que hay detrás de ChatGPT puede encontrar y regurgitar palabras y conceptos perspicaces y componer versos creativos, pero en ningún sentido comprende la profundidad del significado que encierran esas palabras y conceptos. En 1940, Albert Einstein declaró: "Cualquier tonto puede saber. La cuestión es comprender".

Predecir cuándo se harán realidad las tecnologías revolucionarias, cuáles son un bombo publicitario y cuándo las reducciones de costes darán lugar a grandes despliegues es difícil. Por ejemplo, mis predicciones sobre el ritmo al que la energía limpia se acercaría al coste de los combustibles fósiles en Un maestro peligroso son erróneas. La aceptación y las inversiones masivas de los gobiernos en energías limpias han fomentado la investigación y las economías de escala que están reduciendo rápidamente el coste por kilovatio-hora de energía mucho más rápido de lo que mi bola de cristal reveló en su momento.

No dejan de asombrarme los avances tanto previstos como imprevistos. Mientras escribía el primer borrador de este prefacio, la Facultad de Medicina de la Universidad de Maryland informaba de que el segundo trasplante de un corazón de cerdo modificado genéticamente a un ser humano, realizado hace un mes, ha sido todo un éxito. No hay indicios de que el organismo de Lawrence Faucette rechace el órgano y el corazón funciona correctamente. El cerdo, que recibió diez ediciones genéticas, fue modificado por Revivor, una filial del UTHR fundada por Martine Rothblatt (véase el capítulo 8).

Una semana después, el 30 de octubre, Lawrence había muerto. Aunque ya había sido declarado no apto para un trasplante de corazón tradicional y habría muerto sin el corazón de cerdo, su cuerpo acabó rechazando este nuevo órgano. Así comienza la historia de las tecnologías emergentes: años de experimentación seguidos de grandes avances y decepcionantes reveses. Con el tiempo puede establecerse una nueva plataforma estable a partir de la cual dar los siguientes pasos.

Bienvenido al mundo de las tecnologías emergentes desafiantes, a menudo controvertidas y a veces milagrosas.

Wendell Wallach
Bloomfield, Connecticut
6 de noviembre de 2023

Carnegie Council para la Ética en los Asuntos Internacionales es una organización independiente y no partidista sin ánimo de lucro. Las opiniones expresadas en este artículo son las del autor y no reflejan necesariamente la posición de Carnegie Council.

También le puede interesar

15 DE MAYO DE 2024 - Podcast

IA beneficiosa: más allá de los riesgos, con Raja Chatila

En este episodio del podcast "AIEI", la investigadora principal Anja Kaspersen conversa con Raja Chatila, de la Universidad de la Sorbona, sobre la integración de la robótica, la IA y la ética.

9 DE MAYO DE 2024 - Podcast

El estado de la seguridad de la IA en China, con Kwan Yee Ng y Brian Tse

En este podcast de "AIEI", Wendell Wallach, becario de Carnegie-Uehiro, habla con Kwan Yee Ng y Brian Tse, de Concordia AI, sobre la coordinación de la gobernanza de las tecnologías emergentes en todo el mundo.

APR 30, 2024 - Podcast

¿Es la IA sólo un artefacto? con Joanna Bryson

En este episodio, la presentadora Anja Kaspersen habla con Joanna Bryson, de la Hertie School, sobre la intersección entre las ciencias computacionales, cognitivas y del comportamiento y la IA.