Definición e introducción
La toma de decisiones con IA se refiere a los procesos en los que los sistemas de inteligencia artificial (IA) proporcionan orientación o información para ayudar a los humanos a tomar decisiones. En algunos de estos procesos, la IA desempeña un papel de apoyo en el que los resultados son revisados y analizados por humanos antes de llegar a una conclusión. Pero a medida que los sistemas de IA evolucionan, su papel en los procesos de toma de decisiones puede ser más importante, lo que introduce nuevos problemas éticos.
La toma de decisiones mediante IA se utiliza en muchos campos y aplicaciones:
- Sanidad: La IA ayuda a los profesionales médicos a diagnosticar enfermedades analizando los resultados de laboratorio y los historiales de los pacientes.
- Finanzas: Los algoritmos de IA evalúan la solvencia crediticia y se utilizan en la detección del fraude.
- Política: Los agentes de IA influyen en procesos deliberativos formales e informales como las asambleas ciudadanas y la difusión de ideas en espacios digitales.
- Ventas: Las herramientas de IA dentro de las plataformas de datos de clientes pueden automatizar la prospección basada en la intención del comprador.
- Vigilancia policial: Los sistemas de fusión de datos, que aprovechan la IA, permiten a la policía desarrollar sofisticadas hipótesis sobre quién puede o no haber cometido un delito.
Explore los siguientes recursos para obtener más información sobre los retos éticos relacionados con la toma de decisiones mediante IA.
Arriesgar la escalada en aras de la eficiencia: Implicaciones éticas de la toma de decisiones con IA en los conflictos
Max Lamparth, de la Universidad de Stanford, analiza el potencial de la IA para la toma de decisiones en contextos militares estratégicos y comparte las conclusiones de dos proyectos de investigación sobre las tendencias escalatorias de los grandes modelos lingüísticos.
Más recursos sobre la toma de decisiones con IA
13 DE NOVIEMBRE DE 2024 - Artículo
Una zona gris ética: Agentes de IA en las deliberaciones políticas
12 SEP 2024 - Artículo
De los principios a la acción: Trazando un camino para la gobernanza de la IA militar
A medida que la inteligencia artificial modifica las dimensiones éticas de la guerra, las partes interesadas deben colaborar para aumentar la transparencia y la gobernanza de esta tecnología emergente, escribe la Dra. Brianna Rosen.
9 DE MAYO DE 2022 - Podcast
¿Algún avance en la construcción de máquinas morales? con Colin Allen
Anja Kaspersen y Wendell Wallach hablan con el profesor Colin Allen, de la Universidad de Pittsburgh, para evaluar cómo hemos avanzado en la construcción de sistemas de IA capaces de tomar decisiones morales.
¿Has utilizado un gran modelo lingüístico como ChatGPT para trabajar?
Tomar decisiones cuando los valores entran en conflicto o se priorizan de forma diferente
Paul Root Wolpe, de la Universidad de Emory, habla con Wendell Wallach, becario de Carnegie-Uehiro, sobre la toma de decisiones éticas y el reto de regular nuevas tecnologías cuyo impacto es incierto.
Preguntas para el debate
- ¿Deberían los humanos tener siempre la capacidad de anular una decisión tomada por la IA independientemente del contexto?
- ¿En qué condiciones se puede dar más autonomía a la IA para que tome decisiones sin supervisión humana, si es que la hay?
- ¿Debería exigirse a los sistemas de IA que expliquen sus decisiones? ¿Por qué sí o por qué no?
- ¿Cómo debe distribuirse la responsabilidad entre los desarrolladores, los usuarios o la propia IA cuando un sistema de IA participa en una decisión que culmina en un mal resultado?
- ¿Qué directrices éticas deben regir el uso de sistemas de IA para la toma de decisiones? ¿Cómo cambian esas directrices en función del contexto?
- ¿Cómo podemos mejorar la equidad en la toma de decisiones de la IA?
- ¿Debe regularse el desarrollo de sistemas de toma de decisiones basados en IA?
Para más información sobre la ética y la toma de decisiones en el ámbito de la IA, suscríbase al Boletín de Ética de Carnegie.
Recursos adicionales
Cómo la IA puede ayudar a los líderes a tomar mejores decisiones bajo presión
Mark Purdy y A. Mark Williams, que escriben para el "Harvard Business Journal", analizan cómo los líderes empresariales pueden beneficiarse eficazmente de las tecnologías de toma de decisiones basadas en la IA, al tiempo que mitigan los riesgos.
LeerCómo la inteligencia artificial transformará la toma de decisiones
En un artículo para el Foro Económico Mundial, Philip Meissner y Yusuke Narita analizan cómo la confianza, el acceso y la integración determinarán la velocidad de adopción de la IA para la toma de decisiones.
LeerAumentan las preocupaciones éticas a medida que la IA toma decisiones en más sectores
En "The Harvard Gazette", Christina Pazzanese examina las promesas y los posibles escollos de la inteligencia artificial y el aprendizaje automático en el contexto de la toma de decisiones.
LeerInstituto de Inteligencia Artificial para la Toma de Decisiones Sociales
El instituto de la Universidad Carnegie Mellon "reúne a investigadores de IA y ciencias sociales para desarrollar una IA centrada en el ser humano para el bien de la sociedad".
Más información