Proyecto integrador · Ética y Axiología · Fase 2

Inteligencia artificial en el diagnóstico médico

¿Quién responde cuando un algoritmo participa en la decisión sobre la salud de una persona?

Integrante

  • Juan Pablo Galeano Restrepo

Programa académico

Ética y Axiología

Universidad Católica Luis Amigó

Curso de Ética y Axiología · 2026

Explorar el dilema

Sección 1

Presentación del dilema

Esta sección permite comprender el conflicto antes de iniciar el análisis: de dónde surge, en qué consiste, quiénes participan y por qué importa.

Contextualización

En la última década, los sistemas de inteligencia artificial (IA) basados en aprendizaje profundo han alcanzado un desempeño comparable al de especialistas humanos en tareas de diagnóstico por imagen, como la clasificación de lesiones cutáneas (Esteva et al., 2017) o la lectura de mamografías (McKinney et al., 2020). La promesa es clara: diagnósticos más rápidos, más baratos y disponibles en lugares donde escasean los especialistas.

Sin embargo, estos sistemas aprenden de datos históricos que reflejan desigualdades existentes, funcionan como "cajas negras" difíciles de auditar y desplazan parte del juicio clínico hacia un artefacto técnico diseñado por empresas privadas (Topol, 2019; Morley et al., 2020).

Descripción del problema

Caso ilustrativo. Un hospital de mediana complejidad incorpora un sistema de IA para apoyar la lectura de radiografías de tórax. En un turno nocturno, el sistema marca como "normal" la imagen de una paciente de 58 años; el médico de urgencias, con alta carga de trabajo, confía en la lectura y la da de alta. Tres semanas después se confirma un carcinoma que ya era visible en la imagen original.

El dilema no es solo "¿funcionó mal la máquina?", sino: ¿hasta dónde puede un profesional delegar su juicio en un algoritmo? ¿Quién es responsable del error? ¿Fue informada la paciente de que una IA participaba en su diagnóstico? ¿Cómo se garantiza que el sistema funcione igual de bien para todas las poblaciones?

Actores involucrados

Pacientes y familias

Titulares del derecho a la salud, a la información y a decidir sobre su cuerpo.

Profesionales de la salud

Conservan la responsabilidad clínica y ética del acto médico (Ley 23 de 1981).

Desarrolladores y empresas

Diseñan, entrenan y comercializan los sistemas; deciden qué datos y qué métricas usar.

Instituciones de salud y EPS

Adoptan la tecnología buscando eficiencia; definen protocolos de uso y supervisión.

Estado y reguladores

Ministerio de Salud, INVIMA, Superintendencia de Industria y Comercio: vigilan seguridad y datos.

Comunidad científica

Valida la evidencia, detecta sesgos y propone estándares de evaluación.

Contexto del dilema

Colombia tiene una distribución muy desigual de especialistas: la mayoría se concentra en grandes ciudades, mientras amplias zonas rurales dependen de médicos generales y de la telemedicina. La IA diagnóstica aparece como una herramienta para cerrar esa brecha, pero también puede ampliarla si los sistemas se entrenan con datos de poblaciones distintas a las que atenderán (Obermeyer et al., 2019). A esto se suma una relación médico-paciente ya tensionada por tiempos de consulta cortos y una creciente desconfianza en el sistema de salud.

¿Por qué importa este tema?

Porque la decisión diagnóstica es el punto de partida de todo el acto médico: un error en ese momento se propaga al tratamiento, al pronóstico y a la vida de la persona. Porque la IA ya está siendo adoptada en hospitales colombianos sin que exista un debate público amplio sobre sus condiciones de uso. Y porque, como ciudadanos y futuros profesionales, nos corresponde decidir qué tipo de medicina queremos: una en la que la tecnología amplifique el cuidado humano o una en la que lo reemplace silenciosamente.

Sección 2

Análisis interdisciplinario

Una investigación que permite comprender el dilema desde la ética y desde las disciplinas que lo atraviesan: medicina, ingeniería, derecho y psicología.

A Perspectiva ética

Valores en conflicto

Innovación y eficienciavs.Seguridad y prudencia
Acceso ampliadovs.Equidad real en el desempeño
Uso de datos para el bien comúnvs.Privacidad e intimidad
Objetividad algorítmicavs.Juicio clínico y relación humana

Principios bioéticos (Beauchamp y Childress, 2019)

Beneficencia

La IA promete detectar enfermedades antes y con mayor precisión. Pero el beneficio debe demostrarse en resultados clínicos reales, no solo en métricas de exactitud (Topol, 2019).

No maleficencia

Un falso negativo retrasa el tratamiento; un falso positivo genera ansiedad y procedimientos innecesarios. La "automatización del sesgo" lleva al profesional a aceptar recomendaciones erróneas (Goddard et al., 2012).

Autonomía

El paciente tiene derecho a saber que una IA participa en su diagnóstico, a comprender sus límites y a rechazar su uso. Sin explicabilidad no hay consentimiento informado genuino.

Justicia

Algoritmos entrenados con datos de poblaciones mayoritarias pueden funcionar peor en minorías étnicas o zonas rurales, reproduciendo desigualdades estructurales (Obermeyer et al., 2019).

Teorías éticas relacionadas

Utilitarismo

Si la IA reduce errores en promedio y permite atender a más personas, maximiza el bienestar agregado. Crítica: el "promedio" puede ocultar daños concentrados en grupos vulnerables.

Deontología kantiana

El paciente nunca debe ser tratado como un mero medio (un dato más de entrenamiento). Exige consentimiento, veracidad y respeto a la dignidad con independencia de los resultados.

Ética de la virtud

Pregunta qué haría un buen médico: usar la herramienta con prudencia, mantener la competencia propia y no abandonar el juicio clínico por comodidad.

Ética del cuidado

Resalta la relación, la escucha y la vulnerabilidad del paciente (Gilligan, 1982). Un diagnóstico es también un acto de acompañamiento que una máquina no puede dar.

Principio de responsabilidad

Jonas (1995) exige cautela ante tecnologías cuyos efectos a largo plazo no conocemos: "obra de tal modo que los efectos de tu acción sean compatibles con la permanencia de una vida humana auténtica".

Principialismo

Marco dominante en bioética clínica: los cuatro principios se ponderan caso a caso. Es el enfoque que usamos en la deliberación (Sección 4).

Tensiones morales

  • Responsabilidad difusa. Cuando el error es compartido entre médico, hospital y fabricante, el riesgo es que nadie responda ante el paciente (Gerke et al., 2020).
  • Opacidad vs. confianza. ¿Es ético usar una herramienta cuyas razones no podemos explicar, aunque funcione mejor que nosotros? (Char et al., 2018).
  • Desprofesionalización. Si los médicos dejan de practicar la lectura de imágenes, ¿quién detectará cuando el algoritmo falle?
  • Datos como bien común o mercancía. Los historiales clínicos de miles de pacientes entrenan sistemas privados que luego se venden a los mismos hospitales.

B Perspectiva disciplinar

Medicina: evidencia clínica y límites

Esteva et al. (2017) entrenaron una red neuronal con 129 450 imágenes clínicas y lograron un desempeño comparable al de 21 dermatólogos en la clasificación de cáncer de piel. McKinney et al. (2020) reportaron que un sistema de IA redujo los falsos positivos y los falsos negativos en tamizaje de cáncer de mama en Reino Unido y Estados Unidos. Sin embargo, Topol (2019) señala que casi ninguno de estos sistemas ha sido evaluado en ensayos clínicos aleatorizados y que la mayoría de los estudios son retrospectivos.

Desde la práctica clínica, la IA se concibe como un "segundo lector" o sistema de apoyo a la decisión, nunca como diagnosticador autónomo. La Ley 23 de 1981 (art. 10) obliga al médico a dedicar al paciente el tiempo necesario para hacer una evaluación adecuada, lo que implica que la responsabilidad del diagnóstico sigue siendo personal e indelegable.

Ingeniería y ciencia de datos: sesgos, opacidad y validación

Un modelo solo es tan bueno como sus datos. Obermeyer et al. (2019) demostraron que un algoritmo usado con millones de pacientes en Estados Unidos asignaba menos recursos a pacientes afroamericanos porque usaba el "gasto en salud" como indicador de necesidad, y ese gasto era históricamente menor por barreras de acceso. El sesgo no estaba en el código, sino en la variable elegida.

Buenas prácticas de ingeniería responsable: validación externa en la población de destino, reporte de desempeño por subgrupos (sexo, edad, etnia, tipo de equipo), monitoreo continuo tras el despliegue, trazabilidad de versiones y técnicas de explicabilidad (mapas de calor, atribución de características) que permitan al clínico contrastar la salida del modelo con su propio criterio.

Derecho: marco normativo colombiano e internacional
  • Ley 23 de 1981. Normas de ética médica: responsabilidad del profesional, secreto profesional y consentimiento.
  • Ley 1581 de 2012. Los datos de salud son datos sensibles; su tratamiento exige autorización explícita y finalidad legítima. Entrenar modelos con historias clínicas sin autorización vulnera la ley.
  • Ley 1751 de 2015. La salud es un derecho fundamental; el Estado debe garantizar accesibilidad, calidad y no discriminación, principios aplicables a cualquier tecnología sanitaria.
  • Resolución 2654 de 2019. Regula la telesalud y la telemedicina, primer marco en el que operan muchos sistemas de diagnóstico asistido.
  • CONPES 3975 de 2019. Política nacional de transformación digital e IA: promueve la adopción, pero reconoce la necesidad de un marco ético.
  • Reglamento (UE) 2024/1689. La Ley de IA europea clasifica los dispositivos médicos con IA como de alto riesgo: exige gestión de riesgos, calidad de datos, supervisión humana, transparencia y registro.
  • OMS (2021) y UNESCO (2021). Guías internacionales que establecen principios de autonomía humana, bienestar, transparencia, responsabilidad, inclusión y sostenibilidad.
Psicología y comunicación: confianza y sesgo de automatización

Goddard et al. (2012) documentan el sesgo de automatización: la tendencia a aceptar la recomendación de un sistema automatizado incluso cuando contradice la evidencia disponible. Este fenómeno se agrava con la fatiga, la presión de tiempo y la percepción de que "la máquina es más objetiva".

Desde la comunicación en salud, informar al paciente que "una IA revisó su examen" puede aumentar la confianza o generar rechazo, dependiendo de cómo se explique. La forma en que se comunica el papel de la tecnología hace parte del consentimiento informado y de la relación terapéutica.

Sección 3

La voz de la experiencia

Entrevista a un profesional cuya experiencia resulta pertinente para comprender el dilema desde la práctica.

[Nombre del entrevistado]

[Profesión / cargo, por ejemplo: Médico radiólogo, Hospital X]

Breve presentación

[Formación, años de experiencia, relación con el uso de tecnologías diagnósticas o con la atención de pacientes.]

Justificación de su elección

Elegimos a un profesional del área de la salud con experiencia en diagnóstico porque es quien enfrenta en la práctica la tensión entre el juicio clínico y la recomendación algorítmica. Su perspectiva permite contrastar la literatura académica con la realidad de los hospitales colombianos: la disponibilidad de tecnología, la formación del personal, la relación con los pacientes y la forma en que se asume la responsabilidad ante un error.

[Completar con razones específicas: por qué esta persona, qué aporta su trayectoria, qué vínculo tiene con el dilema.]

Video de la entrevista

Duración: 3 a 5 minutos. El entrevistado aparece en el video junto al entrevistador.

Preguntas más significativas de la batería construida en el foro

  1. ¿Ha utilizado o conoce sistemas de inteligencia artificial que apoyen el diagnóstico en su práctica? ¿Qué experiencia ha tenido?
  2. Si una IA y su criterio clínico discrepan frente a un mismo examen, ¿cómo decide y por qué?
  3. ¿Considera que los pacientes deben ser informados cuando un algoritmo participa en su diagnóstico? ¿Cómo lo explicaría?
  4. ¿Quién debería responder legal y éticamente cuando un diagnóstico asistido por IA resulta equivocado?
  5. ¿Qué riesgos ve en entrenar estos sistemas con datos de poblaciones distintas a la colombiana?
  6. ¿Cree que la IA puede ampliar el acceso al diagnóstico en zonas rurales o, por el contrario, profundizar las desigualdades?
  7. ¿Qué debería exigirse a una institución antes de implementar una herramienta de este tipo?
  8. ¿Cómo cambia la relación médico-paciente cuando hay un tercer "actor" tecnológico en la consulta?

Principales aportes de la entrevista

01

[Aporte 1: por ejemplo, cómo se usa hoy la IA en su institución y qué limitaciones ha encontrado.]

02

[Aporte 2: su postura sobre la responsabilidad y la supervisión humana.]

03

[Aporte 3: su visión sobre el consentimiento y la comunicación con el paciente.]

04

[Aporte 4: riesgos de sesgo y equidad que identifica en el contexto colombiano.]

05

[Aporte 5: condiciones que considera indispensables para una adopción responsable.]

06

[Aporte 6: una frase o idea que resuma su posición.]

Sección 4

Deliberación ética

A partir de la información recopilada, identificamos los conflictos, analizamos las posiciones, relacionamos los principios y argumentamos una postura sustentada.

Recurso multimedia de la deliberación

Presentamos esta sección mediante un podcast y una infografía narrada.

🎙️ Podcast: "Diagnóstico compartido"

[Si el podcast está en Spotify, SoundCloud o YouTube, reemplaza el reproductor por el código de inserción correspondiente.]

Infografía narrada: ruta de la deliberación

1

Principales conflictos éticos

  • Delegación del juicio clínico: ¿cuánto puede confiar el médico en la máquina sin incumplir su deber de diligencia?
  • Consentimiento informado incompleto: los pacientes rara vez saben que una IA participa en su atención.
  • Responsabilidad fragmentada: médico, hospital y fabricante se señalan mutuamente ante un error.
  • Injusticia algorítmica: el desempeño no es uniforme entre poblaciones.
  • Uso de datos sensibles: historias clínicas convertidas en insumo comercial.
2

Posiciones existentes

Tecno-optimista

La IA supera al humano en precisión; retrasar su adopción es, en sí mismo, una forma de maleficencia porque priva a los pacientes de un mejor diagnóstico.

Precautoria

Mientras no haya ensayos clínicos, explicabilidad y regulación específica, la IA no debería intervenir en decisiones diagnósticas; el riesgo de daño invisible es demasiado alto.

Integradora (supervisión humana significativa)

La IA puede y debe usarse, pero como apoyo al profesional, con validación local, transparencia hacia el paciente y responsabilidades claramente asignadas.

3

Relaciones entre los principios bioéticos

Beneficio demostrado, no solo prometido Decidir con información sobre sus límites Equidad en el desempeño Consentimiento ante el riesgo Beneficencia No maleficencia Justicia Autonomía Supervisión humana

Los cuatro principios no se aplican de forma aislada. La beneficencia que promete la IA solo es legítima si se acompaña de no maleficencia demostrada en ensayos y monitoreo. La justicia exige que ese beneficio alcance a todas las poblaciones, lo que a su vez condiciona qué datos se usan y cómo se valida el sistema. Y la autonomía del paciente solo puede ejercerse si conoce los riesgos y límites de la herramienta. El punto de equilibrio es la supervisión humana significativa: el profesional conserva la decisión final y la responsabilidad.

4

Nuestra postura argumentada

La IA diagnóstica es éticamente admisible solo como herramienta de apoyo bajo supervisión humana significativa, con validación local, transparencia hacia el paciente y responsabilidad claramente asignada.

  1. Argumento de beneficencia condicionada. La evidencia (Esteva et al., 2017; McKinney et al., 2020) muestra beneficios potenciales reales. Rechazar la tecnología por principio sería privar a los pacientes de ellos; pero adoptarla sin validación prospectiva en la población de destino convierte la promesa en una apuesta (Topol, 2019).
  2. Argumento de no maleficencia. El sesgo de automatización (Goddard et al., 2012) y los sesgos de datos (Obermeyer et al., 2019) son daños documentados. La única barrera eficaz es un profesional competente que mantenga su criterio y pueda contradecir al sistema, lo que exige formación continua y tiempos de consulta adecuados.
  3. Argumento de autonomía. Desde Kant y desde la Ley 23 de 1981, el paciente debe ser informado de que una IA participa en su diagnóstico, de su margen de error y de su derecho a solicitar una segunda lectura humana. Sin esto, el consentimiento es ficticio.
  4. Argumento de justicia. La Ley 1751 de 2015 prohíbe la discriminación en el acceso a la salud. Un sistema que funciona peor en poblaciones rurales, afrodescendientes o indígenas vulnera ese mandato. Por ello exigimos reporte de desempeño por subgrupos y validación con datos colombianos.
  5. Argumento de responsabilidad. Siguiendo a Jonas (1995) y a Gerke et al. (2020), la responsabilidad no puede diluirse: el médico responde por la decisión clínica, la institución por la implementación y supervisión, y el fabricante por el desempeño declarado del producto. La regulación debe hacer explícita esta cadena, como lo hace la Ley de IA europea (Reglamento 2024/1689).

Esta postura integradora reconoce lo valioso de las posiciones tecno-optimista (el beneficio potencial) y precautoria (el riesgo de daño invisible), pero rechaza sus extremos: ni adopción acrítica ni prohibición. El criterio es que la tecnología amplifique el cuidado humano, no que lo sustituya.

Sección 5

Conclusiones

Principales conclusiones y reflexiones obtenidas durante el proyecto.

¿Qué aprendimos?

Que un dilema bioético no se resuelve eligiendo "a favor" o "en contra" de una tecnología, sino identificando las condiciones bajo las cuales su uso respeta a las personas. Aprendimos a distinguir entre exactitud estadística y beneficio clínico, a reconocer que el sesgo puede estar en una variable aparentemente neutral y a leer la normativa colombiana como un marco ético, no solo legal.

¿Cómo cambió nuestra comprensión?

Al inicio veíamos el problema como una cuestión técnica: "¿la IA acierta más que el médico?". Al final comprendimos que la pregunta central es sobre relaciones de poder, responsabilidad y confianza: quién decide, quién responde y quién queda excluido. La entrevista mostró que, en la práctica, las tensiones no están en el algoritmo sino en las condiciones institucionales en que se usa.

Importancia de la deliberación bioética

Como futuros profesionales, tomaremos decisiones que afectan a otros con herramientas que no diseñamos. La deliberación bioética ofrece un método para no delegar esas decisiones ni en la máquina ni en la costumbre. Como ciudadanos, nos permite exigir que la innovación en salud se discuta públicamente y rinda cuentas, en lugar de llegar como un hecho consumado.

Síntesis

La inteligencia artificial puede hacer mejor medicina si, y solo si, hay humanos que sigan siendo responsables de ella. El reto no es técnico, es ético e institucional: construir las condiciones para que la tecnología amplifique el cuidado en lugar de reemplazarlo.

Sección 6

Referencias

Fuentes consultadas, presentadas en normas APA (7.ª edición).

Artículos científicos y libros

  • Beauchamp, T. L., & Childress, J. F. (2019). Principles of biomedical ethics (8.ª ed.). Oxford University Press.
  • Char, D. S., Shah, N. H., & Magnus, D. (2018). Implementing machine learning in health care: Addressing ethical challenges. New England Journal of Medicine, 378(11), 981–983. https://doi.org/10.1056/NEJMp1714229
  • Esteva, A., Kuprel, B., Novoa, R. A., Ko, J., Swetter, S. M., Blau, H. M., & Thrun, S. (2017). Dermatologist-level classification of skin cancer with deep neural networks. Nature, 542(7639), 115–118. https://doi.org/10.1038/nature21056
  • Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). AI4People: An ethical framework for a good AI society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689–707. https://doi.org/10.1007/s11023-018-9482-5
  • Gerke, S., Minssen, T., & Cohen, G. (2020). Ethical and legal challenges of artificial intelligence-driven healthcare. En A. Bohr & K. Memarzadeh (Eds.), Artificial intelligence in healthcare (pp. 295–336). Academic Press. https://doi.org/10.1016/B978-0-12-818438-7.00012-5
  • Gilligan, C. (1982). In a different voice: Psychological theory and women's development. Harvard University Press.
  • Goddard, K., Roudsari, A., & Wyatt, J. C. (2012). Automation bias: A systematic review of frequency, effect mediators, and mitigators. Journal of the American Medical Informatics Association, 19(1), 121–127. https://doi.org/10.1136/amiajnl-2011-000089
  • Jonas, H. (1995). El principio de responsabilidad: Ensayo de una ética para la civilización tecnológica. Herder. (Obra original publicada en 1979)
  • McKinney, S. M., Sieniek, M., Godbole, V., Godwin, J., Antropova, N., Ashrafian, H., Back, T., Chesus, M., Corrado, G. S., Darzi, A., Etemadi, M., Garcia-Vicente, F., Gilbert, F. J., Halling-Brown, M., Hassabis, D., Jansen, S., Karthikesalingam, A., Kelly, C. J., King, D., … Shetty, S. (2020). International evaluation of an AI system for breast cancer screening. Nature, 577(7788), 89–94. https://doi.org/10.1038/s41586-019-1799-6
  • Morley, J., Machado, C. C. V., Burr, C., Cowls, J., Joshi, I., Taddeo, M., & Floridi, L. (2020). The ethics of AI in health care: A mapping review. Social Science & Medicine, 260, Artículo 113172. https://doi.org/10.1016/j.socscimed.2020.113172
  • Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447–453. https://doi.org/10.1126/science.aax2342
  • Topol, E. J. (2019). High-performance medicine: The convergence of human and artificial intelligence. Nature Medicine, 25(1), 44–56. https://doi.org/10.1038/s41591-018-0300-7

Documentos legales y normativos

Informes técnicos y páginas institucionales

Entrevista

  • [Apellido, Inicial del entrevistado]. (2026, [día] de [mes]). Entrevista sobre inteligencia artificial en el diagnóstico médico [Video]. Entrevista realizada por [Nombre del entrevistador]. YouTube. https://www.youtube.com/watch?v=VIDEO_ID

Las imágenes y diagramas de este micrositio son ilustraciones vectoriales de elaboración propia con fines académicos.