El problema
La IA clínica no fracasa solo por fallar: también puede fracasar porque nadie sabe cuándo creerla.
Muchos sistemas de apoyo a la decisión prometen mejorar diagnósticos, tratamientos o eficiencia. Pero su adopción depende de una pregunta muy humana: si el profesional sanitario confía en la herramienta.
La confianza no significa obedecer a la IA. Significa comprender qué aporta, qué límites tiene, cuándo puede ayudar y cuándo conviene ignorarla.
El trabajo revisa la literatura reciente para entender qué elementos influyen en esa confianza entre profesionales sanitarios.
Por qué es difícil
La precisión no lo explica todo
Una métrica alta puede ocultar errores raros, sesgos o recomendaciones difíciles de justificar.
La medicina tiene responsabilidad
El profesional debe responder por la decisión, incluso cuando recibe ayuda de un algoritmo.
La caja negra incómoda
Si no se entiende de dónde sale una recomendación, cuesta incorporarla a una decisión clínica.
El flujo de trabajo manda
Una alerta mal integrada puede parecer ruido, aunque el modelo sea técnicamente correcto.
La idea principal
La revisión muestra que la confianza en una IA clínica se construye con varias piezas: transparencia, fiabilidad, formación, facilidad de uso, seguridad, ética y encaje con el trabajo diario.
No se trata de pedir fe en el algoritmo. Se trata de diseñar sistemas que permitan al profesional evaluar la recomendación, contrastarla y decidir con criterio.
Una IA clínica fiable no pide obediencia: ofrece razones, límites y contexto para ayudar a decidir.
Una forma sencilla de verlo
Es como recibir una segunda opinión. Aporta valor si explica su razonamiento, no si solo dice: hazme caso.
Cómo se resolvió
Los autores realizaron una revisión sistemática de estudios publicados entre enero de 2020 y noviembre de 2024 sobre confianza en sistemas de apoyo a la decisión clínica basados en IA.
Buscar evidencia reciente
La revisión se centra en trabajos sobre percepciones de profesionales sanitarios ante sistemas de apoyo a la decisión con IA.
Ordenar los factores de confianza
Los autores agrupan los hallazgos en temas como transparencia, usabilidad, fiabilidad clínica, formación y aspectos éticos.
Traducirlo a recomendaciones
El trabajo no se queda en describir barreras: propone mejorar diseño, explicabilidad, entrenamiento y evaluación en contexto.
Mirar la adopción real
La pregunta final no es solo si el modelo funciona, sino si puede usarse de forma responsable por profesionales reales.
Revisión sistemática
Sintetiza estudios previos para identificar patrones comunes en distintos entornos clínicos.
Enfoque humano
Analiza la confianza desde la perspectiva de quienes deben usar la herramienta.
Decision support
Sitúa la IA como apoyo a la decisión, no como sustituto automático del juicio profesional.
El experimento
Este artículo no prueba un algoritmo nuevo. Es una revisión sistemática: reúne estudios publicados y busca patrones sobre qué hace que una IA clínica sea percibida como confiable.
La búsqueda cubrió publicaciones desde enero de 2020 hasta noviembre de 2024 en bases como PubMed, Scopus y Google Scholar.
El resultado es un mapa de factores que influyen en la confianza de los profesionales sanitarios ante sistemas de apoyo a la decisión basados en IA.
Qué se descubrió
La confianza aparece cuando el sistema es comprensible, fiable, fácil de usar y compatible con la práctica clínica.
También importa que el profesional reciba formación. Una IA poco explicada puede generar rechazo, dependencia excesiva o uso incorrecto.
El trabajo subraya que la confianza debe ser calibrada: ni desconfianza automática ni aceptación ciega.
- La transparencia ayuda a reducir la sensación de caja negra.
- La usabilidad influye tanto como la calidad técnica.
- La formación es necesaria para interpretar bien las recomendaciones.
- La ética, la privacidad y la responsabilidad afectan a la adopción.
- La confianza debe ajustarse a los límites reales del sistema.
La mejor IA clínica no es la que exige confianza, sino la que permite comprobar por qué merece confianza.
Por qué importa
Este trabajo encaja directamente con los sistemas de apoyo a la decisión clínica: una recomendación solo es útil si el profesional puede entenderla y actuar sobre ella.
También conecta con reglas expertas e IA explicable. Las reglas no solo deben acertar; deben ser auditables, comprensibles y coherentes con el contexto clínico.
Para laboratorios, diagnóstico y plataformas de decisión, el mensaje es muy práctico: la adopción empieza antes del despliegue, en el diseño de la confianza.
Aplicaciones reales
Reglas clínicas
Mostrar por qué se activa una regla, qué datos la sostienen y qué excepciones deben revisarse.
Alertas de laboratorio
Evitar avisos opacos y priorizar mensajes claros, accionables y ajustados al contexto del paciente.
IA explicable
Usar explicaciones que ayuden a decidir, no gráficos decorativos difíciles de interpretar.
Gobernanza clínica
Definir responsabilidad, supervisión, auditoría y seguimiento tras desplegar el sistema.
Qué podemos aprender
La confianza en una IA clínica no se compra con precisión. Se construye con claridad, utilidad, integración y responsabilidad.
Preguntas frecuentes
Este comentario es una publicación propia
No. Es una explicación divulgativa de un trabajo de Hein Minn Tun, Hanif Abdul Rahman, Lin Naing y Owais Ahmed Malik.
El artículo dice que no debemos usar IA en medicina
No. Defiende que la IA puede ayudar, pero su adopción requiere confianza, transparencia, formación y evaluación responsable.
Confiar en una IA significa obedecerla
No. En decisión clínica, confiar significa saber cuándo una recomendación es útil, cuándo es dudosa y cómo contrastarla.
Trabajo comentado
Publicación original y recursos
Tun, H.M.; Rahman, H.A.; Naing, L.; Malik, O.A. Trust in Artificial Intelligence-Based Clinical Decision Support Systems Among Health Care Workers: Systematic Review. Journal of Medical Internet Research 2025, 27, e69678.