IA en la salud y responsabilidad clínica: por qué la gobernanza se ha vuelto esencial
Resumen:
La inteligencia artificial ya forma parte de la práctica clínica, apoyando diagnósticos, identificando riesgos y contribuyendo a la toma de decisiones asistenciales. A medida que estas tecnologías adquieren un papel más activo en el cuidado de los pacientes, surge una necesidad cada vez más evidente: establecer mecanismos de supervisión, transparencia y rendición de cuentas que garanticen su uso seguro y responsable.
En el quinto artículo de la serie «IA en la Salud: Credibilidad, Seguridad e Impacto en la Práctica Clínica», analizamos por qué la gobernanza de la IA debe integrarse a la gobernanza clínica y cómo las organizaciones de salud pueden estructurar procesos para evaluar, supervisar y monitorear estas herramientas a lo largo de todo su ciclo de vida. El texto aborda temas como responsabilidad profesional, clasificación de riesgos, transparencia, trazabilidad y el papel estratégico de la gobernanza en la transformación digital de la salud.
Principales temas abordados:
- El papel de la inteligencia artificial en la práctica clínica.
- Gobernanza, supervisión y responsabilidad en el uso de la IA.
- La IA como parte de la gobernanza clínica.
- Evaluación, seguimiento y gestión de riesgos.
- Transparencia, trazabilidad y confianza.
- El papel de la gobernanza en la transformación digital de la sanidad.
Contenido:
La inteligencia artificial está avanzando rápidamente en el sector salud. Las herramientas capaces de apoyar diagnósticos, identificar riesgos, analizar estudios clínicos y contribuir a la toma de decisiones clínicas ya forman parte de la rutina de muchas instituciones en distintos países.
Esta transformación abre importantes oportunidades para ampliar la capacidad analítica de médicos y otros profesionales de la salud, anticipar riesgos y respaldar decisiones cada vez más complejas. Al mismo tiempo, hace evidente la necesidad de definir responsabilidades, establecer criterios de supervisión y crear mecanismos que garanticen que estas herramientas se utilicen de manera segura, transparente y alineada con los principios de la práctica clínica.
En todo el mundo, organizaciones de salud, organismos reguladores y asociaciones profesionales han estado debatiendo cómo incorporar la inteligencia artificial de manera responsable en los procesos asistenciales. A pesar de los distintos enfoques regulatorios, existe un consenso cada vez mayor: cuando la IA influye en decisiones relacionadas con la atención médica, su adopción debe estar acompañada de supervisión clínica, gobernanza y mecanismos claros de rendición de cuentas.
Esta discusión consolida un cambio importante. La gobernanza de la inteligencia artificial deja de ser un tema restringido a las áreas de tecnología e innovación para integrarse al ámbito de la gobernanza clínica.
La inteligencia artificial llegó al proceso de toma de decisiones clínicas
Durante décadas, la incorporación de nuevas tecnologías en los hospitales estuvo concentrada en áreas como tecnologías de la información, ingeniería clínica o innovación. Este modelo funcionaba adecuadamente mientras las herramientas desempeñaban un papel predominantemente administrativo, operativo o de apoyo indirecto a los equipos asistenciales.
La inteligencia artificial modifica este escenario. Cuando un algoritmo participa en la identificación de riesgos, apoya un diagnóstico, estima pronósticos o influye en una decisión clínica, pasa a formar parte del propio proceso asistencial.
En ese momento, la discusión deja de ser exclusivamente tecnológica y comienza a involucrar la calidad de la atención, la seguridad del paciente, la responsabilidad profesional y la supervisión institucional.
En distintos sistemas de salud crece el entendimiento de que la autonomía de los profesionales debe preservarse y que la inteligencia artificial debe actuar como apoyo para la toma de decisiones, nunca como sustituto del profesional responsable de la atención. Este principio no limita la innovación; por el contrario, crea las condiciones necesarias para que la inteligencia artificial se incorpore de manera consistente y segura a la práctica clínica.
La decisión clínica siempre se ha construido a partir de la integración de múltiples fuentes de información. La historia clínica, la exploración física, los estudios de laboratorio, los métodos de imagen, los protocolos asistenciales y la experiencia profesional contribuyen a este proceso. Ninguno de estos elementos, por sí solo, determina una conducta. Su valor radica en su capacidad para ampliar la comprensión del caso clínico y proporcionar elementos para una decisión mejor fundamentada.
La inteligencia artificial representa una nueva capa de información disponible para el profesional de la salud. Su contribución radica en la capacidad de procesar grandes volúmenes de datos, identificar patrones complejos y generar estimaciones de riesgo en tiempo real. Sin embargo, la responsabilidad de la decisión permanece en el profesional que integra esta información al contexto específico de cada paciente.
Desde esta perspectiva, la IA no debe verse como un sustituto del razonamiento clínico, sino como una herramienta capaz de ampliar la capacidad analítica de los profesionales y de las organizaciones de salud. El juicio clínico sigue siendo el elemento que transforma la información en decisiones y las decisiones en atención.
De la gobernanza tecnológica a la responsabilidad asistencial
A lo largo de las últimas décadas, los hospitales han desarrollado estructuras cada vez más sofisticadas para garantizar la calidad y la seguridad. El control de infecciones, los protocolos asistenciales, la revisión de expedientes clínicos, la acreditación, la gestión de riesgos y la seguridad del paciente se han convertido en parte de la rutina de las instituciones comprometidas con la excelencia.
La llegada de la inteligencia artificial no crea una responsabilidad completamente nueva. Amplía una responsabilidad que ya existía.
Si una herramienta participa en el proceso de toma de decisiones clínicas, influye en las conductas médicas o contribuye a la evaluación de riesgos, es natural que quede sujeta a los mismos mecanismos de supervisión utilizados para otras prácticas asistenciales.
Por esta razón, la gobernanza de la inteligencia artificial debe entenderse como una extensión de la propia gobernanza clínica. El objetivo no es controlar las tecnologías utilizadas en la atención médica, sino garantizar que estén alineadas con los estándares de calidad, seguridad, transparencia y responsabilidad que ya orientan la atención en salud.
Este cambio de perspectiva es importante porque evita que la inteligencia artificial sea tratada únicamente como un proyecto de innovación o transformación digital. Su verdadero valor no reside en la sofisticación de los algoritmos, sino en su capacidad para generar mejores decisiones y mejores resultados para pacientes e instituciones.
Una nueva competencia para las organizaciones de salud
A medida que crece el número de aplicaciones de inteligencia artificial utilizadas por hospitales y sistemas de salud, surge también la necesidad de crear procesos estructurados para evaluarlas, monitorearlas y supervisarlas a lo largo de todo su ciclo de vida.
Uno de los primeros desafíos consiste en comprender qué soluciones de IA ya están presentes en la institución. En muchos casos, no se limitan a herramientas identificadas explícitamente como inteligencia artificial. Pueden estar incorporadas en sistemas de apoyo a la decisión clínica, plataformas de diagnóstico por imagen, expedientes clínicos electrónicos o aplicaciones utilizadas directamente por los profesionales de la salud.
Por esta razón, el mapeo de las soluciones existentes suele ser el primer paso de cualquier programa de gobernanza. A partir de este inventario, es posible clasificar las aplicaciones de acuerdo con su potencial impacto asistencial. Las herramientas que influyen en decisiones clínicas o pueden afectar la seguridad del paciente requieren niveles más altos de supervisión que aquellas utilizadas exclusivamente con fines administrativos u operativos.
Conforme estas iniciativas evolucionan, surge también la necesidad de estructuras capaces de evaluar evidencia, dar seguimiento a resultados y apoyar decisiones relacionadas con la incorporación de estas tecnologías. En este contexto, diversas organizaciones comienzan a establecer comités o grupos multidisciplinarios dedicados a la inteligencia artificial, integrados por representantes de las áreas clínica, de calidad, seguridad del paciente, tecnología, asuntos legales y gestión.
Este movimiento también amplía el papel de los liderazgos clínicos e institucionales. Estos líderes pasan a responder preguntas esenciales: ¿qué herramientas de IA se están utilizando?, ¿qué evidencia respalda su adopción?, ¿cómo se monitorea su desempeño?, ¿los profesionales recibieron la capacitación adecuada?, ¿los resultados observados son compatibles con los beneficios esperados?
Estas son preguntas muy similares a las que ya se plantean al evaluar protocolos asistenciales, medicamentos, equipos o nuevas tecnologías incorporadas a la atención. La diferencia es que ahora también incluyen los sistemas de inteligencia artificial.
Es precisamente la combinación de inventario, clasificación de riesgos, supervisión institucional y seguimiento continuo la que comienza a dar forma al concepto de gobernanza clínica de la IA.
Transparencia, trazabilidad y confianza
Otro aspecto central del debate global sobre la inteligencia artificial en salud es la transparencia.
Los profesionales de la salud necesitan comprender el papel que desempeña la inteligencia artificial en los procesos asistenciales, conocer sus objetivos, sus limitaciones y la manera en que deben interpretarse sus recomendaciones. Del mismo modo, las instituciones deben ser capaces de monitorear el desempeño de estas herramientas a lo largo del tiempo, documentar procesos, dar seguimiento a resultados y mantener mecanismos adecuados de supervisión.
La confianza en salud nunca se ha construido únicamente sobre la tecnología. Se construye sobre evidencia, transparencia, responsabilidad y aprendizaje continuo. Por ello, conceptos como trazabilidad, explicabilidad y supervisión humana ocupan una posición central en la discusión sobre la adopción responsable de la IA en salud.
El siguiente paso de la transformación digital en salud
Durante muchos años, la transformación digital estuvo asociada con la digitalización de procesos, la recopilación de datos y la generación de indicadores. La inteligencia artificial inaugura una nueva etapa de este recorrido.
El desafío ahora no consiste únicamente en registrar información. Consiste en transformar la información en conocimiento y el conocimiento en mejores decisiones.
En este nuevo escenario, la gobernanza asume un papel estratégico: permite que las instituciones adopten nuevas tecnologías manteniendo coherencia con sus valores asistenciales, sus estándares de calidad y sus compromisos con la seguridad de los pacientes.
En distintas regiones del mundo, la discusión sobre la inteligencia artificial en salud continúa evolucionando rápidamente. Aunque los modelos regulatorios varían entre países y sistemas de salud, el principio central permanece inalterable: la incorporación de la IA exige supervisión clínica, responsabilidad institucional y participación activa de los profesionales de la salud.
En Epimed, esta visión ha acompañado nuestra trayectoria durante muchos años. Creemos que una inteligencia artificial confiable depende de cuatro pilares inseparables: datos de calidad, validación clínica, integración al flujo asistencial y gobernanza.
Los tres primeros pilares fueron abordados en los artículos anteriores de esta serie. Este artículo refuerza la importancia del cuarto pilar.
La verdadera transformación digital de la salud no ocurre cuando las instituciones adquieren algoritmos. Ocurre cuando desarrollan la capacidad de gobernarlos, integrarlos a la práctica clínica y utilizarlos para fortalecer aquello que siempre ha estado en el centro de la atención médica: el cuidado del paciente.
____________________________________________________________________________________________________
Esta es la quinta publicación de la serie editorial «IA en la Salud: Credibilidad, Seguridad e Impacto en la Práctica Clínica», producida por Epimed Solutions.
Autor: Dr. Carlos Eduardo Reis, médico, empresario, cofundador y presidente de Epimed Solutions.
