La inteligencia artificial (IA) promete transformar la atención médica al apoyar procesos como el diagnóstico, la toma de decisiones clínicas y el análisis de grandes volúmenes de información. Sin embargo, junto con estas oportunidades surge un desafío que comienza a ocupar un lugar central en la medicina digital: ¿quién es responsable cuando una herramienta de IA genera un error que afecta al paciente?
Un estudio publicado en Journal of Medical Internet Research analizó los principales riesgos éticos asociados con la IA médica y reveló que los profesionales de la salud mantienen una preocupación importante por aspectos como la privacidad de los datos, la pérdida de confianza entre médicos y pacientes, y especialmente la falta de claridad sobre la responsabilidad ante posibles fallos de estas tecnologías.
La investigación desarrolló un marco de riesgos éticos basado en entrevistas con 36 expertos y una encuesta aplicada a 600 médicos en China. Los autores identificaron cinco grandes categorías de riesgo: riesgos fisiológicos relacionados con errores diagnósticos o tratamientos inadecuados; riesgos psicológicos; riesgos de datos y privacidad; riesgos sociales, como la pérdida de confianza y la responsabilidad poco definida; además de riesgos económicos y de sostenibilidad.
Entre los hallazgos más relevantes, los médicos señalaron como una de sus principales preocupaciones la ambigüedad sobre quién debe asumir la responsabilidad cuando una IA falla. Un algoritmo puede equivocarse por múltiples razones: datos de entrenamiento insuficientes, sesgos incorporados, errores técnicos o una interpretación inadecuada de sus recomendaciones dentro del contexto clínico.
El estudio destaca que la solución no consiste en asignar toda la responsabilidad al médico ni en trasladarla exclusivamente al desarrollador tecnológico. La integración segura de IA requiere un modelo de responsabilidad compartida, donde fabricantes, instituciones sanitarias y profesionales de la salud participen en la evaluación, supervisión y uso adecuado de estas herramientas.
Para los médicos, el mensaje es claro: la IA puede convertirse en un aliado clínico, pero no sustituye el razonamiento médico. La decisión final debe considerar la evidencia científica, las características individuales del paciente y el juicio profesional.
A medida que la IA avance en hospitales y consultorios, la pregunta ya no será únicamente qué tan precisa puede ser una máquina, sino si existen mecanismos suficientes para garantizar transparencia, seguridad y rendición de cuentas.
Porque en medicina, detrás de cada algoritmo siempre habrá una decisión humana y, detrás de cada decisión, un paciente.
Referencia:
Zhang A, et al. Portraying Ethical Risks of Medical AI: Mixed Methods Study From Connotation Definition to a Survey on Physicians’ Cognition. J Med Internet Res. 2026 Jul 9:28:e89300.
