La IA en la salúd necesita una regulación centrada en el paciente para evitar la discriminación, según los expertos..

Un nuevo comentario publicado en la Revista de la Real Sociedad de Medicina advierte de que los actuales planteamientos reguladores de la inteligencia artificial (IA) en la atención sanitaria, basados en los riesgos, no protegen suficientemente a los pacientes, ya que pueden conducir a un tratamiento excesivo o insuficiente, así como a la discriminación de grupos de pacientes.

Los autores descubrieron que, si bien la IA y los sistemas de aprendizaje automático pueden mejorar la precisión clínica, persiste la preocupación por su inherente inexactitud, opacidad y potencial de sesgo, que no se abordan adecuadamente en los actuales esfuerzos reguladores introducidos por la Ley de IA de la Unión Europea.

Aprobada en 2025, la Ley de IA clasifica la IA médica como «high risk» e introduce controles estrictos sobre proveedores e implantadores. Pero los autores sostienen que este marco basado en el riesgo pasa por alto tres cuestiones fundamentales: las preferencias individuales de los pacientes, los efectos sistémicos y a largo plazo de la implantación de la IA y la falta de poder de los pacientes en los procesos reguladores.

Los autores piden que se introduzcan derechos de los pacientes en relación con el diagnóstico o la planificación del tratamiento generados por IA, incluido el derecho a:

• solicitar una explicación;
• dar o retirar el consentimiento;
• buscar una segunda opinión; y
• rechazar el diagnóstico o el cribado basados en datos disponibles públicamente sin consentimiento.

Advierten de que sin un compromiso urgente de las partes interesadas en la atención sanitaria -incluidos médicos, reguladores y grupos de pacientes- estos derechos corren el riesgo de quedar relegados en la rápida evolución de la IA en la atención sanitaria.