José Martínez Olmos, profesor de la Escuela Andaluza de Salud Pública
La inteligencia artificial (IA) ya forma parte de la práctica clínica diaria en nuestro sistema sanitario. Y sin embargo, apenas sabemos dónde y cómo se aplica, quién responde cuando algo falla, quién avala los resultados cuando algo funciona, y quién decide, en última instancia, qué algoritmos merecen confianza. Es una situación en la que se conoce solo una parte de la realidad sobre el uso de la IA, como si viéramos la punta de un iceberg mientras desconocemos lo que pasa bajo la superficie.
Esa pregunta —¿quién responde?— no es menor. Es, de hecho, la pregunta que debería anteceder a cualquier otra cuando hablamos de incorporar tecnología a la toma de decisiones clínicas. Porque bajo cada diagnóstico asistido, cada predicción de riesgo, cada priorización automatizada de listas de espera, hay una cadena de responsabilidades que hoy permanece difusa, repartida entre fabricantes, profesionales, gestores y administraciones sin que sepamos quién asume con claridad el papel de garante final.
«Bajo cada diagnóstico asistido, cada predicción de riesgo, cada priorización automatizada de listas de espera, hay una cadena de responsabilidades que hoy permanece difusa»
Si la IA mejora la precisión diagnóstica, personaliza tratamientos y optimiza resultados en salud, parece razonable exigir que su uso esté siempre respaldado por una responsabilidad identificable y exigible. No basta con que la tecnología funcione: alguien debe poder explicar por qué funciona, ante quién responde si deja de hacerlo, y qué mecanismos corrigen el error cuando aparece. Y, especialmente, si los resultados en salud son mejores con el uso de la IA, deben estar accesibles a todas las personas para favorecer la equidad. Ello requiere incorporar lo que funciona en la cartera común de servicios para que sea un derecho exigible.
También resulta imprescindible garantizar que esa responsabilidad no se diluya precisamente allí donde más se necesita: en los sesgos de los datos, en las condiciones de acceso desiguales entre territorios, en los colectivos que menos capacidad tienen de reclamar cuando algo sale mal. Un sistema sin responsables claros es, de facto, un sistema donde nadie repara las desigualdades que la propia tecnología puede generar.
Nuestro sistema sanitario carece hoy de una arquitectura de responsabilidad diseñada específicamente para la IA. Y esa ausencia no es neutral: mientras no exista, el riesgo de un uso opaco, descoordinado y potencialmente injusto de estas tecnologías seguirá creciendo al mismo ritmo que su adopción.
«Nuestro sistema sanitario carece hoy de una arquitectura de responsabilidad diseñada específicamente para la IA»
No podemos seguir postergando esta cuestión. Existen ya marcos relevantes —el Reglamento Europeo de Inteligencia Artificial, la normativa de productos sanitarios, la estrategia de IA del SNS, las estrategias digitales autonómicas— que fijan condiciones para el desarrollo y la comercialización de estos sistemas y avanzan en dar pasos hacia una gobernanza. Son pasos necesarios, pero insuficientes: regulan la entrada de la tecnología, no definen un procedimiento de gobernanza que asegure calidad y equidad.
Mi propuesta parte de una convicción y de mi experiencia en la responsabilidad ministerial de diseñar la arquitectura para la mejora de la cartera común de servicios y actualizarla: la responsabilidad no puede ser un principio abstracto, necesita instituciones concretas que la hagan operativa. El SNS ya sabe hacer esto con medicamentos y tecnologías sanitarias; existe experiencia acumulada en definir quién autoriza, cómo se hace la actualización de servicios o se incorporan nuevas prestaciones para todos y todas. No hace falta inventar de nuevo el modelo, hace falta aplicarlo a la IA.
El primer paso es la trazabilidad: se hace imprescindible un registro público y obligatorio que identifique, para cada solución de IA en uso, quién la ha desarrollado, quién la ha validado clínicamente, y quién asume la responsabilidad de su funcionamiento en cada centro donde se aplica. Sin saber quién responde, es imposible exigir nada. Pero este registro no es un requisito para su uso en el sistema sanitario ya que para ello ya hay normativa europea y propia. Es un registro para conocer que está pasando en nuestros servicios y poder dar el siguiente paso.
«Sin saber quién responde, es imposible exigir nada. Pero este registro no es un requisito para su uso en el sistema sanitario ya que para ello ya hay normativa europea y propia»
El segundo paso es la evaluación independiente de esa responsabilidad antes de su despliegue generalizado: no solo si el algoritmo funciona, sino si existe una cadena de rendición de cuentas suficientemente robusta para sostener su uso en la práctica real, con todas sus consecuencias organizativas, éticas y de seguridad del paciente.
Esa evaluación no debería quedar en manos de cada hospital actuando en solitario, por más que tenga competencia para ello. Necesitamos un organismo técnico independiente que fije el estándar de responsabilidad exigible, y la Agencia Española de Medicamentos y Productos Sanitarios, con las competencias adecuadas, es la base institucional más natural para desempeñar ese papel. La evaluación que se realice por este organismo será la base para el siguiente paso.
El tercer paso es el de proceder a la incorporación de la IA que aporta mejoras en la salud a nuestra cartera común de servicios sanitarios con el procedimiento vigente desde hace muchos años. Cuando una solución de IA se incorpore a la cartera, se habrá dado un paso decisivo para la equidad en el acceso. Y hacer explícita y pública esa cadena de responsabilidad cuando una solución se incorpora a la cartera de servicios del SNS: quién certifica, quién autoriza, quién supervisa ofrecerá transparencia sobre quién responde; algo que es, en sí misma, una garantía para el paciente.
«Un algoritmo que hoy funciona correctamente puede degradarse, sesgarse o desactualizarse mañana»
El cuarto paso es sostener esa responsabilidad en el tiempo: hacer evaluación continua. Un algoritmo que hoy funciona correctamente puede degradarse, sesgarse o desactualizarse mañana. La responsabilidad no puede agotarse en el momento de la autorización: necesita mecanismos permanentes de supervisión que identifiquen cuándo alguien debe volver a responder por un sistema que ha dejado de comportarse como se esperaba.
Se trata, en definitiva, de construir un modelo de gobernanza y responsabilidad compartida entre el Ministerio de Sanidad y las comunidades autónomas, con criterios comunes que eviten que el acceso a prestaciones de IA la dependa del código postal del paciente. La innovación necesita autonomía territorial para desarrollarse, pero la responsabilidad necesita reglas comunes para no fragmentarse y eso compete al Ministerio de Sanidad.
España tiene la oportunidad de ser de los primeros países en construir no solo un marco regulatorio para la IA en salud, sino una arquitectura real de responsabilidad. La diferencia entre ambas cosas es sustancial. Regular fija las condiciones de entrada. Responsabilizar garantiza que, una vez dentro, alguien vele por que la promesa se cumpla.
La IA solo desplegará todo su potencial para mejorar la salud de las personas si logramos que los beneficios que aporten a la salud de las personas sean un derecho universal y se pueda asegurar equidad en el acceso.
Deja una respuesta