IA explicable: Modelos Teóricos y Aplicaciones en Datos Heterogéneos Multiatributo

La Inteligencia Artificial (IA) está generando una transformación profunda en el ámbito de la medicina. Su capacidad para procesar y analizar grandes volúmenes de datos la convierte en una herramienta estratégica de apoyo para el personal sanitario, tanto en el diagnóstico como en la toma de decisiones clínicas. No obstante, su aplicación presenta limitaciones relevantes, entre las que destacan la dificultad para integrar información contextual en tiempo real y el riesgo de incorporar sesgos algorítmicos que pueden afectar la equidad y precisión de los resultados.

Estas limitaciones hacen que, en el uso de la IA en procesos de toma de decisiones de alto riesgo, resulte imprescindible la intervención y validación final de un profesional sanitario. En este sentido, la Ley Europea de Inteligencia Artificial refuerza esta exigencia al clasificar las aplicaciones médicas como sistemas de alto riesgo, estableciendo la obligación de una supervisión humana continua de los algoritmos. Dicha supervisión no solo busca mitigar riesgos, sino también garantizar y potenciar un rendimiento óptimo derivado de una colaboración efectiva entre humanos y sistemas de IA.

Surge entonces una cuestión central: ¿cómo puede consolidarse una colaboración eficaz entre el personal sanitario y los sistemas de Inteligencia Artificial si los profesionales carecen de información suficiente sobre el funcionamiento interno de estos modelos? En este contexto adquiere relevancia la Explicabilidad de la Inteligencia Artificial (XAI, por sus siglas en inglés), un ámbito de investigación que desarrolla métodos orientados a aumentar la transparencia e interpretabilidad de modelos tradicionalmente considerados “cajas negras”.

En sus primeras etapas, la XAI se concibió principalmente como una herramienta dirigida a desarrolladores para identificar errores, sesgos y comportamientos indeseados en las predicciones, contribuyendo a la mejora y validación de los modelos. No obstante, su ámbito de aplicación se ha ampliado progresivamente hacia los usuarios finales que toman decisiones basadas en dichas predicciones, en particular en contextos de alto impacto como el sanitario. En este marco, la XAI facilita una colaboración más efectiva con los sistemas de IA al proporcionar explicaciones comprensibles sobre su funcionamiento y sus resultados.

La XAI no se limita a proporcionar información técnica sobre el funcionamiento de los modelos, sino que requiere adaptar dichas explicaciones a las características del usuario final. Esta adaptación debe considerar factores como las necesidades específicas del destinatario, el lenguaje empleado, el tipo de visualización más adecuado y el nivel de detalle informativo necesario para favorecer una comprensión efectiva y un uso responsable del sistema.

Reconociendo que los distintos perfiles del personal sanitario requieren tipos de explicaciones diferenciadas, en NAIR abordamos casos de uso específicos e integramos activamente al personal sanitario desde las etapas iniciales de identificación del problema. Este enfoque se materializa en un diseño centrado en la persona usuaria, en el que los profesionales sanitarios participan de forma transversal en todas las fases del desarrollo de la solución, desde la definición de requisitos hasta la validación final.