Investigadores de la Universitat Politècnica de València (UPV), pertenecientes al Instituto Itaca, han propuesto "una nueva generación de inteligencia artificial en salud resiliente a los cambios y situaciones no controladas del mundo real", que incluso pueda predecir situaciones futuras de forma "más eficaz y robusta".

Su trabajo ha sido publicado por el ´Journal of Medical Internet Research´, una de las revistas más importantes del sector de medicina digital a nivel internacional.

"Esta nueva generación de IA resiliente destacará por su adaptabilidad y confianza ante situaciones de incertidumbre, cambios o sesgos en la información. Son las habituales en los contextos de uso real de la IA en salud, más allá de los entornos de laboratorio donde es diseñada, lo que plantea desafíos importantes para el desarrollo de la IA sanitaria, su uso clínico rutinario y sus marcos regulatorios", destaca Carlos Sáez, investigador del Instituto ITACA y profesor del Departamento de Física Aplicada de la Universitat Politècnica de València.

El nuevo paradigma propuesto por el equipo del BDSLab del ITACA-UPV cubre las cuatro fases clave de la IA: entrenamiento (cuando la IA aprende de los datos); predicción (cuando la IA es aplicada a nuevos casos que no ha observado previamente); entorno de producción (el mantenimiento de la IA una vez puesta en uso rutinario); y la regulación de la IA (las leyes y normas que regulan la seguridad y confianza de la IA).

"Este nuevo enfoque de IA puede adaptarse de forma resiliente a cambios en el contexto de uso, ya sean técnicos, como los debidos a cambios en los sistemas de información involucrados; o de contexto socio-sanitario, pudiendo adaptarse de forma rápida y eficaz ante situaciones inesperadas como pandemias. Además, el aseguramiento de la confianza de los usuarios en la IA y de los derechos fundamentales de las personas es un aspecto clave en este modelo", declara Carlos Sáez.

Mejora de la confianza y seguridad

El especialista pone de relieve que la IA resiliente tendría un impacto directo en la mejora de la confianza y seguridad de los sistemas IA en Salud, y beneficiaría a la toma de decisiones clínicas basada en datos en millones de personas en Europa.

"Los modelos IA se mantendrían actualizados, evitando la obsolescencia, se adaptarían rápidamente a los cambios reduciendo costes y riesgos, el apoyo interactivo a la toma de decisiones con control de riesgos médicos y de derechos fundamentales soportado por técnicas de IA robusta y ética, todo ello optimiza el enlace y confianza entre humano e IA", destaca el investigador del BDSLab-ITACA de la UPV.

Como ejemplo práctico, los investigadores afirman que este nuevo paradigma de IA permitiría, por ejemplo, ayudar a priorizar de una manera más óptima y confiable los incidentes en un centro de atención de emergencias sanitarias optimizando en tiempo real las preguntas realizadas durante las llamadas.

"En casos de alta incertidumbre, el sistema propondría al operador solicitar la información adicional más determinante al llamante para mejorar la confiabilidad de la respuesta. Por ejemplo, se recibe una llamada informando de una mujer de 20 años que presenta aparente dificultad respiratoria, sin reportar ninguna enfermedad respiratoria crónica conocida; el sistema solicitaría información de forma autónoma acerca del uso de medicamentos, como anticonceptivos orales, o recientes ataques de ansiedad, y, si no hay datos nuevos, clasificaría el caso como de alto riesgo para evitar posibles sesgos", explica Sáez.

El trabajo se enmarca en el proyecto: "Modelling the Kinematics of Information towards Change-Resilient Medical Artificial Intelligence (Kinemai)" financiado por la Agencia Estatal de Investigación - Proyectos de Generación de Conocimiento 2022. Además, parte de sus resultados se estudiarán en la nueva asignatura del nuevo Máster en Ingeniería Biomédica denominada "Data Quality and Trustworthy Artificial Intelligence".