Publicidad
Publicidad

Grandes retos para implementar una IA responsable en salud

La Asociación Salud Digital organiza la IX Jornada ASD, titulada `La (R)evolución de la IA en la Salud´.

20/02/2024

La Asociación Salud Digital (ASD) ha organizado la IX Jornada ASD, titulada `La (R)evolución de la inteligencia artificial (IA) en la Salud´. La apertura del encuentro ha estado a cargo de Jaime del Barrio Seoane, presidente de la Asociación Salud Digital, y Javier Vello Cuadrado, socio responsable de EY Transforma ...

La Asociación Salud Digital (ASD) ha organizado la IX Jornada ASD, titulada `La (R)evolución de la inteligencia artificial (IA) en la Salud´. La apertura del encuentro ha estado a cargo de Jaime del Barrio Seoane, presidente de la Asociación Salud Digital, y Javier Vello Cuadrado, socio responsable de EY Transforma y Business Consulting.

Jaime del Barrio ha comentado ejemplos concretos en los que la IA se aplica en el sector sanitario desde hace mucho tiempo. "Se trata de un cambio disruptivo digital, y la salud no es ajena. Ya hay problemas globales, como la atención sanitaria y social, que se pueden afrontar de la mano de la IA".

Además, ha apuntado la necesidad de colaborar e incorporar al sistema sanitario a nuevos perfiles de profesionales que deben trabajar de la mano con los sanitarios. También se ha referido a "la calidad de los datos en el sector sanitario, ya que, si no tienen el nivel suficiente, no podrán extraerse conclusiones útiles".

Capacidad de computación

A continuación, Beatriz Sanz Sáiz, EY Global Consulting Data and Analytics Leader, ha ofrecido la conferencia inaugural, titulada `Desafiar lo establecido, reinventando el enfoque y las soluciones´.

En su conferencia magistral, Beatriz Sanz ha comentado que "estamos ante la década más interesante de la Historia". "Somos unos privilegiados por poder vivirla en primera persona. El viaje ha empezado, y no sabemos muy bien dónde va a acabar". Como ha dicho, y aunque el ciudadano no sea todavía consciente en su día a día, "se están creando más de 4.000 patentes al mes, y en 6-8 meses comenzarán a notarse cambios muy significativos".

Según la experta, la capacidad de computación ha sustituido al dato como el `new oil´ o nuevo petróleo. En la actualidad, no hay capacidad de computación o proceso suficiente en el mundo para analizar todos los datos disponibles, algo que, en su opinión, "Europa se debería replantear".

En este sentido, Beatriz Sanz ha dicho que actualmente "el valor está en el conocimiento" que da contexto a los datos para especializarlos. Por ello, ha augurado un gran protagonismo al desarrollo de los modelos de lenguaje de gran tamaño (large language models), como OpenAI.

Inteligencia artificial

El tema de la primera mesa ha sido `La inteligencia artificial, decisiva en la predicción y en la prevención´. En su ponencia, Marcos Ortega Hortas, catedrático de Inteligencia Artificial de la Universidad de A Coruña, ha analizado el desarrollo e implantación de sistemas de inteligencia artificial aplicados a la sociedad, con especial hincapié en la salud.

Marcos Ortega, que también es director del grupo VARPA y coordinador del nodo tecnológico de IA del Hub de Innovación Digital de la Industria de Galicia, ha abordado también el enfoque de la Administración, en particular a nivel europeo, para que la regulación dé cobertura a todos estos aspectos sin limitar la innovación.

Respecto a los retos, ha comentado que son "muchos y comunes a la hora de implantar la IA en cualquier sector", si bien se hacen "especialmente críticos en el ámbito de la salud. Hay que considerar que el boom de la IA viene dado por una conjunción en el tiempo de una altísima disponibilidad de datos, una gran capacidad de procesado de estos datos y, lógicamente, la disponibilidad de algoritmos capaces de aprender las tareas que les indiquemos".

Los desafíos enumerados por este experto han sido las cuestiones relacionadas con la privacidad y la seguridad de los datos, o los posibles sesgos e inequidades de los algoritmos para diferentes grupos poblacionales. Otros aspectos destacados han sido la falta de interpretabilidad y transparencia de los algoritmos: "Los médicos y los pacientes necesitan entender y confiar en las decisiones asistidas por IA", ha apuntado.

IA generativa

En la misma mesa, Elena Torrente Segarra, directora de salud digital de DKV, se ha centrado en la irrupción de la IA generativa y los large multi-modal models. También ha resaltado la necesidad de reforzar la protección y la seguridad de los datos, los sesgos algorítmicos y las cuestiones éticas y legales.

En una jornada eminentemente práctica, Elena Torrente ha expuesto algunos ejemplos de adopción de IA en DKV, como herramientas de cribado y de detección temprana, así como de predicción de descompensaciones en algunas patologías.

En cuanto a los retos que tiene la sociedad para avanzar hacia una IA responsable en salud, ha apuntado que debe ser "fiable, ética y que no contribuya a incrementar las desigualdades en salud".

Entre las barreras para la adopción de la IA en el sector sanitario, ha destacado "la falta de estándares, la falta de confianza y aspectos relacionados con la rendición de cuentas". En este sentido, se ha preguntado quién es responsable ante un resultado que impacta negativamente en la salud del paciente: el fabricante de la solución o el proveedor sanitario.

Por tanto, "el gran reto sería avanzar hacia una IA responsable, es decir, que sea fiable y minimice riesgos. Y, para ello, se debería reforzar la confianza, la capacitación (técnica y de los profesionales sanitarios) y la evaluación de su impacto", ha dicho Elena Torrente.

IA en proyectos de la ASD

A continuación, se han expuesto varios proyectos de la ASD desarrollados con la intervención de la inteligencia artificial. Marisa Merino, de la Junta Directiva de la ASD y directora gerente de OSI Bidasoa Osakidetza, ha hablado de la Salud Digital Basada en Valor (SDBV). "La relación entre la inteligencia artificial y la salud digital basada en valor es estrecha y prometedora", ha comentado.

La IA se aplica en la salud digital para el diagnóstico, tratamiento personalizado, análisis de datos clínicos y toma de decisiones, lo que contribuye a la mejora de los procesos asistenciales y a la generación de resultados que importan. Sin embargo, su adopción plantea desafíos, como la necesidad de infraestructura tecnológica adecuada, la regulación, la responsabilidad y la protección de los derechos humanos en el ámbito de la salud digital.

"En ASD fuimos los primeros que hace cinco años comenzamos a hablar y a trabajar en la Salud Digital Basada en Valor. Hemos publicado ya dos informes y seguimos avanzando en diversos proyectos con la participación de profesionales de distintos ámbitos y procedencias", ha explicado Marisa Merino, quien también es coordinadora del grupo de Salud Digital Basada en Valor de ASD.

IA y salud mental

De salud mental ha hablado María Gómez, directora de Soluciones Clínicas para el Sur de Europa en BMJ Group y miembro de la Junta Directiva de la ASD. En concreto, ha presentado un innovador proyecto del Grupo de Trabajo de Salud Mental Digital de la ASD, liderado por Lucía Halty, directora de la Cátedra de Salud Mental Digital de la Universidad de Comillas.

"El incremento alarmante en las cifras de algunos trastornos mentales está llevando al borde del colapso al sistema actual. En este contexto, la tecnología y la inteligencia artificial emergen como aliadas potenciales tanto para los pacientes como para el sistema de salud", ha afirmado.

"Nuestro grupo de trabajo se ha propuesto trazar un panorama exhaustivo de la salud mental digital en España", ha avanzado. En opinión de María Gómez, "uno de los desafíos más significativos en el desarrollo de la inteligencia artificial en el sector sanitario es encontrar el equilibrio adecuado entre la libertad para avanzar y la protección necesaria".

Por su lado, Nuria Pastor, CEO y cofundadora de humanITcare, ha comentado que esta empresa de salud conectada y telemonitorización avanzada con IA para decisiones clínicas ha sido seleccionada de entre las 10 mejores startups de Europa para participar en el Consumer Electronics Show (CES), un destacado evento tecnológico que se celebra anualmente en Las Vegas (Estados Unidos).

Nuria Pastor ha definido la inteligencia artificial como "una aliada, una herramienta de los sanitarios, pero es el medio y no el fin". "La IA debe ser fiable y basarse en diferentes modelos de datos de calidad y en la evidencia. Cuidado con no contrastar bien las herramientas y su seguridad y efectividad", ha apuntado.

Aspectos éticos y legales

Los aspectos éticos y legales de la IA ha sido el tema de la ponencia de Pilar Nicolás Jiménez, coordinadora de la Red Cátedra de Derecho y Genoma Humano de la Facultad de Derecho de la Universidad del País Vasco.

La Propuesta de Reglamento Europeo sobre Inteligencia Artificial, que se aprobará próximamente, es general y abarca cualquier herramienta de IA. En el sector salud existe, además, normativa sectorial. "El eje de la regulación será la identificación de riesgos para establecer condiciones o incluso prohibiciones de uso de estas herramientas. La aplicación de IA al sector salud, en términos generales, se considera sensible", ha comentado Pilar Nicolás.

En su opinión, va a ser necesario actualizar y completar los procesos de control, que ya son complejos y rigurosos en este sector, tanto en la investigación como en la aplicación clínica cuando se incorporen herramientas de IA. "Esto requiere conocimiento de los nuevos requerimientos, formación, colaboración interdisciplinar e inversión", ha añadido.

Publicidad
Publicidad