En los servicios de urgencias la toma de decisiones es vital y rápida, pero los sesgos cognitivos humanos, en particular los sesgos de "juicio", pueden tener un impacto crítico en las decisiones médicas y, en consencuencia, en el pronóstico del paciente. Estos "atajos cognitivos" se manifiestan cuando se exige a las personas que formen opiniones o tomen decisiones basándose en información incompleta o demasiado generalizada.

Identificar estos sesgos puede contribuir a intervenciones con una mejor capacitación. Así lo considera un equipo dirigido por el prof. Emmanuel Lagarde, director de investigación del Instituto Nacional de Salud e Investigación Médica de Francia (INSERM) en Burdeos (Inserm/Universidad de Burdeos).

Dichos investigadores utilizaron un método innovador entrenando una IA para clasificar a los pacientes en función de los textos que figuran en su historial médico, reproduciendo así los posibles sesgos cognitivos del personal de enfermería que ha realizado esta clasificación. Los datos utilizados para este entrenamiento comprenden más de 480.000 entradas al Servicio de Urgencias del Hospital Universitario de Burdeos entre enero de 2013 y diciembre de 2021.

Una vez entrenado, el modelo fue capaz de asignar una puntuación de triaje (evaluación de la gravedad del estado del paciente) a partir de la lectura de un historial clínico, tal como lo haría una enfermera. A continuación, se modificó el historial clínico para cambiar las referencias de género del paciente en los textos clínicos y el modelo asignó una nueva puntuación. Fue la diferencia entre estas dos puntuaciones, una producida a partir del historial clínico original y la otra a partir del historial clínico modificado, lo que permitió estimar el sesgo cognitivo.

Los resultados, publicados en la revista 'Proceedings of Machine Learning Research', y en base en historias clínicas idénticas, apuntaron a que la gravedad de las afecciones tendía a ser subestimada en mujeres en comparación con las de los hombres (alrededor del 5 % se clasificaron como "menos críticas" y el 1,81 % como "más críticas"). Por el contrario, la gravedad de las afecciones de los hombres tendía a ser ligeramente sobreestimada (el 3,7 % se consideró "más crítica" frente al 2,9 % considerado "menos crítica"). Este sesgo aumentaba en línea con el nivel de inexperiencia del personal de enfermería.

"Esta investigación muestra cómo los grandes modelos lingüísticos pueden ayudar a detectar y anticipar los sesgos cognitivos humanos, en este caso en relación con el objetivo de una gestión más justa y eficaz de las emergencias médicas", explicó el prof. Lagarde. " El método utilizado demuestra que, en este contexto, los LLM son capaces de identificar y reproducir los sesgos que guían la toma de decisiones humanas a partir de los datos clínicos recopilados por el personal de enfermería ", añadió Ariel Guerra-Adames, estudiante de doctorado y primer autor de esta investigación.

El equipo estudiará, posteriormente, la evaluación de los sesgos relacionados con otras características de los pacientes (edad, grupo étnico). En última instancia, también debería ser posible refinar el sistema con la introducción de variables no verbales (expresiones faciales, tono de voz) que, aunque no necesariamente aparezcan en los datos escritos, podrían ser decisivas para la toma de decisiones.