Porqué la IA utilizada en atención médica necesita un diseño centrado en el ser humano

En conversaciones con líderes en materia de atención médica de todo el mundo, un desafío generalmente común es la dificultad de encontrar suficientes médicos especializados para satisfacer la creciente necesidad de atención médica. En ese punto, me gustaría preguntar: ¿qué pasaría si pudiéramos hacer que sus médicos existentes sean dos veces más efectivos y eficientes, permitiéndoles tomar mejores decisiones mientras pasan más tiempo con los pacientes?

Esa es esencialmente la promesa de la IA, ya sea a través de la automatización de tareas mundanas que distraen el enfoque del médico en los pacientes, o al proporcionar apoyo en la toma de decisiones clínicas en los momentos que finalmente tienen el poder de conducir a mejores resultados de salud.

Y, sin embargo, a pesar de todos sus avances tecnológicos, sorprendentemente pocas aplicaciones de IA se han abierto camino con éxito desde el laboratorio de investigación hasta la práctica clínica. ¿Qué está frenando a la IA en la atención médica?

Problemas relacionados con la gestión de datos y la interoperabilidad a menudo se presentan como los principales cuellos de botella para una adopción más amplia de la IA, y con buena razón. Pero en la agitada y estresante realidad cotidiana de los profesionales médicos, también hay otros factores en juego. Factores humanos.

Los profesionales médicos a menudo trabajan en horarios ajustados, confiando en rutinas construidas durante años de experiencia. Si la IA no encaja perfectamente en sus flujos de trabajo, o peor aún, si crea una complejidad adicional, los médicos tendrán dificultades para adoptarla. Y en un entorno de alto riesgo como lo es la atención médica, donde los profesionales médicos tienen que tomar decisiones en fracciones de segundo con consecuencias potencialmente de largo alcance, puede ser difícil ganar confianza en la nueva tecnología. ¿Confiaría en la recomendación de un algoritmo cuando la vida de un paciente está en sus manos? Tanto el mal ajuste del flujo de trabajo como la falta de confianza han demostrado obstaculizar la adopción de la IA [1,2].

Lo que la atención médica necesita es IA centrada en el ser humano: Inteligencia artificial que no está impulsada simplemente por lo que es técnicamente factible, sino ante todo por lo que es humanamente deseable. Esto significa que necesitamos combinar la ciencia de datos y la experiencia técnica con una sólida comprensión del contexto clínico en el que operan los profesionales médicos, así como las demandas cognitivas y emocionales de su realidad diaria.

Ya vemos los primeros contornos de la colaboración entre el ser humano y la IA en la radiología; una disciplina que siempre ha estado a la vanguardia de la transformación digital en la atención médica, y que ahora es un semillero fértil para la innovación en IA. Dado que los radiólogos y el personal de imagenología son escasos en muchas partes del mundo, y enfrentan cargas de trabajo cada vez mayores, ciertamente podrían beneficiarse de tener un asistente digital inteligente.

Durante mucho tiempo he creído que para ofrecer una innovación significativa a las personas, es necesario innovar junto a ellas en lugar de para ellas. Como argumenté en la Conferencia Fortune Brainstorm Design hace algún tiempo, la creación de algoritmos en los confines de un laboratorio de investigación en sí misma no nos traerá una IA centrada en el ser humano. En cambio, primero debemos salir y sumergirnos en la realidad cotidiana de las personas cuyas vidas estamos intentando mejorar.

Eso es exactamente lo que estamos haciendo con nuestros socios clínicos y académicos, como el Hospital Catharina y la Universidad Tecnológica de Eindhoven (como parte de nuestra colaboración conjunta e/MTIC [i]) y el Centro Médico de la Universidad de Leiden en los Países Bajos, realizando análisis de flujo de trabajo de 360 grados in situ y sesiones de co-creación con expertos médicos para ver más allá de la tecnología en sí y comprender el contexto completo de uso.

A través de este trabajo, estamos comenzando a descubrir los impulsores de la experiencia que fomentan una fuerte colaboración entre el profesional médico y la IA en radiología. Y lo que ha quedado muy claro es que diseñar para una IA centrada en el ser humano implica mucho más que crear una interfaz de usuario superior.

Antes que nada, debemos preguntarnos: ¿qué tipo de IA sería útil en primer lugar? Esto parece una pregunta obvia, pero las aplicaciones de IA a menudo no se traducen a la práctica clínica precisamente porque la necesidad subyacente o el punto crítico ha sido mal definido.

Por ejemplo, si un algoritmo de análisis de imágenes es simplemente capaz de identificar anomalías que un radiólogo puede detectar de un vistazo, su valor agregado puede ser limitado a pesar de su sólido rendimiento técnico. O digamos que tiene un algoritmo que ayuda a medir el tamaño de un tumor: puede ser un poco más preciso que un observador humano, pero si la diferencia es tan pequeña que no afecta prácticamente las decisiones respecto al tratamiento, no hay un beneficio real para el paciente.

Por ejemplo, al principio del flujo de trabajo, la IA puede ayudar a optimizar el agendado de los pacientes para que estos sea vistos lo más rápido posible. O bien, puede ayudar a los técnicos en radiología en la selección y preparación de los exámenes de imagenología apropiados para un paciente específico y así evitar nuevos escaneos innecesarios. Una vez que se han adquirido las imágenes, la IA puede apoyar a los radiólogos de varias formas, por ejemplo, señalándoles hallazgos incidentales que son fáciles de pasar por alto, o ahorrándoles tiempo a través de la integración automática de los hallazgos en el informe.

Hay muchos más casos de uso en los que uno podría pensar, algunos de los cuales estamos explorando activamente con nuestros socios clínicos. Identificar los puntos débiles y mapear las oportunidades a lo largo de todo el flujo de trabajo es una excelente forma de iniciar un programa de innovación de IA, ya que crea un enfoque compartido en el valor que la IA puede aportar en cada paso.

Si bien definir el valor agregado previsto de la IA es un punto de partida vital, es la forma en que la IA encaja en el flujo de trabajo, y en última instancia puede ayudar a agilizarlo, lo que logrará o impedirá la adopción en la práctica clínica.

Pero debemos pensar aún más holísticamente sobre la integración del flujo de trabajo, mirando el sistema de diagnóstico en general. Por ejemplo, la IA podría hacer un análisis preliminar de la tomografía computarizada de un paciente para señalar los casos preocupantes que requieren un seguimiento inmediato con una tomografía computarizada por PET. En sí misma, esta aplicación sería muy útil. Sin embargo, solo funcionaría si se puede disponer de espacio entre las citas para realizar PET-CT ese mismo día, lo que presenta un nuevo desafío de flujo de trabajo (¡uno que la IA también podría ser capaz superar!). Como muestra este ejemplo, debe observar el sistema de trabajo de todo el hospital, no solo los elementos individuales del flujo de trabajo.

Otro desafío de diseño planteado por la IA, al que aludí anteriormente, es lograr que los médicos confíen en sus resultados y recomendaciones. Con el auge del aprendizaje profundo, los sistemas de IA se han vuelto mucho más precisos y poderosos, pero también se han vuelto cada vez más difíciles de interpretar, lo que exige un salto de fe del usuario. La confianza es fundamental para la adopción, pero es difícil de ganar. La confianza también se pierde fácilmente cuando el sistema de IA da algunas recomendaciones erróneas, incluso si funciona de manera altamente precisa en general.

Y lo complicado es que cuando se trata de confianza, también puede haber demasiado de algo bueno. No querrá que un radiólogo confíe ciegamente por los hallazgos de un algoritmo cuando el algoritmo a veces pasa por alto una enfermedad. Lo que desea es una confianza adecuada que coincida con las capacidades de la IA. Esto significa navegar por una delgada línea entre la falta de confianza y la confianza excesiva.

¿Cómo ayuda a los radiólogos a encontrar el equilibrio adecuado entre la confianza y la vigilancia?

En primer lugar, es esencial que entiendan lo que un sistema de IA puede y no puede hacer, con qué datos fue entrenado y para qué se ha optimizado. Por ejemplo, un algoritmo se puede optimizar para detectar tumores pequeños en los pulmones, pero por lo tanto podría pasar por alto los más grandes. Esto no es en absoluto intuitivo para el radiólogo y requiere una comunicación activa para evitar la desconfianza. Los radiólogos también querrán saber qué tan bien la IA hace lo que se supone que debe hacer, y pedirán transparencia en su validación y rendimiento.

Además, debemos considerar cómo podemos hacer que los hallazgos de la IA sean lo más comprensibles y necesarios que sea posible. Si bien la interpretabilidad puede no ser tan importante cuando hay poco en juego, en una situación de alto riesgo, la naturaleza similar a la caja negra de un sistema de IA puede ser un impedimento para que se genere confianza. Junto con nuestros colaboradores clínicos y socios académicos, como la Universidad Tecnológica de Eindhoven, estamos investigando varias formas de abordar este problema, ya sea explicando la filosofía de diseño de la IA en general o proporcionando la justificación de las recomendaciones individuales.

Por supuesto, las percepciones de los profesionales médicos sobre la IA continuarán evolucionando a medida que maduren sus capacidades. Al igual que un residente junior que se une por primera vez a un equipo, la IA necesita demostrar su valor agregado y ganar confianza con el pasar del tiempo.

Con la IA como un colaborador de confianza que está perfectamente integrado en el flujo de trabajo, los radiólogos se liberarán de las tareas mundanas y podrán dedicar más tiempo a casos complejos, lo que aumentará su impacto en la toma de decisiones clínicas. Los profesionales de la salud en otras áreas de la medicina también se beneficiarán cada vez más de la asistencia de IA, ya sea en patología digital, cuidados agudos, terapia guiada por imágenes, o gestión de enfermedades crónicas. Creo firmemente que hará que su trabajo sea más valioso y gratificante, no menos.

Pero como he esperado demostrar, ese futuro no sucederá por sí solo. Solo sucederá por diseño.

Los diseñadores deben asumir un papel activo desde el principio del desarrollo de la IA, trabajando junto con científicos de datos, ingenieros y expertos clínicos para crear experiencias habilitadas para la IA que marquen una diferencia positiva tanto para los profesionales de la salud como para los pacientes.

Solo entonces veremos que la IA en la atención médica cumplirá con su promesa a plenitud; si ponemos a las personas y no a la tecnología en primer lugar.

Nota