Porqué la IA utilizada en atención médica necesita un diseño centrado en el ser humano

Soy un firme creyente en la promesa de la inteligencia artificial (IA): una herramienta que, si se usa de forma inteligente, puede dar a los proveedores de atención médica superpoderes al poner la información correcta a su alcance en los momentos realmente importantes para ellos y a sus pacientes. Sin embargo, también creo que para cumplir esa promesa, primero debemos enfocarnos en las personas y no en la tecnología.   

En conversaciones con líderes en materia de atención médica de todo el mundo, un desafío generalmente común es la dificultad de encontrar suficientes médicos especializados para satisfacer la creciente necesidad de atención médica. En ese punto, me gustaría preguntar: ¿qué pasaría si pudiéramos hacer que sus médicos existentes sean dos veces más efectivos y eficientes, permitiéndoles tomar mejores decisiones mientras pasan más tiempo con los pacientes?

Esa es esencialmente la promesa de la IA, ya sea a través de la automatización de tareas mundanas que distraen el enfoque del médico en los pacientes, o al proporcionar apoyo en la toma de decisiones clínicas en los momentos que finalmente tienen el poder de conducir a mejores resultados de salud.

Y, sin embargo, a pesar de todos sus avances tecnológicos, sorprendentemente pocas aplicaciones de IA se han abierto camino con éxito desde el laboratorio de investigación hasta la práctica clínica. ¿Qué está frenando a la IA en la atención médica?

Ya vemos los primeros contornos de la colaboración entre el ser humano y la IA en la radiología; una disciplina que siempre ha estado a la vanguardia de la transformación digital en la atención médica, y que ahora es un semillero fértil para la innovación en IA. Dado que los radiólogos y el personal de imagenología son escasos en muchas partes del mundo, y enfrentan cargas de trabajo cada vez mayores, ciertamente podrían beneficiarse de tener un asistente digital inteligente.

Pero, ¿cómo nos aseguramos de que la IA complemente a estos expertos humanos de tal manera que juntos logren más de lo que cualquiera de los dos podría lograr por sí mismos? Claramente, la respuesta no se va a presentar en bandeja de plata si nos centramos en la tecnología de manera aislada.

Durante mucho tiempo he creído que para ofrecer una innovación significativa a las personas, es necesario innovar junto a ellas en lugar de para ellas. Como argumenté en la Conferencia Fortune Brainstorm Design hace algún tiempo, la creación de algoritmos en los confines de un laboratorio de investigación en sí misma no nos traerá una IA centrada en el ser humano. En cambio, primero debemos salir y sumergirnos en la realidad cotidiana de las personas cuyas vidas estamos intentando mejorar.

Eso es exactamente lo que estamos haciendo con nuestros socios clínicos y académicos, como el Hospital Catharina y la Universidad Tecnológica de Eindhoven (como parte de nuestra colaboración conjunta e/MTIC [i]) y el Centro Médico de la Universidad de Leiden en los Países Bajos, realizando análisis de flujo de trabajo de 360 grados in situ y sesiones de co-creación con expertos médicos para ver más allá de la tecnología en sí y comprender el contexto completo de uso.

A través de este trabajo, estamos comenzando a descubrir los impulsores de la experiencia que fomentan una fuerte colaboración entre el profesional médico y la IA en radiología. Y lo que ha quedado muy claro es que diseñar para una IA centrada en el ser humano implica mucho más que crear una interfaz de usuario superior.

Por ejemplo, al principio del flujo de trabajo, la IA puede ayudar a optimizar el agendado de los pacientes para que estos sea vistos lo más rápido posible. O bien, puede ayudar a los técnicos en radiología en la selección y preparación de los exámenes de imagenología apropiados para un paciente específico y así evitar nuevos escaneos innecesarios. Una vez que se han adquirido las imágenes, la IA puede apoyar a los radiólogos de varias formas, por ejemplo, señalándoles hallazgos incidentales que son fáciles de pasar por alto, o ahorrándoles tiempo a través de la integración automática de los hallazgos en el informe.

Hay muchos más casos de uso en los que uno podría pensar, algunos de los cuales estamos explorando activamente con nuestros socios clínicos. Identificar los puntos débiles y mapear las oportunidades a lo largo de todo el flujo de trabajo es una excelente forma de iniciar un programa de innovación de IA, ya que crea un enfoque compartido en el valor que la IA puede aportar en cada paso.

Pero debemos pensar aún más holísticamente sobre la integración del flujo de trabajo, mirando el sistema de diagnóstico en general. Por ejemplo, la IA podría hacer un análisis preliminar de la tomografía computarizada de un paciente para señalar los casos preocupantes que requieren un seguimiento inmediato con una tomografía computarizada por PET. En sí misma, esta aplicación sería muy útil. Sin embargo, solo funcionaría si se puede disponer de espacio entre las citas para realizar PET-CT  ese mismo día, lo que presenta un nuevo desafío de flujo de trabajo (¡uno que la IA también podría ser capaz superar!). Como muestra este ejemplo, debe observar el sistema de trabajo de todo el hospital, no solo los elementos individuales del flujo de trabajo.

¿Cómo ayuda a los radiólogos a encontrar el equilibrio adecuado entre la confianza y la vigilancia?

En primer lugar, es esencial que entiendan lo que un sistema de IA puede y no puede hacer, con qué datos fue entrenado y para qué se ha optimizado. Por ejemplo, un algoritmo se puede optimizar para detectar tumores pequeños en los pulmones, pero por lo tanto podría pasar por alto los más grandes. Esto no es en absoluto intuitivo para el radiólogo y requiere una comunicación activa para evitar la desconfianza. Los radiólogos también querrán saber qué tan bien la IA hace lo que se supone que debe hacer, y pedirán transparencia en su validación y rendimiento.

Además, debemos considerar cómo podemos hacer que los hallazgos de la IA sean lo más comprensibles y necesarios que sea posible. Si bien la interpretabilidad puede no ser tan importante cuando hay poco en juego, en una situación de alto riesgo, la naturaleza similar a la caja negra de un sistema de IA puede ser un impedimento para que se genere confianza. Junto con nuestros colaboradores clínicos y socios académicos, como la Universidad Tecnológica de Eindhoven, estamos investigando varias formas de abordar este problema, ya sea explicando la filosofía de diseño de la IA en general o proporcionando la justificación de las recomendaciones individuales.