"Existe un cierto tecno-optimismo en la implantación de la IA en ámbito sanitario"

Autores como Yuval Noah Harari , en su libro Nexus , afirman que el trabajo de los médicos pronto podría ser reemplazado, aunque no así el de las enfermeras. Según Harari: " Es más difícil automatizar el trabajo de enfermería que el de la medicina, al menos el de aquellos que básicamente recogen datos médicos, ofrecen diagnósticos y recomiendan tratamientos. Estas tareas se basan en el reconocimiento de patrones, y en eso la inteligencia artificial (IA) lo hace mejor que los humanos ". Montse Esquerda , de la Facultad de Ciencias de la Salud, de Blanquerna-Universidad Ramon Llull , señala que " muchas de estas visiones distópicas carecen de una comprensión real del mundo sanitario y dificultan la identificación de los procesos en los que la IA realmente puede aportar valor ". La IA no reemplazará a los profesionales de la salud, pero sí complementará o automatizará algunas de las tareas que desempeñan. Lo fundamental es " identificar bien aquellos procesos y ámbitos en que la IA pueda complementar o automatizar ". En ese sentido, cree que " existe un cierto tecno-optimismo en la implantación de la IA en ámbito sanitario, con la esperanza que resuelva parte de los problemas actuales, o incluso cierta ' bioética ficción ' en este ámbito, que sostiene que la IA podrá sustituir a médicos y a otros profesionales sanitarios ".

" La IA generativa no es algo que pertenezca al futuro, sino que es una realidad presente. En múltiples especialidades médicas, ya existen algoritmos avanzados capaces de realizar tareas como detectar lesiones o cánceres de piel , interpretar exploraciones complementarias para identificar desde lesiones potencialmente oncológicas hasta neumonías , y predecir riesgos de enfermedades graves como el riesgo cardíaco, sepsis o incluso la muerte cardíaca prematura ", reflexiona Esquerda. Asimismo, " se ha demostrado que algunas aplicaciones de IA han sido valiosas en la mejora del pronóstico durante la pandemia de la Covid-19, ayudando a prever la evolución de los pacientes y optimizando los recursos disponibles ". A pesar de que estos avances son prometedores, " es importante tener en cuenta que los algoritmos de IA se desarrollan a partir de datos específicos y contextos particulares , lo que significa que no necesariamente funcionarán con la misma eficacia en todos los escenarios ni en un contexto clínico real ".

¿Qué supone para el diagnóstico de enfermedades como el cáncer u otras patologías? Destaca que " los diferentes algoritmos de IA deben demostrar su eficacia en contextos clínicos reales para poder evaluar de manera precisa su perfil de seguridad y rendimiento ".

El principal de los retos éticos de la implementación de la IA en el ámbito sanitario tiene que ver con la seguridad y la eficacia de los sistemas, ya que impacta directamente en la salud de los pacientes. " Entre los conflictos éticos más relevantes se incluyen la explicabilidad de los modelos, es decir, la necesidad de que los algoritmos sean comprensibles y transparentes para los profesionales de la salud, lo que garantiza que puedan confiar en sus recomendaciones ", aclara Esquerda. Además, está la cuestión de la detección de sesgos , " ya que los algoritmos pueden replicar o amplificar desigualdades existentes si se entrenan con datos sesgados, lo que podría afectar negativamente a ciertos grupos de pacientes ". Apunta que otro reto crítico es la gestión de las alucinaciones de la IA , donde los sistemas pueden generar resultados incorrectos o ficticios que podrían tener consecuencias graves en el diagnóstico y tratamiento de los pacientes. Remarca que " estos problemas éticos requieren un enfoque multidisciplinario para garantizar que los sistemas de IA se implementen de manera responsable y segura, respetando los derechos de los pacientes y manteniendo los estándares de calidad en la atención médica ".

La explicabilidad de los resultados está relacionada con el concepto de caja negra : " Cuando una IA genera un resultado, el conocimiento de los sistemas causales por los que lo ha producido es a menudo incompleto y limitado, lo que implica que la capacidad de explicar cómo se generan los resultados hace necesario verificar empíricamente su precisión ". La explicabilidad " sigue siendo crucial ", especialmente para hacer que los sistemas sean comprensibles para aquellos directamente afectados, lo que significa que no siempre es necesario lograr una explicabilidad exhaustiva. En cambio, es suficiente con proporcionar un nivel de transparencia funcional que permita comprender las implicaciones prácticas y garantizar la confianza en los resultados obtenidos.

Con relación a los sesgos, a pesar de confiar en que los algoritmos serán más objetivos que las personas, diferentes ejemplos muestran cómo pueden llegar a amplificar sesgos en ámbito sanitario, pues se entrenan con datos sesgados. " Ello puede dar lugar a diagnósticos erróneos, afectando la calidad del tratamiento, especialmente en poblaciones subrepresentadas ", matiza. Advierte de que esto puede profundizar desigualdades existentes, reforzando patrones históricos de discriminación y limitando el acceso equitativo a servicios de calidad.

Otro de los problemas de eficacia o seguridad son las alucinaciones. Éstas son respuestas incorrectas, incoherentes o incluso completamente ficticias que genera el algoritmo, y que aparentemente parecen confiables. " Las alucinaciones surgen por interpretaciones erróneas de los datos o limitaciones en el entrenamiento, y pueden ser problemáticas en contextos donde la precisión es crítica, como la medicina ", expone. Al generar información incorrecta o ficticia, " pueden tener consecuencias graves al inducir diagnósticos erróneos o tratamientos inapropiados ".

Por otro lado, la IA generativa puede aportar como " soporte " en todos aquellos ámbitos en que deba procesarse información y datos, teniendo en cuenta los riesgos que conllevan los citados sesgos o alucinaciones. Con relación a los informes clínicos , " las IA van a permitir automatizar la redacción a partir de datos médicos, resultados de imágenes, análisis de laboratorio o monitoreo de pacientes ". También van a poder agilizar el resumen de historias clínicas. Otro de los posibles usos es la posibilidad de personalización del lenguaje . O sea, adaptar el informe médico generado al nivel de comprensión de los pacientes, a su contexto cultural o social, o incluso a su edad, mejorando la comprensión de estos.

" En todos estos casos, se añade un conflicto ético adicional que guarda relación con el tema de protección de datos y confidencialidad ", recuerda. Si se utiliza una IA generativa para redactar informes o cualquier tarea relacionada con datos de los pacientes, deberá asegurarse que estos datos no comprometan la confidencialidad con el paciente. Para ello hay diferentes soluciones más técnicas, como el uso de IA locales, la anonimización o el aprendizaje federado.

Respecto al potencial de la IA generativa en áreas como la planificación quirúrgica, simulación de tratamientos o diseño de prótesis personalizadas; puede analizar grandes volúmenes de datos médicos , como imágenes de resonancia magnética (RM), tomografías computarizadas (TC) o radiografías, para ayudar a planificar cirugías de manera más precisa y personalizada . Al generar modelos 3D del cuerpo del paciente, " los algoritmos pueden identificar áreas críticas, simular diferentes enfoques quirúrgicos, predecir posibles complicaciones, lo que permite a los cirujanos tomar decisiones informadas y minimizar riesgos ". Esta tecnología igualmente puede ofrecer simulaciones en tiempo real durante la cirugía, guiando al equipo médico en procedimientos complejos .

En el ámbito de los ensayos clínicos, " puede aportar valor en la selección de los pacientes o en la monitorización ". En investigación, otro punto para tener en cuenta es la investigación sobre el propio uso de la IA en salud . Esta experta incide en el enfoque inicial de la FDA en 2019 (Food and Drug Administration) para regular el proceso de aprobación para la implementación de software basado en aprendizaje automático como dispositivos médicos, que clasificó a la IA en entornos de atención médica como " productos médicos ". La agencia reguladora los define como " un instrumento, aparato, implemento, máquina, artilugio, implante, reactivo in vitro u otro artículo similar o relacionado ". Sin embargo, la clasificación regulatoria de los modelos como productos no logra capturar la complejidad de incorporar soluciones basadas en IA en los sistemas de atención médica. " Este enfoque no es satisfactorio para garantizar que el éxito técnico simplemente integrando el modelo en un entorno de atención médica del mundo real como un dispositivo médico y sin mayor consideración de sus implicaciones en el sistema médico o los procesos en los que se integra ", puntualiza. Por ello, va a requerirse generar procesos de investigación similares a los ensayos clínicos, y se requerirá incorporar a los comités de ética de la investigación profesionales formados en este ámbito.

A Esquerda le gusta comparar la IA con el crecimiento del bambú , pues tienen paralelismos interesantes. " El bambú pasa hasta siete años desarrollando un sistema de raíces sólido y extenso bajo tierra antes de que su crecimiento visible sea rápido y sorprendente, llegando a alcanzar varios metros en semanas. De manera similar, la IA ha requerido décadas de investigación, acumulación de datos y avances tecnológicos para construir una base robusta. Ahora, como el bambú, está iniciando un crecimiento exponencial en aplicaciones prácticas, revolucionando diversos campos en un período de tiempo relativamente corto. Cinco años es un tiempo muy largo para poder predecir todo el potencial ", cuenta.