Ronald Palacios Castrillo
A partir de escenarios de la vida real y conocimientos compartidos en la conferencia RAISE (Responsible AI for Social and Ethical Healthcare), Goldberg,et.al.,( Nature Medicine. (2024).DOI https://doi.org/10.1038/s41591-024-02853-7) destacaron, la necesidad crítica de que la IA en la atención médica (AIH) beneficie principalmente a los pacientes y aborde las deficiencias actuales en los sistemas de atención médica, como errores médicos y disparidades de acceso.
La conferencia, que encarnó un sentido de responsabilidad y urgencia, enfatizó que la AIH debe mejorar la atención al paciente, apoyar a los profesionales de la salud y ser accesible y segura para todos.
Las discusiones giraron en torno a acciones inmediatas para los líderes de la atención médica, como la adopción de la IA para aumentar la práctica clínica, el establecimiento de modelos financieros transparentes y la orientación del uso óptimo de la IA.
=> Recibir por Whatsapp las noticias destacadas
Se destacó la importancia de la IA como herramienta complementaria y no sustitutiva de la atención sanitaria, la necesidad de un uso responsable de los datos de los pacientes y el potencial de la IAH para mejorar el acceso a la atención.
Destacaron los aspectos financieros de la AIH, abogando por modelos que se alineen con la mejora de la atención. Se proporcionaron próximos pasos y decisiones específicos y prácticos para cada tema importante.
Concluyeron con un llamado al diálogo continuo y al compromiso ético de todas las partes interesadas en AIH, reflexionando sobre la promesa de la IA para el avance de la atención médica y la necesidad de inclusión y evaluación continua en su implementación.
La Conferencia RAISE
Un paciente con cáncer ingresa su información médica en un chatbot y descubre que su oncólogo identificó erróneamente su subtipo de tumor y, por lo tanto, le recetó la terapia incorrecta.
Un líder del sistema de salud escucha a los médicos pioneros decir que el uso de IA para registrar y resumir las visitas de los pacientes mejora enormemente las visitas.
Un médico en América Latina lanza un proyecto que utiliza inteligencia artificial basada en teléfonos móviles para apoyar la salud mental entre residentes rurales remotos que no tienen otro acceso a la atención.
Estas historias de la vida real, contadas en una reciente conferencia internacional sobre el uso de la IA en la atención sanitaria (AIH), subrayan la directriz principal que surgió de la reunión de más de 70 líderes tecnológicos y de atención sanitaria: la AIH debe, ante todo, beneficiar directamente a los pacientes, y es un imperativo ético asegurarse de que así sea.
El objetivo es maximizar los beneficios en todos los sectores de la sociedad y minimizar los daños, en la medida en que las limitaciones prácticas lo permitan. Entre los daños que deben minimizarse se encuentran los causados por el actual sistema de atención de salud, desde errores médicos hasta la falta de acceso.
Dados los problemas actuales y los recientes avances tecnológicos, adoptar la AIH donde pueda ayudar es una cuestión de urgencia.
En un momento en el que la complejidad de la medicina moderna ha superado la capacidad de la mente humana, sólo la AIH podrá realizar muchas tareas.
Por lo tanto, la HAI parece ofrecer un potencial incomparable para lograr mayores avances médicos, incluida la medicina de precisión: la terapia adecuada, para el paciente adecuado, en el momento adecuado.
Por lo tanto, redunda en interés del público y de la profesión médica acelerar su adopción, siempre que se utilice de forma segura y se haga lo más accesible posible para todos.
También es urgente determinar cuál es la mejor manera de que la AIH genere beneficios tangibles, incluida la forma en que puede ayudar a mejorar la salud y salvar vidas de maneras que de otro modo no ocurrirían. El público no sólo debe ser consciente de esta búsqueda sino también participar en ella.
Este consenso surgió en la conferencia RAISE (Responsible AI for Social and Ethical Healthcare), organizada por el Departamento de Informática Biomédica de la Facultad de Medicina de Harvard. La conferencia se celebró del 29 al 31 de octubre de 2023 en Cape Neddick, Maine. La agenda de la conferencia y los asistentes se pueden encontrar en https://dbmi.hms.harvard.edu/events/raise-symposium.
Se están realizando múltiples esfuerzos a nivel internacional para aprobar leyes y establecer directrices para el uso responsable de la nueva HAI, incluso en la Organización Mundial de la Salud.
Entre muchos otros órganos asesores, la Academia Nacional de Medicina (con la Coalición para la Salud AI) está desarrollando actualmente un código de conducta que armonizará los esfuerzos en un marco, con especial énfasis en la ética, la equidad y la vigilancia de los errores que puedan surgir una vez que la IA esté en uso.
La conferencia RAISE no tuvo como objetivo alcanzar un consenso integral sobre todos los aspectos de la AIH. En cambio, los participantes se centraron en un puñado de aspectos específicos de la IA para la prestación de atención sanitaria que son más relevantes para el público.
Al incorporar diversas perspectivas de la industria del cuidado de la salud y más allá, los participantes buscaron generar solo unos pocos principios generales y llamados a la acción para el consumo público, algunos de los cuales se pueden aplicar de inmediato y otros pueden informar una guía futura más granular.
Con la publicación del artículo actual en dos revistas, NEJM AI y Nature Medicine del New England Journal of Medicine, el objetivo era estimular un debate abierto sobre estos temas que pueda informar a los formuladores de políticas, las empresas y las sociedades profesionales en su propia construcción de políticas. y practica.
La sensación de que “este es el futuro”
El espíritu de la conferencia estaba impregnado de un fuerte deseo de evitar errores del pasado al aplicar nuevas tecnologías y políticas a la medicina. Por ejemplo, en Estados Unidos, los registros médicos electrónicos han tendido a satisfacer las necesidades de facturación con más frecuencia que a mejorar la atención.
Además, las principales leyes de privacidad, como la regulación general de protección de datos de la Unión Europea y la regla de privacidad de la Ley de Responsabilidad y Portabilidad del Seguro Médico de EE. UU., se malinterpretan ampliamente y añaden una complejidad administrativa que dificulta la investigación de AIH.
Las primeras experiencias de AIH demostraron que incluso las nuevas y poderosas tecnologías no lograrán imponerse de manera amplia e institucional si el personal de atención médica, los pagadores, los pacientes o los cuidadores no confían en ellas o si se preocupan por la responsabilidad.
También fue generalizada entre los asistentes a la conferencia una pronunciada actitud positiva hacia el potencial aparente de AIH, la sensación de que “este es el futuro”. Algunos participantes informaron que este énfasis en los beneficios contrastaba un poco con un mayor énfasis regulatorio europeo en los riesgos.
Esa opinión predominante en Estados Unidos concordaba más con China, donde se registran más ensayos de HAI que en cualquier otro país.
Otros señalaron que la IA basada en teléfonos móviles es especialmente prometedora para las personas, tanto en el mundo desarrollado como en desarrollo, que sufren la peor inequidad en salud: acceso nulo o deficiente a una atención de calidad.
Todo ello se sustentaba en un sentido de responsabilidad compartido por las profesiones clínicas (medicina, enfermería, farmacia y más) que en gran medida se autorregulan. Idealmente, según un amplio consenso en la conferencia, los profesionales y defensores de los pacientes determinarán las mejores prácticas clínicas y las transmitirán a los reguladores, y no al revés. Al mismo tiempo, incluso las normas profesionales ideales pueden fracasar cuando sistemas de pago desalineados promueven un uso excesivo y perjudicial (en los sistemas de pago por servicio) o una infrautilización, de ahí la importancia crítica de involucrar al público en el debate para defender sus propios intereses y la supervisión adecuada por parte de organismos externos.
Con ese fin, la conferencia comparte varios puntos clave.
1. ¿Quién se beneficia?
Los miembros de la conferencia propusieron que el criterio central para el uso de la HAI debería ser el mismo que para otras tecnologías médicas: si promoverá cuatro objetivos clave: una mejor salud para todos los pacientes; mejor experiencia de atención médica, incluido un acceso más rápido; menores costos de prestación de atención y mayor productividad; y apoyo al personal sanitario, en medio de la escasez de mano de obra sanitaria y el agotamiento .
2. ¿Voz separada o ayuda amigable?
Sobre la cuestión de si la IA debería considerarse una entidad adicional en la pareja tradicional médico-paciente, la mayoría de los participantes coincidieron en que la respuesta es “no”. En este punto, más bien, la IA debería verse como una herramienta de apoyo al médico o una ayuda para la autogestión del paciente, en lugar de una entidad nueva. La AIH complementa, no sustituye, aunque eso podría cambiar en el futuro previsible, sujeto a las salvaguardias adecuadas .
3. Acerca de los datos del paciente
Debido a que es tan importante entrenar modelos de HAI con datos amplios y diversos, es probable que los modelos de IA dependan en gran medida de los datos generados durante el curso de la atención clínica.
En lo que respecta a las disposiciones para incorporar datos de pacientes en modelos de IA, los participantes de la conferencia apoyaron firmemente el uso de la opción de “exclusión voluntaria” (es decir, la opción predeterminada es que se incluyan los datos del paciente) en lugar de la “inclusión voluntaria”, que podría llevar a mayores disparidades en la recopilación de datos debido a la desconfianza histórica de algunas poblaciones hacia la ciencia médica.
Sin embargo, los participantes reconocen que el consentimiento de exclusión voluntaria no puede eliminar por completo el potencial de sesgo dañino porque las poblaciones que albergan esta desconfianza pueden ejercer de manera desproporcionada su derecho de exclusión voluntaria, dejándolas subrepresentadas.
Ya sea que se opte por participar o no, el consentimiento no puede sustituir las salvaguardas técnicas apropiadas para la privacidad y las prácticas de uso responsable de los datos que harán que las herramientas AIH sean confiables y reduzcan la necesidad del público de optar por no participar.
También hubo un amplio consenso en que los creadores de bases de datos médicas han dejado fuera durante mucho tiempo a demasiados miembros de minorías subrepresentadas. Actualmente, comunidades fuertes están trabajando en ese tema y hay grandes esperanzas de que se puedan corregir esos errores del pasado. Se necesita una estrategia amplia de comunicación y educación para explicar cómo la AIH ayuda a “personas como usted” e involucrar a los grupos subrepresentados en la creación proactiva de bases de datos .
4. Acceso directo al consumidor
El consenso de los participantes de la conferencia fue que la AIH apoya, pero actualmente no reemplaza, la atención brindada por un médico ni el autocuidado del paciente. La ubicuidad de los teléfonos inteligentes y las conexiones a Internet brinda acceso a las herramientas de AIH a casi todos.
Cuando el acceso a la atención está limitado por los recursos, incluidos los países ricos con escasez de personal, la IA es una alternativa valiosa, si se maneja correctamente. Los pacientes ahora pueden disfrutar de acceso las 24 horas del día a información médica extensa y conocimientos mucho más sofisticados que las plataformas de información de salud en línea como WebMD.
Se trata de un cambio radical en un campo en el que, tradicionalmente, los pacientes no sólo han enfrentado barreras para acceder a sus propios datos médicos, sino que también han carecido de medios económicos para razonar con esos datos .
5. El dinero importa
La AIH incurre en costos, incluidos los de su desarrollo, la adquisición de datos y la evaluación y seguimiento continuos de su calidad e impacto. Hasta el momento, no existe un estándar único según el cual se realizan los pagos.
Algunos modelos para la adquisición de herramientas AIH incluyen servicios de compra directa, pago por uso y suscripción. Incluso cuando la atención médica está totalmente subsidiada por el gobierno, las herramientas de AIH pueden ser financiadas o suministradas por empresas con o sin fines de lucro.
La experiencia demuestra que los sistemas de pago pueden influir en la adopción de las innovaciones médicas en el mundo real.
Las herramientas de inteligencia artificial anteriores a menudo tenían una demanda limitada, particularmente si eran de pago por uso, lo que llevaba a una infrautilización; Sin embargo, también existe el riesgo de que los modelos de pago puedan proporcionar incentivos que conduzcan a un uso excesivo y perjudicial, ya sea de la herramienta de IA o de los productos recomendados por ella, independientemente de si el gobierno paga directamente por la atención médica.
Finalmente, hablando de manera más general, si el potencial de la IA para mejorar la salud resulta ser tan grande como parece ahora, entonces podría decirse que todos los líderes de atención médica tienen la responsabilidad de apoyar formas de ayudar a los pacientes y al personal a aprovecharlo.
También es un imperativo ético que todos los involucrados con AIH se centren en el bien público. Por ejemplo, los fabricantes de medicamentos deberían proporcionar medicamentos gratis o a bajo costo a los países pobres. De manera similar, las empresas AIH deberían comprometerse en toda la industria a desarrollar aplicaciones y proporcionarlas de forma gratuita o a bajo costo a poblaciones desatendidas que de otro modo no podrían permitírselo.
Dada la creciente complejidad de la atención sanitaria, la IA parece ser la más prometedora para su mejora continua.
La tecnología avanza a una velocidad vertiginosa y, considerando la tremenda incertidumbre sobre cómo se desarrollará en los próximos años, habrá una necesidad constante de conversaciones sobre temas como los que se exploran aquí.
Las conclusiones alcanzadas hoy pueden dejar de ser pertinentes incluso dentro de un año. Sin embargo, es posible salvar vidas que no se habrían salvado ni siquiera el año pasado. Por lo tanto, si bien es necesario continuar la conversación sobre cuál es la mejor manera de utilizar la HAI para el bien público y de los pacientes, también es necesario comenzar ahora.
Cuadro 1 ¿Quién se beneficia?
Llamados inmediatos a la acción para los líderes médicos y del sistema de salud:
A.
Recomendamos que los sistemas de salud, los planes de salud y los grupos de médicos revisen y, si se considera apropiado, adopten la IA para mejorar la práctica clínica. La “fruta madura” incluye la mejora de la interacción médico-paciente, incluida la captura de la visita grabada del paciente, la priorización y el análisis de los resultados de las pruebas y las imágenes, el diagnóstico diferencial, el plan de terapia y la discusión de alternativas, instrucciones para el paciente y los cuidadores, programación de citas y otras funciones administrativas, y respuestas a las preguntas de los pacientes en niveles óptimos de alfabetización.
B.
Los modelos financieros de reembolso por el uso de IA deben ser transparentes y evaluarse anualmente. Identificar ahora paradigmas de pago totalmente abiertos y justos es absolutamente crucial.
C.
Las instituciones deberían establecer guías para médicos, estudiantes y pacientes sobre las oportunidades y el uso óptimo de la IA. Los pacientes y otras partes interesadas también deberían impulsar una educación generalizada y modelos sobre cómo utilizar la HAI.
D.
También deberían crear expectativas de resultados claras para proporcionar formas de verificar que la IA realmente está sirviendo a los intereses y prioridades de los pacientes y proveedores, no solo a las presiones fiscales de los sistemas de atención de salud privados o las limitaciones presupuestarias de un sistema de atención de salud financiado por el gobierno. Las métricas definidas públicamente deben evaluarse rigurosamente y compartirse entre los sistemas de salud.
Cuadro 2 ¿Voz separada o ayuda amigable?
Llamados a la acción:
A.
Cuando los proveedores utilizan AIH: la jurisprudencia aún se está desarrollando en todo el mundo, pero en este punto parece que el médico sigue siendo legalmente responsable de las acciones y decisiones médicas, incluso cuando la IA se utiliza en la atención médica.
Sin embargo, si se quiere que AIH se adopte ampliamente, las empresas de tecnología deben aceptar una parte de la responsabilidad legal si un sistema AIH provoca daños y es culpable. Además, la próxima generación de médicos debe recibir capacitación sobre la mejor manera de utilizar la IA para complementar su experiencia médica.
B.
Cuando los pacientes usan AIH: Aclare que, de manera similar, las empresas de tecnología deben avanzar hacia la aceptación de cierta responsabilidad por los resultados cuando los pacientes usan la IA directamente, al igual que con cualquier otra herramienta o recurso de salud directo al consumidor.
Llamados a la acción:
A.
Inclínese hacia modelos de exclusión voluntaria (que ya son el estándar de la industria), pero asegúrese de que los pacientes estén bien informados sobre sus opciones, incluido el derecho a decir «No, no puede utilizar mis datos para entrenar su modelo».
B.
Determinar cómo medir (o al menos estimar) y abordar los riesgos de privacidad que surgen cuando los datos de los pacientes se utilizan para entrenar modelos. Se necesitan garantías por parte de los proveedores de IA de que los datos estarán protegidos, los pacientes no serán identificados y
C.
Habrá sanciones disuasorias por el uso indebido de datos.
D.
Revisar y considerar el uso de pautas que ya se han desarrollado para el uso ético adecuado de los datos de los pacientes; Por ejemplo, las autoridades sanitarias del Reino Unido han desarrollado un programa para garantizar que los datos representen la diversidad de la población y otro llamado “Las cinco seguridades” para utilizar datos públicos para el bien público.
MI.
El desempeño de la HAI depende fundamentalmente de la diversidad de los datos y de las poblaciones en las que se basan.
A medida que los modelos de IA crezcan, necesitarán muchísimo más datos de entrenamiento multimodal de todas partes y deberán ser transparentes sobre su desempeño para diferentes características demográficas.
Por lo tanto, sus desarrolladores necesitan una economía de datos bien regulada que rastree la procedencia y los beneficios en toda la sociedad, garantizando que todos estén incluidos en el flujo de datos, incluso las poblaciones difíciles de reclutar, como las personas sin seguro o los inmigrantes en la Unión Europea. Los desarrolladores de la economía de datos siempre deben pensar en quién falta e informar al público sobre ese aspecto del desarrollo del modelo.
Recuadro 4 Acceso directo del consumidor
Llamados a la acción:
A.
Exigir que los proveedores de IA revelen las fuentes (como en una etiqueta nutricional) de sus datos de entrenamiento y las instrucciones generales que guían la IA, de manera accesible para los propios pacientes y también para los reguladores, para garantizar que sea representativa y la alineación sea explícita.
B.
Involucrar a los pacientes, los defensores de los pacientes y los médicos en el proceso de diseño de la tecnología en cada etapa, particularmente al establecer sus barreras y límites en su uso, tanto para garantizar que se adapte a sus necesidades como para generar confianza.
C.
Los médicos ahora deben esperar que muchos pacientes lleguen con información obtenida de la IA. Deberían fomentar la práctica común de que los pacientes consulten en línea el resumen de diagnósticos y terapias planificadas de la visita después de la visita. (¡Sería prudente comprobar de vez en cuando qué está encontrando el paciente!)
D.
Recuerde que puede ser ventajoso para los pacientes evitar una visita a un proveedor utilizando una alternativa impulsada por IA, cambiando algunas prácticas habituales y alterando los modelos financieros subyacentes a la atención médica.
Los sistemas de salud deberían esforzarse no solo por mejorar la atención de los proveedores con IA, sino también, eventualmente, por sustituir parte de ella. Un participante señaló que a muchos en su país les gustaría evitar a los médicos, un sentimiento generalizado también en otros lugares.
Recuadro 5 El dinero importa
Llamados a la acción:
A.
Favorecer modelos de suscripción o pago por adelantado en lugar de facturar por uso. Como dijo en la conferencia el economista de salud de la Universidad de Harvard, David Cutler, “No luchen contra los incentivos monetarios. Tú perderás.»
B.
El reembolso debe estar vinculado a los problemas resueltos y a las mejoras en la atención: los terceros (por ejemplo, académicos, organizaciones sin fines de lucro) tendrán que construir la infraestructura (por ejemplo, revistas, informes) para rastrear en los próximos años si la nueva IA realmente conduce a una reducción de los costos administrativos. mejores resultados para los pacientes, mejores opciones terapéuticas y más.
La infraestructura también debería incluir vigilancia posterior a la comercialización por parte de los reguladores y evaluaciones estructuradas financiadas por organismos públicos de investigación y desarrollo, así como más aprendizaje internacional.