Aspectos destacados para proveedores: Defender el uso responsable de la IA a través de un diseño centrado en las personas en Northwell Health
Dra. Susan Beane, directora médica ejecutiva de Healthfirst, Emily Kagan Trenchard, vicepresidente sénior y jefe de servicios digitales para el consumidor de Northwell Health
Introducción a cargo de la Dra. Susan Beane
Hasta hace un tiempo, la inteligencia artificial (AI, por sus siglas en inglés) parecía algo del futuro; sin embargo, en la actualidad, es utilizada por organizaciones de cuidado médico de todo el país.
En Healthfirst, utilizamos tecnología de IA para generar perspectivas de los comportamientos de salud de nuestros miembros e, incluso, predecir sus necesidades y priorizar el alcance.
Nuestros socios proveedores también están investigando casos de uso de la IA en el cuidado médico y usando la tecnología en formas nuevas y emocionantes para así brindar un mejor cuidado a quienes más lo necesitan. En las próximas semanas, el blog Advance Perspectives de Healthfirst destacará la manera en que nuestros socios proveedores trabajan para incorporar las últimas tecnologías en sus sistemas.
Emily Kagan Trenchard, vicepresidente sénior y jefe de servicios digitales para el consumidor de Northwell Health, es nuestra primera autora de publicaciones para invitados. Allí, comparte un panorama general de dónde el cuidado médico —y los pacientes a quienes brinda servicios— es más proclive a aprovechar la IA, dónde puede ser una causa de preocupación y cómo garantizar que las herramientas de la IA están diseñadas, entrenadas y utilizadas para un bien mayor.
La IA trae consigo beneficios y advertencias
Antes de discutir dónde debería o no utilizarse la inteligencia artificial en el ámbito del cuidado médico, es importante entender sus orígenes. El concepto no es algo nuevo; es una extensión de la ciencia de la información, un área cuyas raíces datan de la década de 1960 y ha sido un punto de convergencia de la ciencia ficción, incluso, por más tiempo.
Por dos razones la IA puede parecer algo nuevo. Durante la pandemia, hubo un repunte en el uso de las tecnologías habilitadas para IA cuando muchos de nosotros pasaba más tiempo en entornos digitales, tanto en lo personal como en lo profesional, que, de lo contrario, no estaríamos. Avances recientes en modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés) posibilitan que las computadoras aprendan de enormes conjuntos de información y procesen el lenguaje natural. Con capacidades, como ChatGPT, que ahora se combinan con otra IA generativa para imágenes y sonidos, las capacidades sin precedentes no solo existen, también están democratizadas con herramientas fáciles de usar. Obtenemos los beneficios de la IA de muchas maneras en nuestra vida cotidiana, desde nuevas recomendaciones en forma de canción, en nuestros servicios de reproducción de música hasta filtros de correo basura que permiten administrar nuestras casillas. Sin embargo, también debemos ser cautelosos. Una cosa es permitir que una máquina decida la mejor manera de aspirar la sala sin dejarle pensar dos veces. Otra cosa muy diferente es dejar que una máquina decida dónde debería comprar una casa, enviar a nuestros hijos a la escuela o recibir cuidado médico.
Aunque no ha sido comprobado, la IT puede ampliar la brecha de equidad en la salud
En el ámbito del cuidado médico, la IA ha permitido avances significativos en áreas, como la codificación médica, la documentación clínica y las iniciativas de participación de los pacientes. Esta última ha sido una área de enfoque significativo para Northwell Health: Cuando ponemos las herramientas en su lugar que ayudan a los pacientes a encontrar recursos, programar citas o administrar ciertos aspectos de su salud, podemos brindarles herramientas para que tomen más control de su bienestar a la vez que le quitamos a nuestro personal el peso de las comunicaciones telefónicas o por email.
Al mismo tiempo, debemos asegurarnos de que nuestras herramientas de IA no amplíen la brecha de equidad en el cuidado médico. Como se expresó en un comentario, los algoritmos "a menudo, se construyen sobre normas prejuiciosas y conjuntos de información homogénea que no reflejan la población de los pacientes en general". En una segunda discusión, se observó que los prejuicios algorítmicos pueden surgir en cualquier etapa del proceso de creación del - diseño de estudio de un algoritmo, recopilación e ingreso de datos, desarrollo del modelo predictivo y su implementación.
La investigación está plagada de ejemplos del impacto que los algoritmos prejuiciosos pueden tener en el cuidado de los pacientes. Según un estudio vastamente publicado, los pacientes de origen afroamericano son menos propensos a ser derivados por los algoritmos "a menudo, se construyen sobre normas prejuiciosas y conjuntos de información homogénea que no reflejan la población del paciente en general". Mis colegas de New York City Health and Hospitals han destacado cómo los algoritmos prejuiciosos llevaron a menos remisiones por cuidado renal de especialidad además de remisiones para partos por cesárea de alto riesgo para pacientes de la población afroamericana.
Los beneficios del diseño centrado en las personas
La reparación no es sencilla. Requiere volver a pensar los algoritmos y cómo se usan en un entorno clínico, especialmente porque muchos de ellos han existido por décadas.
Según mi opinión, el diseño centrado en las personas es una parte importante de la solución. En este tipo de diseños, quienes usan y se benefician de un producto o de un servicio están implicados desde el inicio del proceso del diseño. Como se menciona más arriba, los prejuicios se pueden introducir en muchas etapas de creación de un algoritmo, pero con los recaudos correspondientes, también se pueden derribar, lo que da como resultado un producto más equitativo, exacto y beneficioso para la población a la que brinda sus servicios.
En el ámbito del cuidado médico, el diseño centrado en las personas requiere un abordaje a lo grande, para decirlo de alguna manera. Los médicos, el personal clínico y administrativo, los trabajadores de la salud basados en la comunidad e incluso los pacientes, todos deben participar en la conversación. Habiendo dicho eso, la IA puede jugar un papel importante a la hora de ayudarnos a consultar nuestros comportamientos humanos más problemáticos, como prejuicios inconscientes que nos llevan a cometer errores a la hora de juzgar y de un tratamiento no equitativo. Según un estudio reciente llevado a cabo por Pew Research Center, para el 30-40% de los estadounidenses la IA en el ámbito del cuidado médico reduciría errores médicos y crearía una distribución más equitativa del cuidado de calidad para personas de todas las razas y etnias. No obstante, de acuerdo con el mismo estudio, el 60% de los estadounidenses temen que introducir herramientas de IA alteraría la relación proveedor-paciente.
Sin duda llevará tiempo y requerirá esfuerzo educar a estas partes interesadas sobre cómo se desarrolla la IA, cómo y por qué es deficiente y cómo puede brindar herramientas para ofrecer un mejor cuidado. Dicho proceso metódico también puede entrar en conflicto con el ritmo acelerado del desarrollo de software. Sin embargo, es fundamental que para el futuro del cuidado equitativo tomemos los pasos correctos para así asegurarnos de que utilizamos la IA de manera responsable y que no puede suceder que las personas más afectadas por la IA en el cuidado médico tengan menos voz en su desarrollo.