Una de las tareas del onc\u00f3logo es preparar a los pacientes con c\u00e1ncer para tomar decisiones dif\u00edciles cuando se acerca el final. Sin embargo, no siempre se acuerdan de hacerlo.<\/p>\n
En el sistema de salud de la Universidad de Pennsylvania (Penn Medicine), un algoritmo de inteligencia artificial (IA) que predice las probabilidades de muerte de los pacientes impulsa a los m\u00e9dicos a hablar con ellos sobre el tratamiento y sus preferencias al final de la vida.<\/p>\n
Pero esta IA dista mucho de ser una herramienta f\u00e1cil de usar, que se configura y listo.<\/p>\n
Seg\u00fan un estudio de 2022, una revisi\u00f3n tecnol\u00f3gica de rutina descubri\u00f3 que el algoritmo se hab\u00eda deteriorado durante la pandemia de covid, y que su precisi\u00f3n hab\u00eda bajado un 7% a la hora de predecir cu\u00e1les pacientes morir\u00edan.<\/p>\n
Es probable que este deterioro haya tenido consecuencias concretas en la vida real. Ravi Parikh, onc\u00f3logo de la Universidad Emory y autor principal del estudio, explic\u00f3 a KFF Health News que, en cientos de casos, la herramienta no logr\u00f3 alertar a los m\u00e9dicos para que comenzaran conversaciones cruciales con los pacientes, que podr\u00edan haberles evitado quimioterapias innecesarias.<\/p>\n
Parikh cree que varios algoritmos dise\u00f1ados para mejorar la atenci\u00f3n m\u00e9dica se vieron afectados durante la pandemia, no s\u00f3lo el de Penn Medicine. \u201cMuchas instituciones no est\u00e1n monitoreando sistem\u00e1ticamente el rendimiento de sus sistemas\u201d, explic\u00f3.<\/p>\n
Las fallas de los algoritmos son solo una parte de un dilema que los especialistas en inform\u00e1tica y los m\u00e9dicos tienen desde hace tiempo, pero que ahora est\u00e1 empezando a desconcertar a los directivos de los hospitales y a los investigadores.<\/p>\n
Los sistemas de inteligencia artificial requieren una supervisi\u00f3n continua y una dotaci\u00f3n de personal altamente capacitado tanto para su implementaci\u00f3n como para garantizar que funcionen bien.<\/p>\n
En resumen: se necesitan m\u00e1s m\u00e1quinas y m\u00e1s personas para asegurarse de que las nuevas herramientas no cometan errores.<\/p>\n
\u201cTodo el mundo piensa que la IA mejorar\u00e1 el acceso, aumentar\u00e1 la capacidad de los sistemas de salud y optimizar\u00e1 la atenci\u00f3n, y eso suena muy bien\u201d, dijo Nigam Shah, jefe de Datos Cient\u00edficos en Stanford Health Care. \u201cPero, si el costo de la atenci\u00f3n aumenta en un 20%, \u00bfes realmente viable?\u201d.<\/p>\n
A los funcionarios de gobierno les preocupa que los hospitales no tengan recursos para monitorear rigurosamente estas tecnolog\u00edas. \u201cHe buscado por todas partes\u201d, afirm\u00f3 Robert Califf, comisionado de la Administraci\u00f3n de Drogas y Alimentos (FDA), en una reciente mesa redonda sobre IA. \u201cNo creo que en Estados Unidos haya un solo sistema de salud que sea capaz de validar un algoritmo de IA implementado en un sistema de atenci\u00f3n cl\u00ednica\u201d, agreg\u00f3.<\/p>\n
Sin embargo, la IA ya est\u00e1 ampliamente presente en el sector de la salud. Los algoritmos se usan para anticipar el riesgo de muerte o el deterioro de los pacientes, sugerir diagn\u00f3sticos o clasificar la atenci\u00f3n seg\u00fan la urgencia, registrar y resumir consultas para facilitar el trabajo de los m\u00e9dicos, e incluso para evaluar los reclamos de las aseguradoras.<\/p>\n
Si los entusiastas de la tecnolog\u00eda est\u00e1n en lo cierto, la tecnolog\u00eda se volver\u00e1 omnipresente\u2026 y rentable.<\/p>\n
La empresa de inversi\u00f3n Bessemer Venture Partners ha identificado unas 20 startups de IA centradas en salud que est\u00e1n en v\u00edas de facturar $10 millones en un a\u00f1o cada una. La FDA ha aprobado cerca de mil productos de inteligencia artificial.<\/p>\n
Evaluar si estas herramientas funcionan es todo un reto. Determinar si siguen funcionando bien \u2014o si tienen fallas en sus sistemas operativos\u2014 es a\u00fan m\u00e1s complicado.<\/p>\n
Por ejemplo, un estudio reciente de Yale Medicine analiz\u00f3 seis \u201csistemas de alerta precoz\u201d, que avisan a los m\u00e9dicos cu\u00e1ndo es probable que un paciente se deteriore r\u00e1pidamente.<\/p>\n
Dana Edelson, m\u00e9dica de la Universidad de Chicago y cofundadora de una empresa que proporcion\u00f3 un algoritmo para esta investigaci\u00f3n, dijo que una supercomputadora revis\u00f3 los datos durante varios d\u00edas. El proceso fue fruct\u00edfero, ya que mostr\u00f3 enormes diferencias de rendimiento entre los seis productos.<\/p>\n
Para los hospitales y proveedores no es f\u00e1cil seleccionar los mejores algoritmos en base a sus necesidades. No es habitual que los m\u00e9dicos tengan una supercomputadora a su disposici\u00f3n y no existe nada equiparable a un Consumer Reports para la IA.<\/p>\n
\u201cNo tenemos normas\u201d, asegur\u00f3 Jesse Ehrenfeld, ex presidente de la Asociaci\u00f3n M\u00e9dica Estadounidense. \u201cNo existe nada que hoy se pueda se\u00f1alar como una norma en relaci\u00f3n con la forma de evaluar, supervisar o analizar el rendimiento de un modelo de algoritmo, con o sin inteligencia artificial, cuando se implementa\u201d.<\/p>\n
Quiz\u00e1s el producto de IA m\u00e1s com\u00fan en las consultas m\u00e9dicas sea la \u201cdocumentaci\u00f3n ambiental\u201d, un asistente tecnol\u00f3gico que escucha y transcribe las interacciones entre el m\u00e9dico y el paciente.<\/p>\n
El a\u00f1o pasado, los inversores de Rock Health registraron un flujo de $353 millones en inversiones dirigidas hacia estas empresas de registros m\u00e9dicos. Pero, seg\u00fan Ehrenfeld, \u201cactualmente no hay una pauta que permita comparar los resultados de estas herramientas\u201d.<\/p>\n
Esto es un problema, ya que incluso peque\u00f1os errores pueden ser devastadores. Un equipo de la Universidad de Stanford intent\u00f3 usar grandes modelos ling\u00fc\u00edsticos \u2014la tecnolog\u00eda que sustenta herramientas de IA populares como ChatGPT\u2014 para resumir el historial m\u00e9dico de los pacientes.<\/p>\n
M\u00e1s tarde, compararon los resultados con lo que hubiera escrito un m\u00e9dico.<\/p>\n
\u201cIncluso en el mejor de los casos, los modelos ten\u00edan una tasa de error del 35%\u201d, explic\u00f3 Shah, de Stanford. \u201cY en medicina, cuando est\u00e1s escribiendo una historia cl\u00ednica y te olvidas de una palabra, como por ejemplo \u2018fiebre\u2018, se plantea un verdadero problema\u201d, reflexion\u00f3.<\/p>\n
A veces, las razones por las que los algoritmos fallan son bastante l\u00f3gicas. Por ejemplo, las alteraciones en los datos estructurales pueden disminuir su efectividad, por ejemplo, cuando un hospital cambia de proveedor de laboratorio.<\/p>\n
Sin embargo, en muchas otras ocasiones los problemas surgen sin un motivo aparente.<\/p>\n
Sandy Aronson, ejecutivo tecnol\u00f3gico del programa de medicina personalizada del Mass General Brigham de Boston, cont\u00f3 que cuando su equipo prob\u00f3 una aplicaci\u00f3n destinada a ayudar a los consejeros en gen\u00e9tica a localizar bibliograf\u00eda relevante sobre variantes del ADN, el producto sufri\u00f3 \u201cno determinismo\u201d. Esto significa que, cuando se le hac\u00eda varias veces la misma pregunta en un breve per\u00edodo de tiempo, daba resultados diferentes.<\/p>\n
Aronson est\u00e1 entusiasmado con el potencial de los grandes modelos ling\u00fc\u00edsticos para resumir conocimientos que simplifiquen el trabajo de los sobrecargados consejeros, pero considera que \u201cla tecnolog\u00eda tiene que mejorar\u201d.<\/p>\n
Si hay pocas m\u00e9tricas y est\u00e1ndares, y los errores pueden surgir por razones raras, \u00bfqu\u00e9 deben hacer las instituciones? Invertir en una gran cantidad de recursos. En Stanford, Shah coment\u00f3 que les llev\u00f3 entre ocho y diez meses revisar solo dos modelos en t\u00e9rminos de equidad y confiabilidad.<\/p>\n
Expertos entrevistados por KFF Health News plantearon la idea de que la inteligencia artificial supervise a la inteligencia artificial, y que alg\u00fan genio (humano) en datos supervise a ambas.<\/p>\n
Todos reconocieron que esto requerir\u00eda que las organizaciones gastaran a\u00fan m\u00e1s dinero, una pretensi\u00f3n dif\u00edcil de satisfacer dada la realidad de los presupuestos hospitalarios y la limitada oferta de especialistas en tecnolog\u00eda de IA.<\/p>\n
\u201cEs estupendo tener una perspectiva en la que estamos haciendo un esfuerzo colosal para poder monitorear un modelo con otro modelo\u201d, dijo Shah. \u201cPero \u00bfes eso realmente lo que se quer\u00eda? \u00bfCu\u00e1nta gente m\u00e1s vamos a necesitar?\u201d.<\/p>\n
KFF Health News<\/a> is a national newsroom that produces in-depth journalism about health issues and is one of the core operating programs at KFF\u2014an independent source of health policy research, polling, and journalism. Learn more about KFF<\/a>.<\/p>\nUSE OUR CONTENT<\/h3>\n