La inteligencia artificial de UnitedHealth niega las afirmaciones de error, según la demanda
Los artistas visuales están luchando contra las empresas de inteligencia artificial
Una demanda presentada por tres artistas visuales contra los creadores de imágenes de IA puede ser un indicador temprano de lo difícil que será para los creadores de todo tipo impedir que los desarrolladores de IA se beneficien de su trabajo. (31 de agosto)
AP
Durante años, las decisiones vitales sobre quién obtiene la cobertura de Medicare se han tomado en las oficinas administrativas de las compañías de seguros médicos. Ahora, algunas de esas decisiones que cambian vidas se toman mediante software de inteligencia artificial.
Al menos esa es la afirmación de dos familias que demandaron a UnitedHealth Group esta semana, diciendo que el gigante de los seguros utilizó tecnología emergente para negar o acortar los períodos de rehabilitación de dos hombres mayores en los meses previos a su muerte.
Dicen que la inteligencia artificial (IA) de UnitedHealth toma decisiones «rígidas y poco realistas» sobre lo que se necesita para que los pacientes se recuperen de enfermedades graves y les niega atención en centros de rehabilitación y enfermería especializada que deberían estar cubiertos por los planes Medicare Advantage, según un Demanda federal presentada en Minnesota por el patrimonio de dos pacientes ancianos en Wisconsin. La demanda, que busca estatus de demanda colectiva, dice que es ilegal permitir que la inteligencia artificial anule las recomendaciones de los médicos para estos hombres y pacientes como ellos. Las familias dicen que dichas evaluaciones deberían ser realizadas por profesionales médicos.
Las familias indican en la demanda que creen que la compañía de seguros está privando de atención a pacientes ancianos que no se defenderían, a pesar de que la evidencia muestra que la inteligencia artificial hace un trabajo mediocre al evaluar las necesidades de las personas. Dicen que la compañía utilizó algoritmos para determinar los planes de cobertura y anular las recomendaciones de los médicos a pesar de la asombrosamente alta tasa de error del programa de inteligencia artificial.
Según documentos judiciales, más del 90% de las denegaciones de reclamaciones de los pacientes fueron anuladas mediante apelaciones internas o un juez federal de derecho administrativo. Pero en realidad, sólo un pequeño número de pacientes ha cuestionado las decisiones de los algoritmos. Un pequeño porcentaje de pacientes (0,2%) optó por luchar contra las denegaciones de reclamaciones a través del proceso de apelación. La gran mayoría de las personas aseguradas a través de los planes Medicare Advantage de UnitedHealth «pagan costos de bolsillo o renuncian al resto de la atención post-aguda prescrita», dice la demanda.
Los abogados que representan a las familias que demandan al gigante asegurador con sede en Minnesota dijeron que la alta tasa de denegaciones es parte de la estrategia de la aseguradora.
«Están anteponiendo sus propios beneficios a las personas con las que han contratado y luego están legalmente obligados a cubrirlos», dijo Ryan Clarkson, un abogado de California cuyo bufete de abogados ha presentado varios casos contra empresas que utilizan inteligencia artificial. «Es así de simple. Es sólo codicia».
El software de inteligencia artificial de naviHealth, que fue citado en la demanda, no se utiliza para tomar decisiones de cobertura, dijo UnitedHealth a USA TODAY en un comunicado.
«La herramienta se utiliza como guía para ayudarnos a informar a los proveedores, familias y otros cuidadores sobre el tipo de asistencia y atención que un paciente puede necesitar tanto en el centro como después de regresar a casa», dijo la compañía.
La compañía dijo que las decisiones de cobertura se basan en los Centros de Servicios de Medicare y Medicaid y en los estándares de los planes de seguro del consumidor.
La empresa dijo: «Esta demanda no tiene fundamento y nos defenderemos enérgicamente».
Los juicios de este tipo no son nuevos. Son parte de un creciente cuerpo de demandas.
En julio, el bufete de abogados de Clarkson presentó una demanda. asunto contra CIGNA Healthcare alegando que la aseguradora utilizó inteligencia artificial para automatizar las denegaciones de reclamaciones. La empresa también ha presentado demandas contra el fabricante de ChatGPT. AbiertoAI Y Google.
Las familias pagan por una atención costosa que la compañía de seguros les niega
Los demandantes en la demanda de esta semana son familiares de dos residentes fallecidos de Wisconsin, Jane B. Loken y Del. Henry Tetzloff, ambos asegurados a través de los planes privados de Medicare de UnitedHealth.
En mayo de 2022, Loken, de 91 años, se cayó en casa y se rompió la pierna y el tobillo, lo que requirió una breve estancia en el hospital seguida de un mes en un centro de rehabilitación mientras se recuperaba. El médico de Lukin recomendó entonces fisioterapia para que pudiera recuperar fuerza y equilibrio. El hombre de Wisconsin pasó menos de tres semanas en fisioterapia antes de que su compañía de seguros cancelara su cobertura y recomendara que le dieran el alta del hospital y lo enviaran a recuperarse a casa.
Un fisioterapeuta describió la condición de Luken como «paralizada» y «débil», pero las súplicas de su familia de continuar cubriendo el tratamiento fueron denegadas, según la demanda.
Su familia optó por continuar el tratamiento a pesar de la negativa. Sin cobertura, la familia tuvo que pagar entre 12.000 y 14.000 dólares al mes durante casi un año de tratamiento en el centro. Lukin murió en las instalaciones en julio de 2023.
La familia del otro hombre también expresó su preocupación de que el algoritmo de IA negaría los servicios de rehabilitación necesarios.
Tetzloff se estaba recuperando de un derrame cerebral en octubre de 2022 y sus médicos recomendaron que el hombre de 74 años fuera trasladado del hospital a un centro de rehabilitación durante al menos 100 días. Inicialmente, la compañía de seguros intentó poner fin a su cobertura después de 20 días, pero la familia apeló. La compañía de seguros prorrogó entonces la estancia de Tetzloff otros 20 días.
El médico del hombre había recomendado terapia física y ocupacional adicional, pero su cobertura terminó después de 40 días. La familia gastó más de 70.000 dólares en su cuidado durante los siguientes 10 meses. Tetzloff pasó sus últimos meses en un centro de enfermería, donde murió el 11 de octubre.
10 llamamientos para la rehabilitación de una fractura de cadera
La acción legal se produce después de que los defensores de Medicare comenzaran a expresar preocupaciones sobre el uso rutinario de tecnología de inteligencia artificial para negar o reducir la atención a las personas mayores en planes privados de Medicare.
En 2022, el Centro de Defensa de Medicare examinó el uso de software de inteligencia artificial por parte de varias compañías de seguros en entornos de rehabilitación y atención médica domiciliaria. Grupo de defensores un informe Concluyó que los programas de IA a menudo tomaban decisiones de cobertura más restrictivas de lo que Medicare habría permitido, y las decisiones carecían del nivel de granularidad necesario para evaluar las circunstancias únicas de cada caso.
«Hemos visto que más atención que habría estado cubierta por el Medicare tradicional se niega directamente o se cancela prematuramente», dijo David Lipshutz, director asociado y abogado principal de políticas del Centro para la Defensa de Medicare.
Algunas personas mayores que apelen la denegación pueden obtener un indulto para cerrar nuevamente, dijo Lipschutz. Citó el ejemplo de A. mujer de Connecticut quien buscó una estadía de tres meses en un centro de rehabilitación mientras se recuperaba de una cirugía de reemplazo de cadera. Presentó y ganó 10 apelaciones después de que la compañía de seguros intentara repetidamente rescindir su cobertura y limitar su estadía.
La importancia de tener un “humano informado”
Los expertos legales que no participaron en los casos dijeron que la inteligencia artificial se ha convertido en un objetivo fértil para personas y organizaciones que buscan frenar o moldear el uso de tecnología emergente.
Una consideración importante para las aseguradoras de salud y otros que implementan programas de IA es garantizar que los humanos sean parte de la decisión, dijo Gary Marchant, director de la facultad del Centro de Derecho, Ciencia e Innovación de la Facultad de Derecho Sandra Day O’Connor de la Universidad Estatal de Arizona. Proceso de fabricación.
Si bien los sistemas de inteligencia artificial pueden ser eficientes y completar tareas rudimentarias rápidamente, los programas por sí solos también pueden cometer errores, dijo Marchant.
«A veces los sistemas de IA no son razonables, no tienen sentido común», afirmó Marchant. «Tienes que tener un ser humano al tanto».
En los casos en los que las compañías de seguros utilizan la IA para guiar las decisiones sobre reclamaciones, Marchant dijo que el factor legal clave puede ser el grado en que la empresa está sujeta al algoritmo.
La demanda de UnitedHealth afirma que la empresa restringió la «discreción» de los trabajadores para desviarse del algoritmo. Los empleados que se desviaron de las expectativas del programa de IA enfrentaron medidas disciplinarias o despidos, según la demanda.
Un factor a seguir en los casos de UnitedHealth y demandas similares es qué tan comprometidos están los empleados con seguir el modelo de IA, dijo Marchant.
«Claramente tiene que haber una oportunidad para que el humano que toma las decisiones anule el algoritmo», dijo Marchant. «Esto es simplemente un gran problema en la IA y la atención sanitaria».
Dijo que es importante considerar las consecuencias de cómo las empresas configuran sus sistemas de IA. Dijo que las empresas deberían considerar cuánto respeto le dan al algoritmo, sabiendo que la IA puede ingerir cantidades masivas de datos y ser «increíblemente poderosa» e «increíblemente precisa». Los líderes también deben tener en cuenta que la IA a veces puede estar completamente equivocada».
Ken Alltucker está en X, anteriormente Twitter, en @kalltucker, o puede recibir un correo electrónico a [email protected]..
«Web friki. Wannabe pensador. Lector. Evangelista de viajes independiente. Aficionado a la cultura pop. Erudito musical certificado».
