Beeldende kunstenaars vechten terug tegen AI-bedrijven
Een rechtszaak die drie beeldend kunstenaars hebben aangespannen tegen AI-beeldmakers kan een vroege indicatie zijn van hoe moeilijk het voor allerlei soorten makers zal zijn om te voorkomen dat AI-ontwikkelaars profiteren van hun werk. (31 augustus)
AP
Jarenlang werden cruciale beslissingen over wie Medicare-dekking krijgt, genomen in de backoffices van zorgverzekeraars. Nu worden sommige van die levensveranderende beslissingen genomen door AI-software.
Dat is tenminste de bewering van twee families die UnitedHealth Group deze week hebben aangeklaagd. Ze zeiden dat de verzekeringsgigant opkomende technologie gebruikte om de revalidatieperiodes voor twee oudere mannen in de maanden vóór hun dood te weigeren of te verkorten.
Ze zeggen dat de kunstmatige intelligentie van UnitedHealth, of AI, “starre en onrealistische” beslissingen neemt over wat er nodig is om patiënten te laten herstellen van ernstige ziekten en hen zorg te ontzeggen in bekwame verpleeg- en revalidatiecentra die gedekt zouden moeten worden onder Medicare Advantage-plannen, volgens een federale rechtszaak aangespannen in Minnesota door de nalatenschappen van twee oudere patiënten in Wisconsin. De rechtszaak, die de status van class action beoogt, zegt dat het illegaal is om kunstmatige intelligentie toe te staan de aanbevelingen van artsen voor deze mannen en patiënten zoals zij terzijde te schuiven. Families zeggen dat dergelijke evaluaties door medische professionals moeten worden gedaan.
De families geven in de rechtszaak aan dat ze van mening zijn dat de verzekeringsmaatschappij oudere patiënten de zorg ontneemt die niet terug willen vechten, ook al blijkt uit bewijsmateriaal dat kunstmatige intelligentie de behoeften van mensen matig inschat. Ze zeggen dat het bedrijf algoritmen heeft gebruikt om dekkingsplannen te bepalen en de aanbevelingen van artsen terzijde te schuiven, ondanks het verbluffend hoge foutenpercentage van het AI-programma.
Volgens gerechtelijke documenten werd meer dan 90% van de afgewezen claims van patiënten vernietigd door intern beroep of een federale administratieve rechter. Maar in werkelijkheid heeft slechts een klein aantal patiënten de beslissingen van de algoritmen betwist. Een klein percentage van de patiënten – 0,2% – koos ervoor om de weigeringen van claims aan te vechten via de beroepsprocedure. De overgrote meerderheid van de mensen die verzekerd zijn via de Medicare Advantage-plannen van UnitedHealth “betalen eigen kosten of zien af van de rest van hun voorgeschreven postacute zorg”, aldus de rechtszaak.
Advocaten die de families vertegenwoordigen die de in Minnesota gevestigde verzekeringsgigant aanklagen, zeiden dat het hoge aantal weigeringen deel uitmaakt van de strategie van de verzekeraar.
“Ze stellen hun eigen winst boven de mensen met wie ze een contract hebben gesloten en zijn vervolgens wettelijk verplicht deze te dekken”, zegt Ryan Clarkson, een advocaat uit Californië wiens advocatenkantoor verschillende zaken heeft aangespannen tegen bedrijven die kunstmatige intelligentie gebruiken. ‘Zo simpel is het. Het is gewoon hebzucht.’
De AI-software van naviHealth, die in de rechtszaak werd aangehaald, wordt niet gebruikt om dekkingsbeslissingen te nemen, vertelde UnitedHealth TODAY in een verklaring aan USA.
“De tool wordt gebruikt als leidraad om ons te helpen zorgverleners, families en andere zorgverleners te informeren over het soort hulp en zorg dat een patiënt nodig heeft, zowel in de instelling als na thuiskomst”, aldus het bedrijf.
Het bedrijf zei dat dekkingsbeslissingen gebaseerd zijn op Centers for Medicare en Medicaid Services en de normen voor consumentenverzekeringen.
Het bedrijf zei: “Deze rechtszaak heeft geen enkele waarde en we zullen ons krachtig verdedigen.”
Dit soort rechtszaken zijn niet nieuw. Ze maken deel uit van een groeiend aantal rechtszaken.
In juli spande het advocatenkantoor van Clarkson een rechtszaak aan probleem v. CIGNA Healthcare beweert dat de verzekeraar kunstmatige intelligentie heeft gebruikt om de weigeringen van claims te automatiseren. Het bedrijf heeft ook rechtszaken aangespannen tegen de maker van ChatGPT Open AI En Googlen.
Gezinnen betalen voor dure zorg die door de verzekeringsmaatschappij wordt geweigerd
De eisers in de rechtszaak van deze week zijn familieleden van twee overleden inwoners van Wisconsin, Jane B. Loken en Del. Henry Tetzloff, die beiden verzekerd zijn via de particuliere Medicare-plannen van UnitedHealth.
In mei 2022 viel de 91-jarige Loken thuis en brak zijn been en enkel, waardoor een kort verblijf in het ziekenhuis nodig was, gevolgd door een maand in een revalidatiecentrum terwijl hij herstelde. De arts van Lukin adviseerde vervolgens fysiotherapie, zodat hij zijn kracht en evenwicht kon herwinnen. De man uit Wisconsin bracht minder dan drie weken door in fysiotherapie voordat zijn verzekeringsmaatschappij zijn dekking beëindigde en hem adviseerde uit het ziekenhuis te worden ontslagen en thuis te herstellen.
Een fysiotherapeut omschreef de toestand van Luken als ‘verlamd’ en ‘zwak’, maar de verzoeken van zijn familie om de behandeling te blijven vergoeden werden volgens de rechtszaak afgewezen.
Zijn familie besloot ondanks de weigering de behandeling voort te zetten. Zonder dekking moest het gezin $12.000 tot $14.000 per maand betalen voor bijna een jaar behandeling in de instelling. Lukin stierf in juli 2023 in de instelling.
De familie van de andere man uitte ook zijn bezorgdheid dat het AI-algoritme de noodzakelijke revalidatiediensten zou ontzeggen.
Tetzloff herstelde van een beroerte in oktober 2022, en zijn artsen adviseerden de 74-jarige overplaatsing van het ziekenhuis naar een revalidatiecentrum voor ten minste 100 dagen. De verzekeringsmaatschappij wilde aanvankelijk zijn dekking na twintig dagen beëindigen, maar de familie ging in beroep. De verzekeringsmaatschappij verlengde vervolgens het verblijf van Tetzloff met nog eens twintig dagen.
De arts van de man had aanvullende fysiotherapie en ergotherapie aanbevolen, maar zijn dekking eindigde na 40 dagen. De familie besteedde de komende tien maanden meer dan $ 70.000 aan zijn zorg. Tetzloff bracht zijn laatste maanden door in een verpleeginrichting, waar hij op 11 oktober stierf.
10 oproepen voor revalidatie van een gebroken heup
De juridische actie komt nadat Medicare-voorstanders hun bezorgdheid begonnen te uiten over het routinematige gebruik van kunstmatige intelligentietechnologie om de zorg voor senioren in particuliere Medicare-plannen te weigeren of te verminderen.
In 2022 onderzocht het Center for Medicare Advocacy het gebruik van AI-software door verschillende verzekeringsmaatschappijen in revalidatie- en thuiszorgomgevingen. Belangengroep een verslag Het concludeerde dat AI-programma’s vaak restrictievere dekkingsbeslissingen namen dan Medicare zou hebben toegestaan, en dat de beslissingen niet het niveau van granulariteit hadden dat nodig was om de unieke omstandigheden van elk geval te beoordelen.
“We hebben gezien dat meer zorg die onder de traditionele Medicare zou vallen, ronduit wordt geweigerd of voortijdig wordt beëindigd”, zegt David Lipshutz, adjunct-directeur en hoofdbeleidsadvocaat van het Center for Medicare Advocacy.
Sommige senioren die in beroep gaan tegen de weigering kunnen uitstel krijgen om opnieuw te worden gesloten, zei Lipschutz. Hij noemde het voorbeeld van A Connecticut-vrouw die een verblijf van drie maanden in een revalidatiecentrum zocht toen ze herstelde van een heupvervangende operatie. Ze heeft tien beroepsprocedures ingediend en gewonnen nadat de verzekeringsmaatschappij herhaaldelijk had geprobeerd haar dekking te beëindigen en haar verblijf te beperken.
Het belang van een ‘mens op de hoogte’
Juridische experts die niet bij de zaken betrokken waren, zeiden dat kunstmatige intelligentie een vruchtbaar doelwit is geworden voor mensen en organisaties die het gebruik van opkomende technologie willen beteugelen of vorm willen geven.
Een belangrijke overweging voor zorgverzekeraars en anderen die AI-programma’s inzetten, is ervoor te zorgen dat mensen deel uitmaken van de beslissing, zegt Gary Marchant, faculteitsdirecteur van het Center for Law, Science and Innovation aan het Sandra Day O’Connor College of Law van de Arizona State University. Het maken van proces.
Hoewel AI-systemen efficiënt kunnen zijn en rudimentaire taken snel kunnen voltooien, kunnen programma’s op zichzelf ook fouten maken, zei Marchant.
“Soms zijn AI-systemen niet redelijk, ze hebben geen gezond verstand,” zei Marchant. “Je moet een mens in de lus hebben.”
In gevallen waarbij verzekeringsmaatschappijen AI gebruiken om claimsbeslissingen te begeleiden, zei Marchant dat de belangrijkste juridische factor de mate kan zijn waarin het bedrijf onderworpen is aan het algoritme.
In de rechtszaak van UnitedHealth wordt gesteld dat het bedrijf de “discretie van werknemers om af te wijken” van het algoritme beperkt. Werknemers die afweken van de verwachtingen van het AI-programma kregen te maken met disciplinaire maatregelen of ontslag, aldus de rechtszaak.
Eén factor die in de UnitedHealth-zaken en soortgelijke rechtszaken moet worden gevolgd, is hoe toegewijd werknemers zijn aan het volgen van het AI-model, zei Marchant.
“Het is duidelijk dat er een mogelijkheid moet zijn voor de menselijke beslisser om het algoritme terzijde te schuiven”, aldus Marchant. “Dit is gewoon een groot probleem in AI en de gezondheidszorg.”
Hij zei dat het belangrijk is om na te denken over de gevolgen van de manier waarop bedrijven hun AI-systemen opzetten. Hij zei dat bedrijven moeten overwegen hoeveel respect ze aan het algoritme geven, wetende dat AI enorme hoeveelheden gegevens kan verwerken en ‘ongelooflijk krachtig’ en ‘ongelooflijk nauwkeurig’ kan zijn. Leiders moeten ook in gedachten houden dat AI soms volkomen ongelijk kan hebben.
Ken Alltucker is op X, voorheen Twitter, op @kalltucker, of kan worden gemaild op [email protected].
“Amateur-organisator. Wannabe-bierevangelist. Algemene webfan. Gecertificeerde internetninja. Fanatieke lezer.”
More Stories
De aandelen van Tyson dalen omdat de voedselgigant ziet dat de inflatie de vraag erodeert
Live updates op Aziatische markten: RBA-bijeenkomst, handel met China
Het Berkshire Hathaway-evenement biedt een goed inzicht in de opvolger van Warren Buffett, maar roept ook nieuwe vragen op