De meeste gezondheidszorgsystemen zijn het experiment met kunstmatige intelligentie achter zich gelaten en zijn in de richting van een tijdperk gegaan waarin ze afhankelijk zijn van de technologie voor het beheer van taken als klinische documentatie en facturering. Maar een nieuwe rapport van UPMC constateert dat, ondanks de wijdverbreide adoptie van AI, veel gezondheidszorgsystemen functioneren zonder duidelijke vangrails om risico’s te beheersen.
“Ik denk dat we allemaal de belofte in AI zien, maar (systemen) moeten echte vangrails hebben … om deze (tools) daadwerkelijk op een effectieve manier in het hele gezondheidszorgsysteem te implementeren”, zegt Ken Howard, vice-president van UPMC Enterprises, de innovatie- en durfkapitaalafdeling van het UPMC-gezondheidssysteem.
Het rapport, van UPMC’s Center for Connected Medicine en KLAS Research, ondervroeg meer dan twintig leiders in de gezondheidszorg, waaronder leidinggevenden in het gezondheidszorgsysteem en ambulante zorgorganisaties.
De bevindingen laten een industrie zien die gretig AI-tools adopteert. Maar als het gaat om de infrastructuur rond de manier waarop deze instrumenten kunnen worden toegepast zonder risico’s of veiligheidsproblemen, lijken veel gezondheidszorgsystemen het vliegtuig te bouwen terwijl ze ermee vliegen.
Tot de meest genoemde toepassingen van AI behoren klinische documentatie, beeldvorming, inkomstenplanning, patiëntenbetrokkenheid, personeelsinstrumenten en productiviteitsassistenten.
Uit het rapport blijkt dat hoewel de meeste (93%) gezondheidszorgsystemen AI-tools van derden hebben ingezet, een meerderheid (63%) van de ondervraagden nog steeds de infrastructuur ontwikkelt om deze te ondersteunen, waarbij beleid wordt omschreven als ‘ad hoc’ in plaats van gevestigd of geavanceerd.
Nog minder respondenten (44%) meldden dat ze over een speciaal dataplatform beschikken om AI-oplossingen te testen met behulp van modellen die zijn aangepast aan echte patiënten. Toch meldde 92% van de respondenten dat ze tools van derden hadden getest voorafgaand aan de implementatie door middel van pilottests of proof-of-concept-werk van de externe leverancier.
Zonder een goede interne infrastructuur, zo stelt het rapport, kunnen systemen moeite hebben om de bevindingen van hun AI-tools te valideren. Respondenten zeiden dat de datakwaliteit sterk kan variëren, gebaseerd op inconsistente definities binnen verschillende teams, het gebruik van handmatige oplossingen en spreadsheets met ongestructureerde data. Het rapport suggereert dat veel systemen nog steeds afhankelijk zijn van arbeidsintensieve processen om gegevens op elkaar af te stemmen en voor te bereiden voor rapportage of voor gebruik door een AI-tool.
UPMC heeft zijn eigen dataplatform genaamd Ahavi ingezet om AI-toepassingen te testen zonder de patiëntenzorg te verstoren. Howard zei dat het platform geanonimiseerde patiëntgegevens gebruikt om scenario’s uit de echte wereld na te bootsen.
“Naarmate de acceptatie van AI blijft toenemen, erkennen zorgaanbieders dat succes afhangt van meer dan het selecteren van de juiste technologie”, aldus Howard.
Maar wat een succesvol gebruik van AI in de gezondheidszorg mogelijk maakt, is ook een twistpunt, zo blijkt uit het rapport. Er was een gebrek aan consensus binnen de gezondheidszorgsystemen over hoe een succesvolle AI-strategie eruit ziet, en er was ook geen universele maatstaf om de waarde van de technologie voor patiënten of de systeemefficiëntie te bepalen.
Het rapport suggereert dat de uitdagingen op het gebied van AI in de gezondheidszorg verder gaan dan alleen technische problemen, maar ook operationeel en procedureel zijn. En deze uitdagingen blijven bestaan, zelfs nadat een AI-tool is ingezet.
UPMC stelt dat voortdurende governance, testen en evaluatie van cruciaal belang zijn om AI op een verantwoorde manier in de gezondheidszorg in te zetten.
“Wat uit dit onderzoek naar voren komt, is een duidelijke erkenning dat implementatie slechts de eerste stap is”, zegt Rob Bart, MD, Chief Medical Information Officer bij UPMC. “Gezondheidssystemen zijn nu gericht op het bouwen van de bestuursstructuren, het testen van capaciteiten en organisatorische strategieën die nodig zijn om ervoor te zorgen dat AI betekenisvolle en meetbare waarde levert.”
