Hoe kunnen zorgorganisaties lacunes in vertrouwen en gegevensbeheer oplossen om de volledige voordelen van AI te benutten?
Door Kate O'Flaherty
De gezondheidszorgsector innoveert met behulp van AI, en de technologie heeft een enorm potentieel op gebieden zoals diagnostiek, triage en administratie.
In het Verenigd Koninkrijk is de NHS al AI omarmen verder dan de basistaken. NHS England is begonnen pilotprojecten voor AI-gebaseerde longkankerscreeningwaarbij de technologie kleinere problemen kan opsporen dan het menselijk oog kan zien.
Ondertussen heeft de Amerikaanse Food and Drug Administration (FDA) geautoriseerd meer dan 1,000 apparaten die AI integreren, waarvan de meeste in de radiologie worden gebruikt.
Volgens een recent onderzoek zijn zorgleiders de afgelopen twee jaar verschoven van de vraag of AI relevant is naar de vraag hoe het op een verantwoorde en grootschalige manier kan worden ingezet. McKinsey-rapport.
De cijfers laten zien dat de helft van de Amerikaanse zorgorganisaties al generatieve AI heeft geïmplementeerd, terwijl meer dan 80% de eerste toepassingen al aan eindgebruikers heeft geleverd. Volgens McKinsey is de volgende stap dat organisaties generatieve AI niet langer gebruiken om content te creëren en individuele taken te ondersteunen, maar om het op een bredere manier in te zetten. agentic AI om actie te ondernemen en complexere processen te coördineren.
Toch staan aanzienlijke obstakels de innovatie van AI in de gezondheidszorg in de weg, waaronder beveiligingsrisico's en nalevingsproblemen als gevolg van de enorme hoeveelheden gevoelige gegevens die nodig zijn om systemen te trainen. Hoe kunnen zorgorganisaties de lacunes in vertrouwen en gegevensbeheer overbruggen om de volledige voordelen van AI te benutten?
Zeer gevoelige gegevens
Gegevens uit de gezondheidszorg behoren tot de meest gevoelige en veelzijdige gegevens in welke sector dan ook, omdat ze medische dossiers, persoonsgegevens en financiële informatie van meerdere zorgverleners en -systemen combineren.
"De gegevens van een patiënt kunnen verspreid zijn over ziekenhuizen, huisartsenpraktijken, specialisten, laboratoria, apotheken, verzekeraars en technologieplatformen – vaak in incompatibele formaten en zonder een uniform dossier dat alles met elkaar verbindt," legt Craig Gravina, CTO van Semarchy, uit.
Het gevolg is dat geen enkel systeem een volledig beeld van een patiënt geeft. "Het opbouwen van dat beeld – de longitudinaal patiëntendossier "Dat is wat nodig is om AI veilig en effectief te laten werken in een klinische omgeving," vertelt Gravina. IO“Zonder die gegevens werkt AI met een onvolledig en onbetrouwbaar beeld. In de gezondheidszorg gaat dit verder dan een dataprobleem en wordt het een kwestie van patiëntveiligheid.”
Naarmate AI steeds meer geïntegreerd raakt in klinische werkprocessen, komen organisaties onder steeds grotere druk te staan om fundamentele vragen te beantwoorden: Waar komen deze gegevens vandaan, zijn ze gevalideerd, wie heeft er toegang toe en kunnen beslissingen die door AI worden ondersteund, worden gecontroleerd? "Wanneer systemen op grote schaal klinische beslissingen gaan beïnvloeden, leggen zwakke datafundamenten ernstige lacunes in vertrouwen en verantwoording bloot", aldus Gravina.
De introductie van AI-technologie brengt problemen met zich mee op drie gebieden: verantwoording, verklaarbaarheid en toestemming, aldus Mike Macauley, algemeen directeur bij Liferay. "Niemand weet wie de schuldige is als AI medisch advies geeft. Als een systeem een aanbeveling doet, kan de wet niet bepalen wie verantwoordelijk is voor de uitkomst."
Volgens Macauley zijn veel AI-modellen in feite 'black boxes' die niet uitleggen hoe ze tot een conclusie komen. Dit levert een juridisch probleem op in het Verenigd Koninkrijk. Algemene Verordening Gegevensbescherming (AVG), omdat patiënten het recht hebben te weten waarom een computer een bepaalde beslissing over hun gezondheid heeft genomen, aldus Macauley.
Ondertussen trainen bedrijven hun AI met data die ze voor een specifiek doel hebben verzameld, maar die data wordt vaak ook voor andere doeleinden gebruikt. "Dit betekent dat ze niet kunnen bewijzen dat ze het wettelijke recht hebben om de oorspronkelijke data te gebruiken waarmee het systeem is getraind", aldus Macauley. IO.
Het verborgen probleem
Naarmate AI in de gezondheidszorg wordt geïntroduceerd, wordt een vaak over het hoofd gezien risico gevormd door wat er gebeurt wanneer data door een complexe keten van derde partijen, zoals verouderde platformen en externe partners, gaat.
"De verantwoordelijkheid wordt bij elke overdracht verwaterd", aldus Gravina van Semarchy. "Het is niet altijd duidelijk wie de eigenaar is van de data in elke fase, wie verantwoordelijk is voor de kwaliteit ervan, of wie aansprakelijk is als er iets misgaat. Wanneer geen enkele partij een volledig overzicht heeft van de gehele data-levenscyclus, valt het governance-systeem weg."
Wat de complexiteit verder verhoogt, is dat traditionele kaders voor gezondheidszorgbestuur zijn ontworpen voor statische systemen met relatief stabiele gegevensstromen en vaste regels. Cyber Essentials en NHS-informatiebeheer"Ze werken alleen voor rigide systemen. AI breekt deze regels omdat het constant evolueert," zegt Macauley van Liferay.
Tegelijkertijd een standaard Gegevensbeschermingseffectbeoordeling Zoals de AVG voorschrijft, wordt een systeem slechts één keer beoordeeld. Een AI die gaandeweg leert, kan echter zijn gedrag aanpassen zonder dat iemand controleert of het nog steeds veilig of legaal is, aldus Macauley.
Innovatieknelpunten
Een gebrek aan vertrouwen in de governance ondermijnt de vooruitgang van AI in de gezondheidszorg door het risico op innovatieknelpunten te vergroten. Wanneer organisaties geen vertrouwen hebben in hun datafundamenten, stagneert de adoptie van AI.
"Leiders zullen aarzelen om AI in klinische omgevingen in te zetten als ze de datakwaliteit en -herkomst niet kunnen garanderen, of de traceerbaarheid niet aan toezichthouders kunnen aantonen", aldus Gravina van Semarchy. "De ironie is dat de governance-infrastructuur die nodig is om AI veilig op te schalen, dezelfde is die het longitudinale patiëntdata-overzicht mogelijk maakt dat AI in de eerste plaats zo effectief maakt."
Goed bestuur maakt effectieve AI in de gezondheidszorg mogelijk, legt hij uit. "Het is cruciaal dat het blootstellen van data aan AI niet hoeft te betekenen dat de ingebouwde governance-waarde verloren gaat — herkomst, toegangscontrole en datakwaliteit moeten met de data meereizen en niet achterblijven wanneer ze een AI-pipeline binnenkomen."
Internationale standaarden
Twee internationale standaarden bieden het kader voor het beheer van AI. ISO 27001 Het vormt de basis voor sterke informatiebeveiliging en -governance en helpt bij het opzetten van gestructureerde benaderingen voor risicobeheer, toegangscontrole, incidentrespons, activabeheer en verantwoording. Dit draagt bij aan een "verdedigbaarder governancebeleid", aldus Gravina.
ISO 42001 Dit bouwt hierop voort door een bestuursmodel te introduceren dat specifiek is ontworpen voor AI-systemen. Het richt zich op toezicht, AI-specifiek risicomanagement, transparantie en de verantwoorde ontwikkeling en het gebruik van AI.
Samen stellen deze standaarden zorgorganisaties in staat om "verder te gaan dan ad-hoc AI-implementatie en over te stappen op een meer gestructureerd bestuursmodel", legt Gravina uit.
Het is duidelijk dat AI een enorm potentieel biedt in de gezondheidszorg, mits de bestuursstructuren worden aangepast aan dit innovatieve nieuwe tijdperk.
Volgens experts zou het vertrouwen van de patiënt aan de basis van alles moeten liggen. Lohyd Terrier, universitair docent organisatiegedrag aan de EHL Hospitality Business School, pleit ervoor om AI te behandelen als een expliciete dienst voor de patiënt. "Het moet traceerbaar en verklaarbaar zijn en geweigerd kunnen worden – in plaats van een onzichtbare backofficefunctie."
Het uitgangspunt moet de data zelf zijn. Leiders moeten begrijpen of hun organisatie de basis heeft gelegd voor "een uniform, longitudinaal beeld van patiëntgegevens over alle systemen en zorgverleners heen", aldus Gravina van Semarchy. "Zonder dat is AI-governance gebouwd op drijfzand."
Hij adviseert om in kaart te brengen waar AI al wordt gebruikt, kritieke datastromen en afhankelijkheden van derden te identificeren, eigenaarschap en beheer te verduidelijken en toegangscontroles, audit trails en datakwaliteit van begin tot eind te versterken. "Privacy, beveiliging en AI-governance moeten worden afgestemd op één samenhangende aanpak, in plaats van afzonderlijk te worden beheerd."
Breid je kennis uit
Blog: Datalek bij DXS International: lessen voor de gezondheidszorg
webinar: ISO 42001 in de praktijk: lessen uit een van de eerste ISO 42001-certificeringen ter wereld
