Generatieve AI (GenAI) heeft sinds de introductie eind 2022 enorme hype in de sector gecreëerd. Nu bevindt het zich echter in wat Gartner "het dal van desillusie" noemt, omdat implementaties niet voldoen aan de torenhoge verwachtingen. McKinsey schatte dat GenAI in 2023 jaarlijks een omzet van $ 2.6 biljoen tot $ 4.4 biljoen zou kunnen genereren, verdeeld over 63 verschillende toepassingen. Maar minder dan een jaar later gaf minder dan 30% van de AI-leiders aan dat hun CEO's tevreden waren met het rendement op investeringen (ROI) van projecten, aldus Gartner.

Erger nog, de bedrijfsrisico's die gepaard gaan met het gebruik van de technologie kunnen aanzienlijk zijn. Vraag het maar aan Deloitte Australië, dat onlangs werd bekritiseerd vanwege het opnemen van door AI gegenereerde fouten in een rapport van de federale overheid. Nu organisaties zich haasten om de technologie te implementeren voor een concurrentievoordeel, worden governance-richtlijnen essentieel.

Deloitte liep een rood gezicht op

Het 237 pagina's tellende rapport van Deloitte werd oorspronkelijk in juli gepubliceerd op de website van het ministerie van Werkgelegenheid en Arbeidsverhoudingen, zo melden diverse bronnen . De bevindingen wezen op een discrepantie tussen de systemen die de overheid gebruikt om uitkeringsfraude op te sporen en de daadwerkelijke beleidsdoelstellingen. Universiteitsonderzoeker Chris Rudge zag echter dat er iets niet helemaal klopte.

Na verder onderzoek vond hij naar verluidt 20 fouten in het rapport, waaronder:

  • Een verzonnen citaat van een federale rechter, wiens achternaam verkeerd gespeld was
  • Tien verwijzingen naar een boek met de titel The Rule of Law and Administrative Justice in the Welfare State, dat in werkelijkheid niet bestaat
  • Onjuiste toeschrijving van dat boek aan een professor van de Universiteit van Sydney
  • Verwijzingen naar niet-bestaande rapporten die worden toegeschreven aan experts op het gebied van juristen en softwaretechniek

Deloitte Australië reageerde naar verluidt met de mededeling dat de "kwestie rechtstreeks met de klant is opgelost". De overheid meldde echter dat het adviesbureau ermee had ingestemd een deel van de AU$ 440,000 ($ 290,000) aan projectkosten terug te betalen. In een bijgewerkte versie van het rapport waren de fouten blijkbaar verwijderd en werd in een nieuwe openbaarmaking vermeld dat Azure OpenAI was gebruikt om het te schrijven.

Hallucinaties en meer

Deloitte Australië is niet de enige die zich gegeneerd voelt door AI op de werkvloer. Een rapport van concurrent KPMG uit april onthult dat , hoewel 67% van de werknemers AI gebruikt om hun productiviteit te verhogen, bijna zes op de tien (57%) toegeven dat ze fouten in hun werk hebben gemaakt als gevolg van fouten die door de technologie zijn gegenereerd.

Hallucinaties vormen een hardnekkig probleem, vooral wanneer openbaar beschikbare AI-tools worden gebruikt voor bepaalde taken die een hoge mate van domeinexpertise vereisen. Ze worden soms, maar niet altijd, veroorzaakt door onvolledige of onjuiste trainingsgegevens. Het risico is echter dat de AI zo zelfverzekerd is dat een niet-expert erin trapt.

Hallucinaties vormen echter niet het enige risico dat voortvloeit uit het gebruik van AI op de werkplek. Gebruikers kunnen per ongeluk gevoelige bedrijfs-IP of klantinformatie delen met een openbaar model. Dit brengt aanzienlijke risico's met zich mee op het gebied van datalekken en compliance, omdat dezelfde informatie theoretisch gezien aan andere gebruikers kan worden doorgegeven. Er bestaat ook een risico op diefstal door de modelontwikkelaar. AI-tools zelf kunnen kwetsbaarheden bevatten of het doelwit zijn van aanvallen die bedoeld zijn om onbedoelde resultaten te genereren.

Deze risico's zijn niet theoretisch. Het ISMS State of Information Security Report 2025 onthult dat 26% van de bedrijven in het VK en de VS het afgelopen jaar te maken heeft gehad met een datavergiftigingsaanval. En een derde (34%) maakt zich zorgen over de opkomst van schaduw-AI binnen de organisatie.

Deze risico's zouden kunnen toenemen door de wijdverbreide toepassing van agentische AI, die is ontworpen om autonoom te werken in verschillende workflows met veel minder menselijk toezicht om taken uit te voeren. De zorg is dat het veel langer kan duren om te detecteren wanneer de agent zich vreemd of niet-conform gedraagt.

Voor organisaties zoals Deloitte Australië kan ongecontroleerd gebruik van AI hen blootstellen aan reputatie-, financiële en compliancerisico's. In dit specifieke geval was de financiële klap voor een organisatie van de omvang van Deloitte gering. Maar het incident zou potentiële nieuwe klanten wel eens aan het denken kunnen zetten voordat ze een deal sluiten.

Is ISO 42001 de redding?

Dit is niet de eerste keer dat AI-illusies individuen en organisaties in verlegenheid brengen die beter zouden moeten weten. In 2023 kwam aan het licht dat een Amerikaans advocatenkantoor in een letselschadezaak gebruikmaakte van verzonnen rechtszaken en citaten van ChatGPT. De federale rechter omschreef dit destijds als "een ongekende omstandigheid". Hoewel ontwikkelaars werken aan manieren om dit soort illusies te minimaliseren, geldt: hoe meer de technologie zonder adequate waarborgen en toezicht wordt gebruikt, hoe groter de kans dat andere bedrijven in de voetsporen van Deloitte Australië zullen treden.

Voor Ruth Astbury, medeoprichter van ExpandAI, is de zaak "een pijnlijke herinnering dat AI-risico niet alleen technisch is – het is organisatorisch en raakt alle aspecten van bedrijfsrisicomanagement." Ze betoogt dat er een groot gebrek was aan voldoende "governance, verantwoordingsplicht en continu menselijk toezicht", wat uiteindelijk leidde tot een incident dat enorme reputatieschade voor het bedrijf zou kunnen veroorzaken.

"Wanneer AI-tools worden uitgerold zonder gedefinieerd eigenaarschap, ethische grenzen of gebruiksbeleid, innoveer je niet – je zet de reputatie van je merk op het spel", vertelt ze aan ISMS.online. "De zakelijke risico's van onbeheerde AI variëren van datalekken en vooroordelen tot nalevingsfouten en verlies van vertrouwen van klanten."

Hoewel AI onderzoekers kan helpen, mag het nooit de "ouderwetse beoordeling, verfijning en bevestiging van feiten" vervangen, voegt Astbury eraan toe. "Wat verrassend is, is dat dit gebeurde bij een van de Big Four-adviesbureaus", vervolgt ze. "AI-partners en senior consultants leven en ademen hun domein. Ze kunnen, en moeten, verwijzingen of beweringen in rapporten herkennen die ze nooit eerder zijn tegengekomen of die duidelijk hallucinaties zijn."

Het antwoord zou ISO 42001 kunnen zijn. Deze norm is ontworpen om organisaties te helpen bij het opzetten, implementeren, onderhouden en continu verbeteren van AI-managementsystemen.

"De oplossing is eenvoudig: organisaties hebben een gestructureerde aanpak van AI-risicomanagement nodig, helder beleid, transparante besluitvorming en personeelstraining die verantwoording op elk niveau integreert. Dit is waar AI-governance, ondersteund door een AI-managementkader zoals ISO/IEC 42001, om de hoek komt kijken", legt Astbury uit.

ISO/IEC 42001 biedt een managementsysteem voor AI, net zoals ISO 27001 dat doet voor informatiebeveiliging. Hiermee wordt gegarandeerd dat continu AI-bestuur, risicomanagement, monitoring en ethisch ontwerp in elk AI-initiatief worden ingebouwd.

Er is nog een lange weg te gaan voordat AI-tools het door Gartner befaamde productiviteitsplateau bereiken . Maar om dat te bereiken, zullen organisaties moeten beseffen dat menselijke expertise altijd een voorwaarde blijft voor succesvolle toepassingen.