Veel van de laatste bepalingen van de EU-AI-wet zullen naar verwachting in 2026 in werking treden. Op 2 augustus zal het grootste deel van de EU-AI-wet van toepassing zijn op exploitanten van AI-systemen op alle niveaus, met uitzondering van artikel 6(1) en de systemen bedoeld in artikel 111(1). Vanaf dat moment zal de wet van toepassing zijn op exploitanten van AI-systemen met een hoog risico die vóór deze datum op de markt zijn gebracht of in gebruik zijn genomen.
Om bedrijven te ondersteunen bij het voldoen aan de transparantievereisten van artikel 50, heeft de Europese Commissie het tweede ontwerp van de Gedragscode inzake transparantie van door AI gegenereerde content gepubliceerd. Deze vrijwillige code, opgesteld door onafhankelijke deskundigen, behandelt belangrijke aandachtspunten voor aanbieders en gebruikers van AI-systemen die content genereren die onder artikel 50 valt; de code helpt organisaties aan te tonen dat ze aan de wet voldoen.
De gedragscode bestaat uit twee delen. Deel 1 bevat regels voor het markeren en detecteren van door AI gegenereerde en gemanipuleerde content, van toepassing op aanbieders van AI-systemen. Deel 2 bevat regels voor het labelen van deepfakes en door AI gegenereerde en gemanipuleerde gepubliceerde tekst, van toepassing op gebruikers van AI-systemen.
Belangrijke termen die in de gedragscode worden gebruikt
Recital – Inleidende tekst aan het begin van een sectie waarin de redenen voor de werking van de bepalingen ervan worden uiteengezet.
Verplichtingen: De verplichtingen waartoe ondertekenaars van de Gedragscode zich verbinden, bijvoorbeeld het implementeren van bepaalde maatregelen om ervoor te zorgen dat de output van hun AI-systemen detecteerbaar is als door AI gegenereerd of gemanipuleerd.
Maatregelen en submaatregelen: De specifieke acties die ondertekenaars moeten ondernemen om te voldoen aan de verplichtingen zoals uiteengezet in de Gedragscode.
Paragraaf 1: Regels voor het markeren en detecteren van door AI gegenereerde en gemanipuleerde inhoud
Deel 1 is van toepassing op aanbieders van AI-systemen en heeft betrekking op artikel 50, lid 2 en lid 5, van de EU-AI-wet.
De specifieke doelstellingen van artikel 1 van de Code zijn om te dienen als leidraad voor het aantonen van naleving van de verplichtingen in de Wet, hoewel naleving van de Code geen doorslaggevend bewijs is van naleving van deze verplichtingen. Dit artikel is bedoeld om aanbieders van AI-systemen die synthetische audio, afbeeldingen, video of tekst genereren te helpen bij het nakomen van hun verplichtingen en om markttoezichthoudende autoriteiten in staat te stellen de naleving te beoordelen.
Toezegging 1: Meerlaagse markering van door AI gegenereerde content
In Verplichting 1 verbinden de ondertekenaars van de Code zich ertoe alle audio-, beeld-, video- en tekstinhoud die gegenereerd of gemanipuleerd wordt door de AI-systemen die zij in de Europese Unie op de markt brengen of in gebruik nemen, op een machineleesbare manier te markeren. Dit geldt voor de output van generatieve AI-systemen en omvat ook algemene AI-systemen.
De maatregelen van Verplichting 1 omvatten derhalve het volgende:
Het implementeren van een meerlaagse markeringsmethode , waarbij ervoor wordt gezorgd dat deze outputs worden gemarkeerd met ten minste twee lagen machinaal leesbare actieve markering.
Digitaal ondertekende metadata, onzichtbare watermerktechnieken die in de inhoud zijn verwerkt, en vingerafdruk- of logfaciliteiten zijn allemaal verplichte methoden om door AI gegenereerde inhoud te markeren als de inhoud wordt gegenereerd of geëxporteerd in een formaat dat deze technieken ondersteunt. Ondertekenaars van de Code moeten bijvoorbeeld informatie toevoegen over de vraag of de inhoud door AI is gegenereerd of door AI is gemanipuleerd, als onderdeel van de metadata voor een audio-, afbeeldings-, video- of documentbestand.
Het niet verwijderen van machinaal leesbare markeringen vereist dat ondertekenaars zich 'naar beste vermogen inspannen' om markeringen te behouden op inhoud die door hun AI-systeem is gegenereerd of gemanipuleerd, door zich te onthouden van het wijzigen of verwijderen van bestaande metadata waar dit technisch mogelijk is.
Transparantie van de herkomstketen is een optionele maatregel, die ondertekenaars aanmoedigt om herkomstnormen toe te passen die, waar technisch mogelijk, meer informatie verschaffen over de herkomstketen van door AI gegenereerde of gemanipuleerde content in verschillende workflows.
De optionele functionaliteit voor waarneembare markeringen (voor deepfakes en door AI gegenereerde en gemanipuleerde gepubliceerde tekst) moedigt aanbieders van generatieve AI-systemen die in staat zijn deepfakes en door AI gegenereerde en gemanipuleerde gepubliceerde tekst te genereren, aan om een optionele functionaliteit in de interface van hun systeem aan te bieden en een geïntegreerde optie te implementeren waarmee implementeerders en andere gebruikers naar eigen inzicht direct een waarneembare, machinaal leesbare markering of label aan een gegenereerde output kunnen toevoegen.
Toezegging 2 – Detectie van de markering van door AI gegenereerde inhoud
Verplichting 2 vereist dat ondertekenaars van de gedragscode maatregelen implementeren om de detectie mogelijk te maken van audio-, beeld-, video- of tekstinhoud (of een combinatie hiervan) die door hun AI-systeem is gegenereerd of gemanipuleerd. Ze moeten er ook voor zorgen dat deze informatie op een duidelijke, onderscheidbare en toegankelijke manier wordt aangeboden via tools of API's.
De maatregelen van Verplichting 2 omvatten:
Detectiemechanismen voor actieve markering worden beschikbaar gesteld aan implementeerders, eindgebruikers en andere derden. Deze maatregel vereist dat ondertekenaars ervoor zorgen dat er kosteloos een interface beschikbaar wordt gesteld waarmee implementeerders van AI-systemen, gebruikers, eindgebruikers en andere rechtmatige partijen kunnen controleren of inhoud is gegenereerd of gemanipuleerd door hun AI-systeem.
Het gebruik van forensische detectiemechanismen is een optionele maatregel die ondertekenaars aanmoedigt de ontwikkeling te ondersteunen van forensische detectoren die in staat zijn de output van generatieve AI-modellen die op de EU-markt beschikbaar zijn te detecteren, ook wanneer deze in systemen zijn geïntegreerd.
Duidelijke en toegankelijke openbaarmaking van verificatie- en detectieresultaten vereist dat ondertekenaars ervoor zorgen dat de detectie- en verificatieresultaten helder en begrijpelijk worden gepresenteerd aan mensen die de herkomst van de inhoud willen verifiëren. Dit houdt onder meer in dat de resultaten informatie bevatten op basis van een watermerk, metadata, forensische detectie of andere technieken.
Ze moeten er ook voor zorgen dat de resultaten van detectiemechanismen en, waar van toepassing, de gebruikersinterfaces ervan toegankelijk zijn voor personen met een handicap.
Het bevorderen van kennis over AI-markeringstechnologieën en -verificatie moedigt ondertekenaars aan ervoor te zorgen dat begrijpelijke documentatie en andere relevante informatie (met uitzondering van bedrijfsgeheimen) beschikbaar wordt gesteld aan implementeerders en andere gebruikers, zodat zij weloverwogen beslissingen kunnen nemen over welke markerings- en detectiemechanismen zij kunnen gebruiken. Zij worden tevens aangemoedigd om, waar nodig, hulpmiddelen voor AI-kennisoverdracht aan eindgebruikers aan te bieden.
Verplichting 3 – Maatregelen om te voldoen aan de eisen voor markerings- en detectietechnieken
Verplichting 3 vereist dat ondertekenaars ervoor zorgen dat de gebruikte technische oplossingen voor het markeren en detecteren van door AI gegenereerde of gemanipuleerde inhoud effectief, interoperabel, robuust en betrouwbaar zijn. Zij dienen ernaar te streven de hoogst mogelijke effectiviteit, interoperabiliteit, robuustheid en betrouwbaarheid van de markeer- en detectieoplossingen te bereiken en dit te realiseren voor zover technisch haalbaar is.
Effectiviteit vereist dat ondertekenaars markeer- en detectieoplossingen implementeren die geschikt zijn voor het beoogde doel en die mensen in staat stellen onderscheid te maken tussen door AI gegenereerde of gemanipuleerde inhoud en door mensen geschreven inhoud.
Betrouwbaarheid vereist dat ondertekenaars van de gedragscode markerings- en detectieoplossingen implementeren die een hoge mate van betrouwbaarheid bereiken in verschillende contexten en gebruikssituaties. Hierbij moet rekening worden gehouden met twee componenten: hoe nauwkeurig de detectie van de markering is onder gecontroleerde omstandigheden en hoe de nauwkeurigheid van markerings- en detectieoplossingen varieert met betrekking tot de lengte, entropie en semantiek van de inhoud.
Om te voldoen aan de eisen van de ondertekenaars moeten zij markeer- en detectieoplossingen implementeren die een hoge mate van robuustheid bieden tegen veelvoorkomende wijzigingen en aanvallen van kwaadwillenden. Dit houdt onder meer in dat hun markeer- en detectietechnieken bestand moeten zijn tegen typische verwerkingshandelingen zoals spiegelen, bijsnijden, comprimeren, schermopnamen maken en meer. Ondertekenaars dienen ook de robuustheid van hun markeer- en detectieoplossingen tegen aanvallen van kwaadwillenden te beoordelen en de dreigingsanalyses regelmatig bij te werken.
Interoperabiliteit vereist dat ondertekenaars van de gedragscode technische oplossingen implementeren voor het markeren en detecteren van door AI gegenereerde of gemanipuleerde content, die werken via verschillende distributiekanalen en technologische omgevingen. Het doel van deze maatregel is om volledige interoperabiliteit te garanderen van de markerings- en detectieoplossingen van verschillende aanbieders van AI-systemen met gemeenschappelijke markerings- en detectiestandaarden.
Het bevorderen van de stand van de techniek op het gebied van markering en detectie moedigt ondertekenaars aan te investeren in wetenschappelijk onderzoek en ontwikkeling om de stand van de techniek op het gebied van markerings- en detectiemechanismen voor door AI gegenereerde en gemanipuleerde content te verbeteren. Dit is afhankelijk van hun capaciteit en middelen.
Verplichting 4 – Testen, verificatie en naleving
Verplichting 4 vereist dat ondertekenaars zich ertoe verbinden test-, verificatie- en nalevingsprocessen op te zetten, actueel te houden en te implementeren.
De vier maatregelen voor het tonen van betrokkenheid omvatten:
Nalevingkader, dat ondertekenaars verplicht een nalevingkader op te stellen, te implementeren en bij te werken waarin de markerings- en detectieprocessen en -maatregelen worden beschreven die ondertekenaars implementeren om te zorgen voor naleving van artikel 50, lid 2 en 5, van de EU-verordening inzake kunstmatige intelligentie. Deze maatregel moet proportioneel worden geïmplementeerd, rekening houdend met de omvang en de middelen van de aanbieder.
De maatregel inzake testen, verificatie en monitoring vereist dat ondertekenaars de markeer- en detectieoplossingen testen op naleving van de vereisten en maatregelen zoals beschreven in sectie 1 van de Code, onder realistische omstandigheden en vóórdat ze op de markt worden gebracht. Aanbieders van generatieve AI-systemen kunnen vertrouwen op de resultaten van tests die zijn uitgevoerd door een upstream-model of een externe aanbieder van markeer- en detectietechnieken.
De ondertekenaars zijn verplicht passende training te verzorgen voor personeel met functies die relevant zijn voor het waarborgen van de naleving van artikel 50, lid 2 en 5, van de EU-verordening inzake kunstmatige intelligentie, dat betrokken is bij het ontwerp en de ontwikkeling van AI-systemen en -modellen en dat verantwoordelijk is voor de effectieve implementatie van de in paragraaf 1 van de Code genoemde maatregelen.
Samenwerking met markttoezichtautoriteiten vereist dat ondertekenaars van de Code samenwerken met de bevoegde markttoezichtautoriteiten om aan te tonen dat zij voldoen aan artikel 50, lid 2 en 5, van de EU AI-wet en aan hun verplichtingen uit hoofde van paragraaf 1 van de Code.
Paragraaf 2: Regels voor het labelen van deepfakes en door AI gegenereerde en gemanipuleerde gepubliceerde tekst
Paragraaf 2 is van toepassing op degenen die AI-systemen inzetten en heeft betrekking op artikel 50, lid 4 en 5, van de EU-verordening inzake kunstmatige intelligentie.
De specifieke doelstellingen van sectie 2 van de Code zijn om te dienen als leidraad voor het aantonen van naleving van de verplichtingen van gebruikers van generatieve AI-systemen in de Wet, hoewel naleving van de Code geen doorslaggevend bewijs is van naleving van deze verplichtingen. Deze sectie is bedoeld om gebruikers van AI-systemen die beeld-, audio- of videocontent genereren of manipuleren die een deepfake of tekst vormen, te helpen bij het nakomen van hun verplichtingen en om markttoezichthoudende autoriteiten in staat te stellen de naleving te beoordelen.
Verplichting 1 – Openbaarmaking van door AI gegenereerde en gemanipuleerde deepfakes en gepubliceerde tekst
Verplichting 1 vereist dat ondertekenaars zorgen voor consistente openbaarmaking van de kunstmatige oorsprong van door AI gegenereerde of gemanipuleerde deepfake-bestanden of gepubliceerde teksten over zaken van publiek belang.
Ondertekenaars kunnen dit doen door het uniforme EU-pictogram te gebruiken zodra dit beschikbaar is, of door een alternatief pictogram of een alternatieve labeloplossing te kiezen die voldoet aan de eisen die in de volgende maatregelen zijn gespecificeerd:
De ontwerpeisen voor pictogrammen, labels of disclaimers bevatten een lijst met vereisten voor het ontwerp van visuele pictogrammen of labels. Dit omvat het belangrijkste visuele element, een in hoofdletters geschreven "AI", eventueel aangevuld met een kort tekstlabel dat het type AI-gebruik aangeeft, bijvoorbeeld "gegenereerd met AI". Voor audio-inhoud moeten ondertekenaars een korte, hoorbare disclaimer toevoegen. Meer informatie over de specifieke vereisten is te vinden in de Code.
Plaatsingseisen voor pictogrammen, labels of disclaimers vereisen dat ondertekenaars het pictogram, label of de disclaimer op een passende en waarneembare positie weergeven die aansluit bij de opmaak en context van de inhoud. Meer informatie over de specifieke eisen is te vinden in de Code.
Het optionele gebruik van een EU-icoon en deelname aan de ontwikkeling ervan is een vrijwillige verbintenis die ondertekenaars aanmoedigt om het EU-brede icoon te gebruiken en de ontwikkeling van een uniform EU-label te ondersteunen. Dit label is ontworpen om geavanceerdere en bruikbare informatie te verschaffen over de door AI gegenereerde of gemanipuleerde elementen van de inhoud.
Verplichting 2 – Evenredige naleving, bewustwording en evaluatie
Om te voldoen aan Verplichting 2 moeten de ondertekenaars evenredige interne processen, bewustmakingsmaatregelen en evaluatiemechanismen implementeren voor de juiste toepassing van de etikettering van deepfakes en tekstpublicaties in het kader van artikel 50(4) van de EU-AI-wet.
Interne naleving vereist dat ondertekenaars evenredige interne documentatie opstellen, aanpassen of bijhouden om aan te geven hoe zij de openbaarmakingsverplichtingen uit hoofde van de bovengenoemde artikelen van de EU-verordening inzake kunstmatige intelligentie implementeren.
Voor bewustmaking en training moeten de ondertekenaars redelijke en proportionele inspanningen leveren om ervoor te zorgen dat het personeel dat direct betrokken is bij de uitvoering van etiketteringsmaatregelen of dat toezicht houdt op de naleving van de maatregelen in paragraaf 2 van de Code, zich bewust is van de openbaarmakingsverplichtingen krachtens artikel 50, lid 4 en 5, van de EU-verordening inzake kunstmatige inseminatie.
Evaluatie, feedback en samenwerking met autoriteiten vereisen dat ondertekenaars de effectieve implementatie van openbaarmakingsverplichtingen ondersteunen door middel van evaluatie- en feedbackmechanismen, zoals het bieden van kanalen waarmee individuen of vertrouwde derden, zoals onafhankelijke feitencontroleurs, onjuiste of ontbrekende openbaarmakingen kunnen signaleren.
Verplichting 3 – Passende openbaarmaking voor artistieke, creatieve en soortgelijke werken
Verplichting 3 vereist dat ondertekenaars maatregelen implementeren om deepfake-content te openbaren die deel uitmaakt van artistieke, creatieve, satirische, fictieve of soortgelijke werken of programma's. Openbaarmaking dient te gebeuren op een gepaste manier die de weergave of het genot van het werk niet belemmert. Specifieke suggesties voor de plaatsing zijn te vinden in de Code.
Verplichting 4 – Menselijke beoordeling, redactionele controle en verantwoordelijkheid met betrekking tot door AI gegenereerde of gemanipuleerde tekstpublicaties
Om te voldoen aan Verplichting 4 dienen ondertekenaars minimale documentatie op te stellen, aan te passen of te onderhouden waaruit blijkt dat de door AI gegenereerde of gemanipuleerde tekst die is gepubliceerd met het doel het publiek te informeren over zaken van publiek belang, vóór publicatie door mensen is beoordeeld of door de redactie is gecontroleerd, en dat een natuurlijke of rechtspersoon redactionele verantwoordelijkheid draagt voor de publicatie.
De documentatie moet de persoon met redactionele verantwoordelijkheid identificeren, inclusief naam, functie en contactgegevens, en een overzicht geven van de maatregelen die zijn getroffen om te zorgen voor een adequate menselijke beoordeling.
Naleving van de gedragscode met ISO 42001
De gedragscode is vrijwillig. Het biedt aanbieders en implementeerders van AI-systemen echter een manier om aan te tonen dat zij voldoen aan de wettelijke transparantieverplichtingen van de EU-AI-wetgeving.
De ISO 42001-norm biedt een raamwerk voor best practices voor het bouwen, onderhouden en continu verbeteren van een AI-managementsysteem (AIMS) en kan ook bijdragen aan de naleving van de EU-wetgeving inzake kunstmatige intelligentie (AI). De norm is ontworpen om ervoor te zorgen dat organisaties rekening houden met specifieke aspecten van AI, zoals beveiliging, veiligheid, eerlijkheid, transparantie, datakwaliteit en de kwaliteit van AI-systemen gedurende hun gehele levenscyclus.
ISO 42001 biedt een basis voor organisaties om een ethisch en transparant AIMS te implementeren dat AI-modellen, -systemen en -implementatie omvat. Een robuust, ISO 42001-conform AIMS stelt organisaties in staat om eenvoudig te voldoen aan de gedragscode en de EU-wetgeving inzake kunstmatige intelligentie, en dit nalevingsbewijs te kunnen overleggen.
Naleving van de gedragscode van de EU-wetgeving inzake kunstmatige intelligentie (AI) met betrekking tot de transparantie van door AI gegenereerde content.
Het implementeren van de noodzakelijke maatregelen om te voldoen aan de Gedragscode kan een uitdaging zijn. Organisaties zouden op zijn minst de vereiste maatregelen moeten nemen voor transparante AI-markering en -detectie, de documentatie van het menselijk toezichtproces moeten herzien en de lacunes tussen hun huidige benadering van transparantie en de maatregelen die de Gedragscode vereist, moeten identificeren.
Overweegt uw organisatie te voldoen aan de ISO 42001-norm? Neem dan contact op met ISMS.online om te zien hoe zij u kunnen helpen. Zet de volgende stap naar verantwoord en methodisch AI-beheer en zorg ervoor dat het AI-gebruik binnen uw organisatie voldoet aan de wettelijke verplichtingen van de EU-wetgeving inzake kunstmatige intelligentie (AI).
Breid je kennis uit
Blog: Kan ISO 42001 de feitelijke AI-regulator van Groot-Brittannië worden?
Webinar: Lessen uit een van 's werelds eerste ISO 42001-certificeringen
