Sinds het voorstel van de Online Safety Bill zijn er in en buiten Westminster debatten gehouden over de verschillende inhoud ervan. Dan Raywood kijkt naar de huidige staat.
Het is ongeveer twee jaar geleden dat de eerste versie Er werd een wetsvoorstel ingediend, voorgesteld door de toenmalige Britse premier Boris Johnson, om online-inhoud beter te reguleren.
Met als primaire bedoeling schadelijke en aanstootgevende inhoud te controleren, volgt de Online Safety Bill het Online Harms White Paper uit 2019 om schadelijke inhoud en inhoud die individuele gebruikers schaadt, aan te pakken. Deze zaak kwam vooral voor in Groot-Brittannië, na de spraakmakende zaak van Mollie Russel, een 14-jarige die in 2017 zelfmoord pleegde nadat ze online inhoud over zelfmoord en zelfbeschadiging had bekeken.
De bedoeling van het wetsvoorstel is om een zorgplicht te creëren voor websites en online platforms en hen te verplichten actie te ondernemen tegen zowel illegale als legale maar schadelijke inhoud, met boetes tot £ 18 miljoen of 10% van de jaaromzet, afhankelijk van welke hoger is , voor degenen die zich niet aan de regels houden.
Waarom de controverse
Al met al klinkt dit redelijk acceptabel. Het is bedoeld om het internet schoon te maken en kwetsbare mensen beter te beschermen tegen potentieel schadelijke en aanstootgevende inhoud, dus waarom heeft het zo’n controverse veroorzaakt?
Aan de ene kant is dit een voorstel voor een hulpmiddel voor volwassenen om meer controle te krijgen over de soorten inhoud die ze zien en met wie ze online omgaan, en om de kans te verkleinen dat ze bepaalde soorten inhoud tegenkomen die zullen worden ingesteld uit in het wetsvoorstel. Het wetsvoorstel beschermt kinderen al tegen het zien van deze inhoud.
Aan de andere kant wordt dit een proberen in te dammen inhoud is er over het algemeen mee eens dat deze schade veroorzaakt, ook al is dit niet in strijd met de wet.
Hoewel Groot-Brittannië wetten heeft die haatzaaiende uitlatingen en bedreigingen verbieden, zal het wetsvoorstel de vastberadenheid van Ofcom uitstellen om te verduidelijken of grote technologieplatforms op passende wijze hun zorgplicht vervullen door risicobeoordelingen uit te voeren en uit te leggen hoe zij risico's beperken.
Artikel 19 van de Mensenrechtenorganisatie zegt in zijn blog over het wetsvoorstel dat het “uitbesteden” van beslissingen over illegaliteit bedrijven zal verplichten te beoordelen en te beslissen of de uitingen van hun gebruikers legaal zijn of niet.
“Dit is zeer problematisch omdat alleen onafhankelijke gerechtelijke autoriteiten de macht zouden moeten krijgen om een dergelijke beslissing te nemen”, zegt het rapport. “Naast de legitieme zorgen over het uitbesteden van beslissingen over de wettigheid van de mening van gebruikers aan particuliere actoren, merken we op dat deze beoordelingen in de meeste gevallen uiterst complex en contextafhankelijk zijn en daarom door getrainde individuen moeten worden gemaakt.”
Uiteindelijk roept dit vragen op over wie bepaalt wat illegaal is en niet, aangezien onlineplatforms algoritmische moderatiesystemen inzetten, zoals geautomatiseerde hash-matching en voorspellende machine learning-tools, om contentmoderatie uit te voeren. Vanwege een gebrek aan verfijning in het op betrouwbare wijze onderscheiden van legale en illegale inhoud, “identificeren ze inhoud routinematig als illegaal en verwijderen ze grote hoeveelheden legitieme inhoud.”
Brekende end-to-end-encryptie – het raadsel van gegevensprivacy
Het andere knelpunt voor de Online Safety Bill zijn verklaringen over het verbreken van end-to-end (E2E) encryptie of op zijn minst toegang hebben tot de gesprekken die plaatsvinden via deze beveiligde applicaties.
Het debat over ‘achterdeurtjes’ in apps als WhatsApp en Signal is niet bepaald nieuw. Voorgangers van Boris Johnson, zoals David Cameron, aan het discussiëren waren dit concept in het midden van het afgelopen decennium. Dit zou nu echter in een wetsontwerp kunnen staan en is voor sommige organisaties het belangrijkste gespreksonderwerp gebleken.
Volgens artikel 19 zal sectie 103(2)(b) Ofcom de bevoegdheid geven om een aanbieder van een gebruiker-tot-gebruiker-dienst te gelasten 'geaccrediteerde technologie' te gebruiken om inhoud van seksuele uitbuiting en misbruik van kinderen (CESA) te identificeren – of dergelijke inhoud openbaar of privé wordt gecommuniceerd.
Artikel 19 beweert: “Het volledige onvermogen van het wetsvoorstel om enig betekenisvol onderscheid te maken tussen de vereisten op publieke platforms en die op privé-berichtendiensten betekent dat er een reëel risico bestaat dat het aanbieden van end-to-end-encryptie een overtreding van het wetsvoorstel zal vormen. ”
Veilige communicatie wordt bedreigd
Het gebruik van beveiligde communicatie wordt veelvuldig aangehaald, waarbij mensenrechtenorganisaties, journalisten, klokkenluiders, slachtoffers van huiselijk geweld en individuen uit minderheidsgroepen, alle reguliere gebruikers van WhatsApp, Signal en Telegram, zich uitspreken over het wetsvoorstel. gezegde ze zouden in Groot-Brittannië liever geblokkeerd worden dan de technologie ervan te ondermijnen. Ze zouden zelfs kunnen stoppen met het verlenen van diensten in Groot-Brittannië als het wetsvoorstel hen zou verplichten berichten te scannen.
Een beleidsbrief van de Open Rights Group beweert dat Ofcom chatplatforms zou kunnen dwingen om door de overheid geaccrediteerde technologie voor inhoudsmoderatie te gebruiken. Hoewel het wetsontwerp zwijgt over de precieze implementatie, wordt algemeen aangenomen dat het een vorm van scannen aan de clientzijde betekent, waarbij de software zich op de smartphones van gebruikers bevindt.
Dr. Monica Horten, beleidsmanager vrijheid van meningsuiting bij de Open Rights Group, zei: “We kijken daarom naar maatregelen die zullen resulteren in massale surveillance van communicatiediensten die door meer dan tweederde van de Britse bevolking worden gebruikt voor privéberichten, inclusief video- en spraakoproepen. Ze zullen de privacy en de vrijheid van meningsuiting van Britse burgers aantasten.”
Horten beweert: “Het parlement wordt gevraagd om wetgeving vast te stellen voor onevenredig indringende maatregelen, die onze privacy en vrijheid van meningsuiting aantasten, zonder enige specifieke informatie over de impact op gebruikers of providers.” Mensen en bedrijven hebben het recht om te weten wat de maatregelen zijn en hoe ze actie kunnen ondernemen om boetes te voorkomen voordat het wetsvoorstel in werking treedt.
Het bereiken van gegevensprivacy en onlineveiligheid – wie heeft de antwoorden
Ongetwijfeld is de uitrol van de Online Safety Bill lastig geweest – velen beweren dat een beter internet, dat vrij is van aanstootgevend materiaal, een goede zaak is. Het is de manier waarop deze factoren worden ingezet die zoveel zorgen baren NSPCC roept op tot “effectieve actie” tegen beledigend materiaal en riep (het moederbedrijf van WhatsApp en Facebook) Meta op om plannen te onderbreken om de E2E-encryptie van Facebook- en Instagram-messengerdiensten te pauzeren, maar stelde ook dat “de Online Safety Bill moet worden gezien als een kans om bedrijven aan te moedigen te investeren in technologische oplossingen voor end-to-end encryptie die de privacy van volwassenen beschermt en kinderen veilig houdt.” Dus een middenweg die geen invloed heeft op de privacy van gebruikers en die niet aandringt op het breken van de encryptietechnologie, maar toch werkt voor de online veiligheid?
Natuurlijk is het debat over privacy het luidst, en mensenrechtenorganisaties hebben het voortouw genomen bij de oppositie tegen het doorbreken van de E2E-encryptie. Toch zullen voorstanders van het wetsvoorstel beweren dat deze platforms het meest worden gebruikt om dat misbruikmateriaal uit te wisselen.
Het bepalen van het einde en wie aan de goede kant zit, is problematisch. Sinds de introductie ervan heeft het wetsvoorstel nieuwe discussies veroorzaakt en andere debatten voortgezet, en het zal interessant zijn om te zien hoe dit wordt opgelost en afgerond.
