EU-voorstel om kinderen online te beschermen kan een privacynachtmerrie worden

Materiaal over kindermisbruik via online kanalen heeft ongekende niveaus bereikt, maar een voorgestelde oplossing om in deze dreiging te heersen, valt niet goed bij voorstanders van privacy.

De Europese Commissie (EC) heeft onlangs voorgesteld: nieuwe regelgeving dat zou vereisen dat chat-apps zoals WhatsApp en Facebook Messenger de privéberichten van gemarkeerde gebruikers doorzoeken op materiaal voor seksueel misbruik van kinderen (CSAM).

"Dit is een indrukwekkend gedurfd en ambitieus voorstel om systematisch vermijdbare kindermishandeling en -grooming te voorkomen, die op recordniveau plaatsvindt",

Andy Burrows, hoofd van Child Safety Online bij de National Society for the Prevention of Cruelty to Children (NSPCC), vertelde Lifewire via e-mail. "Als het wordt goedgekeurd, zal het een duidelijke eis stellen aan platforms om misbruik te bestrijden, waar het ook plaatsvindt, ook in privéberichten waar kinderen het grootste risico lopen."

Einde van end-to-end?

De verordening heeft tot doel nieuwe regels vast te stellen voor online platforms, gezamenlijk aangeduid als online dienstverleners, en omvat een breed scala aan diensten, waaronder app stores, webhostingbedrijven en elke aanbieder van "interpersoonlijke communicatie" onderhoud."

Het enige aspect van het voorstel dat de privacygroepen in de war heeft gebracht, zijn de verplichtingen die van toepassing zijn op berichtenservices zoals WhatsApp en Facebook Messenger.

Volgens het voorstel zouden, als en wanneer een berichtendienst een "detectiebevel" van de EC ontvangt, vereist om de berichten van de gemarkeerde gebruikers te scannen om te zoeken naar bewijs van CSAM en ander beledigend gedrag waarbij: kinderen. In plaats van mensen in dienst te nemen voor de taak, roept het voorstel op tot het gebruik van tools voor machine learning (ML) en kunstmatige intelligentie (AI) om de gesprekken door te nemen.

Margaritis Schinas, vicevoorzitter voor de bevordering van onze Europese manier van leven, wees erop dat in het voorstel ook wordt opgeroepen tot waarborgen om misbruik te voorkomen. "We hebben het alleen over een programma dat scant naar markeringen van illegale inhoud op dezelfde manier als cyberbeveiligingsprogramma's constante controles uitvoeren op beveiligingsinbreuken", merkte Schinas op in de aankondiging van EC.

Instanties die zich inzetten voor de bescherming van kinderen hebben het voorstel gesteund. "Dit baanbrekende voorstel zou de norm kunnen stellen voor regelgeving die de grondrechten van alle internetgebruikers in evenwicht houdt en waarbij prioriteit wordt gegeven aan de bescherming van kinderen", beweerde Burrows.

Hooivorken en fakkels

Voorstanders van privacy stellen echter dat het voorstel het gebruik van end-to-end encryptie effectief ontmoedigt.

"Door bedrijven te bedreigen met juridische stappen, probeert de Commissie waarschijnlijk hun handen te wassen van de... verantwoordelijkheid voor gevaarlijke en privacy-invasieve maatregelen, terwijl de facto deze maatregelen worden gestimuleerd met de wet", meende Ella Jakubowska, Beleidsadviseur van digitale belangengroep European Digital Rights (EDRi) in een persbericht.

EDRi stelt dat de maatregelen in het voorstel de vitale integriteit van beveiligde communicatie in gevaar brengen, en gaat zelfs zo ver dat de nieuwe regels "bedrijven zouden dwingen om verander onze digitale apparaten in potentiële stukjes spyware." Het maakt ook bezwaar tegen het gebruik van op AI gebaseerde scantools en noemt ze "notoir onnauwkeurig".

Dimitri Shelest, oprichter en CEO van OneRep, een online privacybedrijf dat mensen helpt hun gevoelige informatie van internet te verwijderen, is er vast van overtuigd dat geen enkele app van de overheid of sociale media de privéberichten van gebruikers mag scannen, zelfs niet selectief.

"Door dit soort toezicht te legitimeren, openen we de doos van Pandora en creëren we meerdere mogelijkheden om misbruik maken van de informatie die is verkregen als gevolg van een dergelijke inbreuk op de privacy', vertelde Shelest aan Lifewire e-mail.

Jakubowska is het daarmee eens. In het persbericht vraagt ​​ze of bedrijven tegenwoordig onze privéberichten mogen scannen, wat is dat? voorkomen dat regeringen hen dwingen om "te zoeken naar bewijs van dissidentie of politieke oppositie" morgen?"

Het kan echter allemaal op niets uitlopen. Jesper Lund, Voorzitter IT-Pol Denemarken is van mening dat sommige aspecten van het voorstel in de eerste plaats mogelijk niet uitvoerbaar zijn.

"Het voorstel bevat een vereiste voor internetserviceproviders om de toegang tot specifieke stukken te blokkeren van inhoud op websites in opdracht van nationale autoriteiten", legt Lund uit in het persbericht van EDRi. "Dit type blokkering zal echter technisch onmogelijk zijn met HTTPS, dat nu op bijna elke website wordt gebruikt."

Op de vraag of privacyschending de enige manier was om kinderen online te beschermen, antwoordde Shelest nadrukkelijk "Nee". Hij gelooft een echte werkbare oplossing combineert ouderlijke betrokkenheid met ondersteuning van technologie, die ouders zou kunnen helpen om de online gegevens van hun kinderen in de gaten te houden activiteiten.

"Een goed begin zou zijn voor techreuzen zoals Apple en Google om bredere mogelijkheden op hun platforms te bieden die ouders ondersteunen met meer geavanceerde automatisering", stelde Shelest voor. "De sleutel is om ouders te ondersteunen bij het ondersteunen van hun kinderen."