Predlog EU za zaščito otrok na spletu bi lahko postal nočna mora glede zasebnosti

Gradivo o zlorabi otrok na spletnih kanalih ima dosegla raven brez primere, vendar predlagana rešitev za vladanje v tej grožnji ne ustreza zagovornikom zasebnosti.

Evropska komisija (EK) je nedavno predlagala novi predpisi to bi zahtevalo, da aplikacije za klepet, kot sta WhatsApp in Facebook Messenger, prečešejo zasebna sporočila označenih uporabnikov glede gradiva o spolni zlorabi otrok (CSAM).

"To je impresivno drzen in ambiciozen predlog za sistemsko preprečevanje zlorab in urejanja otrok, ki se jim je mogoče izogniti, ki se dogajajo na rekordnih ravneh," Andy Burrows, vodja spletne varnosti otrok pri Nacionalnem društvu za preprečevanje krutosti do otrok (

NSPCC), je povedal Lifewire po e-pošti. "Če bo odobren, bo postavil jasno zahtevo za platforme za boj proti zlorabam, kjer koli se zgodi, vključno z zasebnimi sporočili, kjer so otroci najbolj ogroženi."

Konec od konca do konca?

Namen uredbe je vzpostaviti nova pravila za spletne platforme, ki se skupaj imenujejo ponudniki spletnih storitev, in pokriva široko paleto storitev, vključno s trgovinami z aplikacijami, podjetji za spletno gostovanje in katerim koli ponudnikom "medosebnih komunikacij storitev."

Eden od vidikov predloga, ki je razburil nekatere skupine za zasebnost, so obveznosti, ki bi veljale za storitve za sporočanje, kot sta WhatsApp in Facebook Messenger.

V skladu s predlogom, če in ko storitev sporočanja prejme "nalog za odkrivanje" od ES, bi mora pregledati sporočila označenih uporabnikov, da poišče dokaze o CSAM in drugem zlorabi, ki vključuje otrok. Namesto da bi za to nalogo zaposlili ljudi, predlog poziva k uporabi orodij strojnega učenja (ML) in umetne inteligence (AI) za pregledovanje pogovorov.

Margaritis Schinas, podpredsednica za spodbujanje našega evropskega načina življenja, je poudarila, da predlog poziva tudi k uvedbi zaščitnih ukrepov za preprečevanje zlorabe. "Govorimo samo o programu, ki skenira označevalce nezakonite vsebine na enak način, kot programi za kibernetsko varnost izvajajo stalne preglede za varnostne kršitve," je zapisal Schinas v objavi EC.

Organi, ki si prizadevajo za zaščito otrok, so podprli predlog. "Ta prelomni predlog bi lahko postavil standard za ureditev, ki uravnoveša temeljne pravice vseh uporabnikov interneta, hkrati pa daje prednost zaščiti otrok," je zatrdil Burrows.

Vile in bakle

Vendar zagovorniki zasebnosti trdijo, da predlog dejansko odvrača od uporabe šifriranja od konca do konca.

"S tem, ko podjetjem grozi s pravnimi tožbami, si Komisija verjetno poskuša umiti roke odgovornost za nevarne ukrepe in ukrepe, ki posegajo v zasebnost, medtem ko de facto spodbuja te ukrepe z zakon,« meni Ella Jakubowska, svetovalec za politiko skupine za digitalno zagovorništvo European Digital Rights (EDRi) v izjava za javnost.

EDRi trdi, da ukrepi v predlogu ogrožajo vitalno integriteto varnih komunikacij in gredo tako daleč, da trdijo, da bi nova pravila "podjetja prisilila k spremenite naše digitalne naprave v potencialne kose vohunske programske opreme." Prav tako je izjema pri uporabi orodij za skeniranje, ki temeljijo na umetni inteligenci, in jih omenja kot "zloglasno netočne."

Dimitrija Šelesta, ustanovitelj in izvršni direktor OneRep, spletno podjetje za zasebnost, ki ljudem pomaga odstraniti svoje občutljive podatke iz interneta, trdno verjame, da nobena vladna ali socialna omrežna aplikacija ne bi smela skenirati zasebnih sporočil uporabnikov selektivno.

"Z legitimizacijo tovrstnega nadzora odpremo Pandorino skrinjico in ustvarimo več priložnosti zlorabi informacij, pridobljenih kot posledica takšnega vdora v zasebnost,« je Shelest povedal za Lifewire E-naslov.

Jakubowska se strinja. V sporočilu za javnost sprašuje, ali lahko podjetja danes skenirajo naša zasebna sporočila, kaj je preprečiti vladam, da bi jih prisilile, da "iščejo dokaze o nasprotovanju ali političnem nasprotovanju jutri?"

Vendar pa se lahko vse skupaj pokvari. Jesper Lund, predsednik IT-Pol Danska meni, da nekateri vidiki predloga morda sploh ne bodo izvedljivi.

"Predlog vključuje zahtevo, da ponudniki internetnih storitev blokirajo dostop do določenih kosov vsebine na spletnih mestih po naročilu nacionalnih organov,« je pojasnil Lund v sporočilu za javnost EDRi. "Vendar pa bo ta vrsta blokiranja tehnično nemogoča s HTTPS, ki se zdaj uporablja na skoraj vseh spletnih mestih."

Na vprašanje, ali je kršitev zasebnosti edini način za zaščito otrok na spletu, je Shelest odgovoril z odločnim "Ne". Verjame v resnično uporabna rešitev združuje sodelovanje staršev s podporo tehnologije, ki bi staršem lahko pomagala pri spremljanju svojih otrok na spletu dejavnosti.

"Dober začetek bi bil, da tehnološki velikani, kot sta Apple in Google, zagotovijo širše sposobnosti na svojih platformah, ki podpirajo starše z naprednejšo avtomatizacijo," je predlagal Shelest. "Ključ je podpora staršem pri podpori njihovih otrok."