Propunerea UE de a proteja copiii online ar putea deveni un coșmar de confidențialitate

Materialul de abuz asupra copiilor pe canalele online are a atins cote fără precedent, dar o soluție propusă pentru a domni în această amenințare nu se potrivește susținătorilor confidențialității.

Comisia Europeană (CE) a propus recent noi reglementări asta ar necesita ca aplicațiile de chat precum WhatsApp și Facebook Messenger să parcurgă mesajele private ale utilizatorilor semnalați pentru materialul de abuz sexual asupra copiilor (CSAM).

„Aceasta este o propunere impresionant de îndrăzneață și ambițioasă pentru a preveni sistemic abuzul și îngrijirea copiilor care pot fi evitate, care au loc la niveluri record”,

Andy Burrows, Șef Siguranța Copilului Online la Societatea Națională pentru Prevenirea Cruzimii față de Copii (NSPCC), a spus Lifewire prin e-mail. „Dacă va fi aprobată, va impune platformelor o cerință clară pentru a combate abuzul oriunde acesta are loc, inclusiv în mesajele private, unde copiii sunt expuși celui mai mare risc.”

Sfârșitul de la capăt la capăt?

Regulamentul urmărește să stabilească noi reguli pentru platformele online, denumite colectiv furnizori de servicii online, și acoperă o gamă largă de servicii, inclusiv magazine de aplicații, companii de găzduire web și orice furnizor de „comunicații interpersonale”. serviciu."

Singurul aspect al propunerii care a zdruncinat unele grupuri în rândul grupurilor de confidențialitate este obligațiile care s-ar aplica serviciilor de mesagerie precum WhatsApp și Facebook Messenger.

Conform propunerii, dacă și atunci când un serviciu de mesagerie primește un „ordin de detectare” de la CE, ar fi este necesar să scaneze mesajele utilizatorilor semnalați pentru a căuta dovezi de CSAM și alte comportamente abuzive care implică copii. În loc să angajeze oameni pentru această sarcină, propunerea solicită utilizarea instrumentelor de învățare automată (ML) și inteligență artificială (AI) pentru a parcurge conversațiile.

Margaritis Schinas, vicepreședinte pentru promovarea modului nostru european de viață, a subliniat că propunerea solicită, de asemenea, instituirea de măsuri de protecție pentru a preveni utilizarea abuzivă. „Vorbim doar despre un program de scanare pentru markeri de conținut ilegal, în același mod în care programele de securitate cibernetică efectuează verificări constante pentru încălcări de securitate”, a menționat Schinas în anunțul CE.

Organismele care lucrează pentru protejarea copiilor au venit în sprijinul propunerii. „Această propunere inovatoare ar putea stabili standardul de reglementare care echilibrează drepturile fundamentale ale tuturor utilizatorilor de internet, acordând în același timp prioritate protecției copilului”, a afirmat Burrows.

Furci și torțe

Cu toate acestea, susținătorii confidențialității susțin că propunerea descurajează efectiv utilizarea criptării end-to-end.

„Prin amenințarea companiilor cu acțiuni în justiție, Comisia încearcă probabil să se spele pe mâini responsabilitatea pentru măsurile periculoase și care invadează confidențialitatea, în timp ce stimulează de facto aceste măsuri cu ajutorul lege”, a opinat Ella Jakubowska, consilier politic al grupului de advocacy digital European Digital Rights (EDRi) într-un comunicat de presa.

EDRi susține că măsurile din propunere pun în pericol integritatea vitală a comunicațiilor securizate, mergând până la susținerea că noile reguli ar „forța companiile să transformă dispozitivele noastre digitale în potențiale bucăți de spyware.” De asemenea, este nevoie de excepție la utilizarea instrumentelor de scanare bazate pe inteligență artificială, referindu-se la ele ca fiind „notoriu de inexacte”.

Dimitri Shelest, fondator și CEO al OneRep, o companie de confidențialitate online care ajută oamenii să-și elimine informațiile sensibile de pe internet, crede cu fermitate că nicio aplicație guvernamentală sau social media nu ar trebui să scaneze chiar și mesajele private ale utilizatorilor selectiv.

„Prin legitimarea acestui tip de supraveghere, deschidem cutia Pandorei și creăm mai multe oportunități folosiți greșit informațiile obținute ca urmare a unei astfel de intruziuni în confidențialitate”, a declarat Shelest pentru Lifewire e-mail.

Jakubowska este de acord. În comunicatul de presă, ea întreabă dacă companiile de astăzi au voie să ne scaneze mesajele private, ce este împiedicând guvernele să le forțeze să „scaneze pentru dovezi de disidență sau opoziție politică Mâine?"

Totuși, totul ar putea ajunge la nimic. Jesper Lund, Președinte IT-Pol Danemarca consideră că unele aspecte ale propunerii ar putea să nu fie implementate în primul rând.

„Propunerea include o cerință ca furnizorii de servicii de internet să blocheze accesul la anumite piese de conținut de pe site-uri web la ordinele autorităților naționale”, a explicat Lund în comunicatul de presă al EDRi. „Cu toate acestea, acest tip de blocare va fi imposibil din punct de vedere tehnic cu HTTPS, care este acum folosit pe aproape fiecare site web”.

Când a fost întrebat dacă încălcarea confidențialității este singura modalitate de a proteja copiii online, Shelest a răspuns cu un „Nu”. El crede un real soluția viabilă combină implicarea părinților cu sprijinul din partea tehnologiei, care ar putea ajuta părinții să țină cont de online-ul copiilor lor. Activități.

„Un început bun ar fi ca giganții tehnologici, precum Apple și Google, să ofere abilități mai largi pe platformele lor, care sprijină părinții cu o automatizare mai avansată”, a sugerat Shelest. „Cheia este sprijinirea părinților în susținerea copiilor lor”.