Návrh EU na ochranu dětí online by se mohl stát noční můrou v oblasti soukromí

Materiál o zneužívání dětí napříč online kanály má dosáhl bezprecedentní úrovně, ale navrhované řešení, jak v této hrozbě vládnout, nevyhovuje zastáncům soukromí.

Nedávno to navrhla Evropská komise (EK). nové předpisy to by vyžadovalo, aby chatovací aplikace jako WhatsApp a Facebook Messenger prohledávaly soukromé zprávy označených uživatelů a obsahovaly materiál týkající se sexuálního zneužívání dětí (CSAM).

"Toto je působivě odvážný a ambiciózní návrh, jak systémově předcházet zneužívání a groomingu dětí, kterému se lze vyhnout, k němuž dochází na rekordní úrovni," Andy Burrows, vedoucí oddělení dětské bezpečnosti online v Národní společnosti pro prevenci krutosti na dětech (

NSPCC), řekl Lifewire e-mailem. "Pokud bude schválen, bude na platformy klást jasný požadavek na boj proti zneužívání, ať k němu dochází kdekoli, včetně soukromých zpráv, kde jsou děti nejvíce ohroženy."

Konec End-to-End?

Nařízení se snaží zavést nová pravidla pro online platformy, společně označované jako poskytovatelé online služeb, a pokrývá širokou škálu služeb včetně obchodů s aplikacemi, webhostingových společností a jakéhokoli poskytovatele „interpersonální komunikace servis."

Jedním z aspektů návrhu, který mezi skupinami na ochranu osobních údajů narušil některé peří, jsou povinnosti, které by se vztahovaly na služby zasílání zpráv, jako je WhatsApp a Facebook Messenger.

Podle návrhu, pokud a kdy služba zasílání zpráv obdrží „detekční příkaz“ od EK, budou povinni skenovat zprávy označených uživatelů a hledat důkazy o sexuálním zneužívání a jiném nevhodném chování děti. Namísto zaměstnávání lidí pro tento úkol návrh vyzývá k použití nástrojů strojového učení (ML) a umělé inteligence (AI), aby bylo možné procházet konverzacemi.

Margaritis Schinas, místopředseda pro podporu našeho evropského způsobu života, poukázal na to, že návrh také požaduje zavedení záruk, které zabrání zneužití. „Hovoříme pouze o programu, který kontroluje značky nelegálního obsahu, stejně jako programy kybernetické bezpečnosti provádějí neustálé kontroly narušení bezpečnosti,“ poznamenal Schinas v oznámení EK.

Orgány usilující o ochranu dětí návrh podpořily. „Tento průlomový návrh by mohl stanovit standard pro regulaci, která vyvažuje základní práva všech uživatelů internetu a zároveň upřednostňuje ochranu dětí,“ tvrdil Burrows.

Vidle A Pochodně

Zastánci soukromí však tvrdí, že návrh účinně odrazuje od používání end-to-end šifrování.

„Tím, že Komise vyhrožuje společnostem právními kroky, se jim pravděpodobně snaží umýt ruce odpovědnost za nebezpečná a soukromí narušující opatření, přičemž tato opatření de facto podněcuje zákona,“ uvedl Ella Jakubowská, politický poradce skupiny pro digitální advokacii Evropská digitální práva (EDRi) v tisková zpráva.

EDRi tvrdí, že opatření v návrhu ohrožují životně důležitou integritu zabezpečené komunikace a zacházejí tak daleko, že tvrdí, že nová pravidla by „nutila společnosti, aby proměňte naše digitální zařízení v potenciální kusy spywaru." Rovněž se vyhýbá používání skenovacích nástrojů založených na umělé inteligenci a označuje je jako "notoricky nepřesné."

Dimitri Shelest, zakladatel a generální ředitel společnosti OneRep, online společnost na ochranu soukromí, která pomáhá lidem odstraňovat jejich citlivé informace z internetu, pevně věří, že žádné vládní aplikace ani aplikace sociálních médií by neměly skenovat soukromé zprávy uživatelů, a to ani selektivně.

„Legitimizací tohoto druhu sledování otevíráme Pandořinu skříňku a vytváříme k tomu mnoho příležitostí zneužít informace získané v důsledku takového narušení soukromí,“ řekl Shelest Lifewire e-mailem.

Jakubowska souhlasí. V tiskové zprávě se ptá, zda společnosti dnes mohou skenovat naše soukromé zprávy, co to je zastavení vlád v tom, aby je nutily „hledat důkazy disidentství nebo politické opozice zítra?"

To vše však může přijít vniveč. Jesper Lund, předseda IT-Pol Dánsko domnívá se, že některé aspekty návrhu nemusí být v první řadě proveditelné.

„Návrh obsahuje požadavek, aby poskytovatelé internetových služeb blokovali přístup ke konkrétním dílům obsahu na webových stránkách na základě příkazů národních úřadů,“ vysvětlil Lund v tiskové zprávě EDRi. "Tento typ blokování však bude technicky nemožný u HTTPS, které se nyní používá téměř na každém webu."

Na otázku, zda je porušení soukromí jediným způsobem, jak ochránit děti online, Shelest odpověděl důrazným „Ne“. Věří skutečnému Funkční řešení kombinuje zapojení rodičů s podporou technologií, což by mohlo rodičům pomoci mít přehled o jejich dětech online činnosti.

"Dobrým začátkem by bylo, kdyby tech giganti jako Apple a Google poskytovali na svých platformách širší možnosti, které podporují rodiče s pokročilejší automatizací," navrhl Shelest. "Klíčem je podpora rodičů při podpoře jejich dětí."