Пропозиція ЄС щодо захисту дітей в Інтернеті може стати кошмаром конфіденційності

Матеріали про жорстоке поводження з дітьми через онлайн-канали досягла безпрецедентного рівня, але запропоноване рішення, щоб панувати в цій загрозі, не подобається прихильникам конфіденційності.

Європейська комісія (ЄК) нещодавно запропонувала нові правила це вимагало б від додатків для чату, як-от WhatsApp і Facebook Messenger, прочісувати приватні повідомлення позначених користувачів на предмет матеріалів сексуального насильства над дітьми (CSAM).

«Це вражаюча смілива та амбітна пропозиція щодо системного запобігання жорстокому поводженню з дітьми та догляду за дітьми, які мають місце на рекордному рівні», Енді Берроуз

, керівник відділу безпеки дітей в Інтернеті Національного товариства запобігання жорстокому поводженню з дітьми (NSPCC), повідомив Lifewire електронною поштою. «Якщо його буде схвалено, він поставить чітку вимогу до платформ для боротьби зі зловживаннями, де б воно не відбувалося, в тому числі в приватних повідомленнях, де діти піддаються найбільшому ризику».

Кінець наскрізь?

Регламент спрямований на встановлення нових правил для онлайн-платформ, які спільно називаються постачальниками онлайн-послуг, і охоплює широкий спектр послуг, включаючи магазини додатків, компанії з веб-хостингу та будь-якого постачальника "міжособистісних комунікацій". обслуговування».

Єдиним аспектом пропозиції, який викликав сумніви серед груп конфіденційності, є зобов’язання, які стосуються служб обміну повідомленнями, таких як WhatsApp і Facebook Messenger.

Згідно з пропозицією, якщо та коли служба обміну повідомленнями отримає "розпорядження про виявлення" від ЄС, вони будуть необхідно сканувати повідомлення позначених користувачів, щоб знайти докази CSAM та іншої образливої ​​поведінки, пов’язаної з дітей. Замість того, щоб залучати людей для виконання завдання, пропозиція передбачає використання інструментів машинного навчання (ML) та штучного інтелекту (AI) для вивчення розмов.

Маргарітис Схінас, віце-президент із просування нашого європейського способу життя, зазначив, що пропозиція також закликає ввести запобіжні заходи для запобігання зловживанням. «Ми говоримо лише про програму, яка сканує маркери незаконного вмісту так само, як програми кібербезпеки проводять постійні перевірки на наявність порушень безпеки», – зазначив Схінас у повідомленні EC.

Органи, які займаються захистом дітей, підтримали пропозицію. «Ця новаторська пропозиція могла б встановити стандарт для регулювання, яке врівноважує основні права всіх користувачів Інтернету, приділяючи пріоритет захисту дітей», – стверджує Берроуз.

Вила і смолоскипи

Однак прихильники конфіденційності стверджують, що ця пропозиція фактично перешкоджає використанню наскрізного шифрування.

«Погрожуючи компаніям судовими позовами, Комісія, ймовірно, намагається вмити руки відповідальність за небезпечні заходи та заходи, що порушують конфіденційність, водночас де-факто стимулюючи ці заходи за допомогою закон», – висловив думку Елла Якубовська, радник з питань політики цифрової адвокаційної групи European Digital Rights (EDRi) в прес-реліз.

EDRi стверджує, що заходи в пропозиції ставлять під загрозу життєво важливу цілісність безпечних комунікацій, заходячи так далеко, що стверджують, що нові правила «змусять компанії перетворити наші цифрові пристрої на потенційні частини шпигунського програмного забезпечення." Він також робить виключення з використання інструментів сканування на основі штучного інтелекту, називаючи їх "завідомо неточними".

Дмитро Шелест, засновник і генеральний директор OneRep, онлайн-компанія з конфіденційності, яка допомагає людям видаляти свою конфіденційну інформацію з Інтернету, твердо переконаний, що жодні державні програми чи програми соціальних мереж не повинні сканувати навіть приватні повідомлення користувачів вибірково.

«Узаконюючи такий вид спостереження, ми відкриваємо скриньку Пандори і створюємо безліч можливостей для цього неправомірно використовувати інформацію, отриману в результаті такого вторгнення в конфіденційність», — сказав Шелест Lifewire електронна пошта.

Якубовська погоджується. У прес-релізі вона запитує, чи дозволено компаніям сьогодні сканувати наші приватні повідомлення, що таке забороняючи урядам примушувати їх «сканувати докази дисидентства чи політичної опозиції завтра?"

Проте все може зійти нанівець. Джеспер Лунд, голова IT-Pol Данія вважає, що деякі аспекти пропозиції можуть бути нереалізованими.

«Пропозиція містить вимогу до провайдерів інтернет-послуг блокувати доступ до певних елементів вмісту на веб-сайтах за наказом національних органів», – пояснив Лунд у прес-релізі EDRi. «Однак такий тип блокування буде технічно неможливим із HTTPS, який зараз використовується майже на кожному веб-сайті».

На запитання, чи є порушення конфіденційності єдиним способом захистити дітей в Інтернеті, Шелест відповів рішуче «ні». Він вірить справжньому працездатне рішення поєднує участь батьків із підтримкою технологій, які можуть допомогти батькам стежити за своїми дітьми в Інтернеті діяльності.

«Гарним початком було б для технологічних гігантів, таких як Apple і Google, надати ширші можливості на своїх платформах, які підтримують батьків із більш просунутою автоматизацією», – припустив Шелест. «Ключ — це підтримка батьків у підтримці своїх дітей».