La propuesta de la UE para proteger a los niños en línea podría convertirse en una pesadilla de privacidad

El material de abuso infantil a través de los canales en línea ha alcanzó niveles sin precedentes, pero una solución propuesta para controlar esta amenaza no está sentando bien a los defensores de la privacidad.

La Comisión Europea (CE) ha propuesto recientemente nuevas regulaciones eso requeriría aplicaciones de chat como WhatsApp y Facebook Messenger para revisar los mensajes privados de los usuarios marcados en busca de material de abuso sexual infantil (CSAM).

"Esta es una propuesta impresionantemente audaz y ambiciosa para prevenir sistemáticamente el abuso y el acoso infantil evitables que se está produciendo a niveles récord".

andy madrigueras, Jefe de Seguridad Infantil en Línea de la Sociedad Nacional para la Prevención de la Crueldad hacia los Niños (NSPCC), le dijo a Lifewire por correo electrónico. “Si se aprueba, impondrá un requisito claro en las plataformas para combatir el abuso donde sea que ocurra, incluso en mensajes privados donde los niños corren mayor riesgo”.

¿Final de extremo a extremo?

El reglamento busca establecer nuevas reglas para las plataformas en línea, denominadas colectivamente proveedores de servicios en línea, y cubre una amplia gama de servicios que incluyen tiendas de aplicaciones, empresas de alojamiento web y cualquier proveedor de "comunicaciones interpersonales". Servicio."

El único aspecto de la propuesta que ha alterado algunas plumas entre los grupos de privacidad son las obligaciones que se aplicarían a los servicios de mensajería como WhatsApp y Facebook Messenger.

Según la propuesta, siempre y cuando un servicio de mensajería reciba una "orden de detección" de la CE, sería requerido para escanear los mensajes de los usuarios marcados para buscar evidencia de MASI y otro comportamiento abusivo que involucre niños. En lugar de emplear humanos para la tarea, la propuesta exige el uso de herramientas de aprendizaje automático (ML) e inteligencia artificial (IA) para examinar las conversaciones.

Margaritis Schinas, Vicepresidenta para la Promoción de nuestro Estilo de Vida Europeo, señaló que la propuesta también pide que se coloquen salvaguardias para evitar el uso indebido. "Solo estamos hablando de un programa que escanea en busca de marcadores de contenido ilegal de la misma manera que los programas de seguridad cibernética ejecutan controles constantes de violaciones de seguridad", señaló Schinas en el anuncio de EC.

Los organismos que trabajan para proteger a los niños se han manifestado en apoyo de la propuesta. "Esta propuesta innovadora podría establecer el estándar para la regulación que equilibre los derechos fundamentales de todos los usuarios de Internet al tiempo que prioriza la protección de los niños", afirmó Burrows.

horcas y antorchas

Sin embargo, los defensores de la privacidad argumentan que la propuesta desalienta efectivamente el uso del cifrado de extremo a extremo.

"Al amenazar a las empresas con acciones legales, es probable que la Comisión esté tratando de lavarse las manos de la responsabilidad por medidas peligrosas e invasivas de la privacidad, al tiempo que incentiva de facto estas medidas con la ley", opinó Ella Jakubowska, asesor de políticas del grupo de defensa digital European Digital Rights (EDRi) en un presione soltar.

EDRi argumenta que las medidas en la propuesta ponen en peligro la integridad vital de las comunicaciones seguras, llegando incluso a afirmar que las nuevas reglas "obligarían a las empresas a convertir nuestros dispositivos digitales en piezas potenciales de software espía". También se opone al uso de herramientas de escaneo basadas en IA, refiriéndose a ellas como "notoriamente inexactas".

Dimitri Shelest, fundador y director general de un representante, una empresa de privacidad en línea que ayuda a las personas a eliminar su información confidencial de Internet, cree firmemente que ninguna aplicación gubernamental o de redes sociales debe escanear los mensajes privados de los usuarios, incluso selectivamente.

"Al legitimar este tipo de vigilancia, abrimos la caja de Pandora y creamos múltiples oportunidades para mal uso de la información obtenida como resultado de tal intrusión en la privacidad", dijo Shelest a Lifewire Email.

Jakubowska está de acuerdo. En el comunicado de prensa, pregunta si las empresas hoy en día pueden escanear nuestros mensajes privados, ¿cuál es impedir que los gobiernos los obliguen a "buscar pruebas de disidencia u oposición política ¿mañana?"

Sin embargo, todo podría quedar en nada. Jesper Lund, Presidente IT-Pol Dinamarca cree que algunos aspectos de la propuesta podrían no ser implementables en primer lugar.

"La propuesta incluye un requisito para que los proveedores de servicios de Internet bloqueen el acceso a piezas específicas de contenido en sitios web bajo las órdenes de las autoridades nacionales", explicó Lund en el comunicado de prensa de EDRi. "Sin embargo, este tipo de bloqueo será técnicamente imposible con HTTPS, que ahora se usa en casi todos los sitios web".

Cuando se le preguntó si la violación de la privacidad era la única forma de proteger a los niños en línea, Shelest respondió con un rotundo "No". Él cree un verdadero La solución viable combina la participación de los padres con el apoyo de la tecnología, lo que podría ayudar a los padres a controlar la actividad en línea de sus hijos. actividades.

"Un buen comienzo sería que los gigantes tecnológicos como Apple y Google proporcionen capacidades más amplias en sus plataformas que respalden a los padres con una automatización más avanzada", sugirió Shelest. "La clave es apoyar a los padres para que apoyen a sus hijos".