La IA podría ayudar a detener la propagación de noticias falsas
- Las nuevas técnicas de IA podrían ayudar a identificar y combatir la información errónea en línea.
- Las falsificaciones profundas generadas por IA hacen que las estafas de voz y video sean más peligrosas.
- La criptografía también puede evitar información falsa en la web.
Igor Stevanovic / 500px / Getty imágenes
La desinformación es un problema creciente en línea, pero la ayuda puede estar en camino gracias a la inteligencia artificial (IA).
Investigación sugiere que las técnicas de aprendizaje automático y la tecnología blockchain pueden combatir el proliferación de noticias falsas. El nuevo enfoque permite a los creadores de contenido concentrarse en combatir la desinformación en áreas donde es más probable que la información errónea cause un daño público significativo. Los expertos dicen encontrar métodos efectivos para combatir la desinformación es de suma importancia.
"Nos basamos en la información para tomar decisiones informadas", manjeet rege, el director del Centro de Inteligencia Artificial Aplicada de la
¿La IA está creando o encontrando noticias falsas?
Un artículo producido por investigadores de la Escuela de Administración de la Universidad de Binghamton aconsejó emplear sistemas de aprendizaje automático para evaluar el daño potencial del contenido sobre su audiencia e identificar a los infractores más atroces. Por ejemplo, durante el pico de la pandemia de COVID-19, se identificaron noticias falsas que promocionaban tratamientos no verificados sobre las vacunas.
"Es más probable que nos interesen las noticias falsas si causan daños que impactan a los lectores o al público. Si las personas perciben que no hay daño, es más probable que compartan la información errónea", dijo Thi Tran, profesora de sistemas de información de gestión que dirigió la investigación, en el comunicado de prensa. "Los daños provienen de si las audiencias actúan de acuerdo con las afirmaciones de la desinformación o si rechazan la acción adecuada debido a ello. Si tenemos una forma sistemática de identificar dónde la desinformación hará más daño, eso nos ayudará a saber dónde centrarnos en la mitigación".
A medida que la IA se desarrolla y se vuelve más sofisticada, se vuelve más difícil para las personas distinguir qué es real y qué no. Sameer Hajarnis, el director de producto de OneSpan, una empresa de verificación digital, señaló en un correo electrónico.
"Por ejemplo, los deepfakes generados por IA hacen que el phishing de voz y video sea mucho más peligroso", agregó. "Los delincuentes que utilizan ataques de ingeniería social van en aumento, y la amenaza que representan los deepfakes ahora está muy extendida".
en un incidente reciente, Martin Lewis, un destacado defensor de las finanzas del consumidor del Reino Unido, aparentemente respaldó una oportunidad de inversión de Elon Musk. Sin embargo, más tarde se reveló que el video era, de hecho, un Deepfake generado por IA, y la oportunidad de inversión resultó ser una estafa fraudulenta, sin el apoyo real de Lewis o Musk.
Parte del contenido generado por IA puede parecer muy realista para un ser humano, pero un modelo de IA puede identificarlo como falso con bastante facilidad.
Muchos enfoques para combatir la desinformación
El enfoque de la Universidad de Binghamton no es la única forma de ayudar a combatir las noticias falsas. Mientras AI puede generar audio falsificado y vídeos, también se puede utilizar para detectar la autenticidad, dijo Rege.
"De hecho, parte del contenido generado por IA puede parecer muy realista para un humano, pero un modelo de IA puede identificarlo como falso con bastante facilidad", agregó.
Otro método es proporcionar prueba de personalidad mediante criptografía, experto en seguridad cibernética y miembro de IEEE zorro de yale dijo en una entrevista por correo electrónico. Si desea grabar un video y ponerlo en las redes sociales, lo mejor que puede hacer es codificar el video con un Llave pública.
“A partir de ahí, el video o tiene la clave o no la tiene”, agregó. "Si tiene la clave codificada, entonces es muy fácil de detectar en cualquier plataforma sin siquiera usar IA. Puede ejecutarse en prácticamente cualquier dispositivo, en un navegador, etc. Si el video se publica en un teléfono elegido, tendría la clave y pasaría las pruebas de verificación".
Peter Dazeley/Getty Images
Las noticias falsas son un problema político y cultural, así como una cuestión técnica, Subramaniam Vicente, director del programa de periodismo y ética de los medios en el Centro Markkula de Ética Aplicada en Universidad de Santa Clara, dijo en un correo electrónico.
"Tomará la colaboración y la creación de consenso entre los actores de la industria de la IA y las empresas de medios de comunicación, y también generando un nuevo impulso hacia la cultura democrática en la política y las elecciones aguas arriba de la tecnología", dijo agregado. "Todo eso hará que sea más fácil contrarrestar el inevitable retroceso que crean los malos actores cuando se utilizan herramientas de IA para detectar, etiquetar y detener la distribución de noticias falsas. La IA es un elemento poderoso, pero no el único, en el lío más grande de una batalla por la democracia en Estados Unidos y en otros lugares".