L'IA pourrait aider à stopper la diffusion de fausses nouvelles
- De nouvelles techniques d'IA pourraient aider à identifier et à combattre la désinformation en ligne.
- Les deepfakes générés par l'IA rendent les escroqueries vocales et vidéo plus dangereuses.
- La cryptographie peut également empêcher les fausses informations sur le Web.
Igor Stevanovic / 500px / Getty images
La désinformation est un problème croissant en ligne, mais de l'aide pourrait être en route grâce à l'intelligence artificielle (IA).
La recherche suggère que les techniques d'apprentissage automatique et la technologie blockchain peuvent lutter contre le prolifération de fausses nouvelles. La nouvelle approche permet aux créateurs de contenu de se concentrer sur la lutte contre la désinformation dans les domaines où la désinformation est le plus susceptible de causer un préjudice public important. Les experts disent trouver des méthodes efficaces pour lutter contre la désinformation est de la plus haute importance.
"Nous nous appuyons sur les informations pour prendre des décisions éclairées",
L'IA crée-t-elle ou trouve-t-elle de fausses nouvelles?
Un article rédigé par des chercheurs de la School of Management de l'Université de Binghamton conseille d'utiliser des systèmes d'apprentissage automatique pour évaluer le préjudice potentiel du contenu sur son public et identifier les délinquants les plus flagrants. Par exemple, au plus fort de la pandémie de COVID-19, de fausses nouvelles faisant la promotion de traitements non vérifiés plutôt que de vaccins ont été identifiées.
"Nous sommes plus susceptibles de nous soucier des fausses nouvelles si elles causent un préjudice qui affecte les lecteurs ou le public. Si les gens perçoivent qu'il n'y a pas de mal, ils sont plus susceptibles de partager la désinformation", a déclaré Thi Tran, professeur de systèmes d'information de gestion qui a dirigé la recherche, dans le communiqué de presse. "Les préjudices viennent du fait que le public agisse selon les affirmations de la désinformation ou s'il refuse l'action appropriée à cause de cela. Si nous avons un moyen systématique d'identifier où la désinformation fera le plus de mal, cela nous aidera à savoir où nous concentrer sur l'atténuation."
À mesure que l'IA se développe et devient plus sophistiquée, il devient de plus en plus difficile pour les individus de distinguer ce qui est réel et ce qui ne l'est pas, Samir Hajarnis, chef de produit de OneSpan, une société de vérification numérique, noté dans un e-mail.
"Par exemple, les deepfakes générés par l'IA rendent le phishing vocal et vidéo beaucoup plus dangereux", a-t-il ajouté. "Les criminels utilisant des attaques d'ingénierie sociale sont en augmentation, et la menace posée par les deepfakes est désormais répandue."
Dans un incident récent, Martin Lewis, un éminent défenseur du crédit à la consommation du Royaume-Uni, a apparemment approuvé une opportunité d'investissement d'Elon Musk. Cependant, il a été révélé plus tard que la vidéo était, en fait, un Deepfake généré par l'IA, et l'opportunité d'investissement s'est avérée être une arnaque frauduleuse, sans aucun soutien réel de Lewis ou Musk.
Une partie du contenu généré par l'IA peut sembler très réaliste pour un humain, mais peut être identifiée comme fausse assez facilement par un modèle d'IA.
De nombreuses approches pour lutter contre la désinformation
L'approche de l'Université de Binghamton n'est pas la seule façon d'aider à lutter contre les fausses nouvelles. Alors que L'IA peut générer de l'audio contrefait et des vidéos, il peut également être utilisé pour détecter l'authenticité, dit Rege.
"En fait, une partie du contenu généré par l'IA peut sembler très réaliste pour un humain, mais peut être identifiée comme fausse assez facilement par un modèle d'IA", a-t-il ajouté.
Une autre méthode consiste à fournir une preuve de la personnalité à l'aide de la cryptographie, d'un expert en cybersécurité et d'un membre de l'IEEE Renard de Yale a déclaré dans une interview par e-mail. Si vous souhaitez enregistrer une vidéo et la mettre sur les réseaux sociaux, la meilleure chose à faire serait d'encoder la vidéo avec un Clé publique.
"A partir de là, soit la vidéo a la clé, soit elle ne l'a pas", a-t-il ajouté. "Si la clé est codée, elle est très facile à détecter sur n'importe quelle plate-forme sans même utiliser l'IA. Il peut fonctionner sur pratiquement n'importe quel appareil, dans un navigateur, etc. Si la vidéo est publiée sur un téléphone élu, elle aurait la clé et passerait les tests de vérification."
Peter Dazeley/Getty Images
Les fausses nouvelles sont un problème politique et culturel ainsi qu'un problème technique, Subramaniam Vincent, directeur du programme d'éthique du journalisme et des médias au Markkula Center for Applied Ethics à Université Santa Clara, a déclaré dans un e-mail.
"Il faudra une collaboration et un consensus entre les acteurs de l'industrie de l'IA et les entreprises de médias d'information, et générant également une nouvelle poussée vers une culture démocratique dans la politique et les élections en amont de la technologie », a-t-il ajoutée. "Tout cela facilitera la lutte contre l'inévitable refoulement créé par les mauvais acteurs lorsque des outils d'IA sont utilisés pour détecter, étiqueter et arrêter la diffusion de fausses nouvelles. L'IA est un élément puissant, mais pas le seul, dans le plus grand gâchis d'une bataille pour la démocratie en Amérique et ailleurs."