AI יכול לעזור לעצור את התפשטות החדשות המזויפות
- טכניקות AI חדשות יכולות לעזור לזהות ולהילחם במידע מוטעה מקוון.
- זיופים עמוקים שנוצרו על ידי AI הופכים הונאות קול ווידאו למסוכנות יותר.
- קריפטוגרפיה יכולה גם למנוע מידע מזויף באינטרנט.
Igor Stevanovic / 500px / Getty images
מידע שגוי הוא בעיה הולכת וגוברת ברשת, אך ייתכן שהעזרה בדרך הודות לבינה מלאכותית (AI).
מחקר מציע כי טכניקות למידת מכונה וטכנולוגיית בלוקצ'יין עשויות להילחם ב ריבוי של חדשות מזויפות. הגישה החדשה מאפשרת ליוצרי תוכן להתמקד במאבק בדיסאינפורמציה באזורים שבהם המידע השגוי עלול לגרום לנזק ציבורי משמעותי. מומחים טוענים מציאת שיטות יעילות להילחם בדיסאינפורמציה הוא בעל חשיבות עליונה.
"אנחנו מסתמכים על מידע כדי לקבל החלטות מושכלות", מנג'יט ריג', מנהל המרכז לבינה מלאכותית יישומית ב- אוניברסיטת סנט תומס, אמר ל-Lifewire בראיון באימייל. "אז כאשר צרכנים אינם מסוגלים להבחין בין מידע אמיתי למזויף, הם עלולים להיות רגישים יותר לקבל החלטות גרועות. עם הופעת המדיה החברתית, חדשות מזויפות יכולות להפוך לוויראליות במהירות ועלולות להוביל לתגובות ברכיים של הציבור".
האם בינה מלאכותית יוצרת או מוצאת חדשות מזויפות?
מאמר שהופק על ידי חוקרים מבית הספר לניהול של אוניברסיטת בינגהמטון יעץ להשתמש במערכות למידת מכונה להעריך את הנזק הפוטנציאלי של תוכן על הקהל שלו ומדייק את העבריינים הקשים ביותר. לדוגמה, במהלך שיא מגיפת COVID-19, זוהו חדשות מזויפות המקדמות טיפולים לא מאומתים על פני חיסונים.
"סביר להניח שיהיה אכפת לנו מחדשות מזויפות אם הן גורמות לנזק שמשפיע על הקוראים או הקהלים. אם אנשים מבינים שאין נזק, סביר יותר שהם ישתפו את המידע השגוי", אמר Thi Tran, פרופסור למערכות מידע ניהוליות שהוביל את המחקר, במהדורת החדשות. "הנזקים נובעים מכך שהקהל פועל על פי טענות האינפורמציה המוטעית או אם הוא מסרב לפעולה הראויה בשל כך. אם תהיה לנו דרך שיטתית לזהות היכן מידע שגוי יעשה את הנזק הגדול ביותר, זה יעזור לנו לדעת היכן להתמקד בהפחתה".
ככל שה-AI מתפתח ומתוחכם יותר, זה נהיה קשה יותר לאנשים להבחין בין מה אמיתי ומה לא, סמיר חג'רניס, מנהל המוצר הראשי של OneSpan, חברת אימות דיגיטלי, צוינה במייל.
"לדוגמה, זיופים עמוקים שנוצרו על ידי AI הופכים דיוג קולי ווידאו למסוכן הרבה יותר", הוסיף. "פושעים המשתמשים במתקפות של הנדסה חברתית נמצאים בעלייה, והאיום הנשקף מזיופים עמוקים נפוץ כעת".
ב התקרית האחרונה, מרטין לואיס, תומך מימון צרכנים בולט מבריטניה, תמך לכאורה בהזדמנות השקעה של אילון מאסק. עם זאת, מאוחר יותר התברר כי הסרטון היה, למעשה, א זיוף עמוק שנוצר בינה מלאכותית, והזדמנות ההשקעה התבררה כהונאת הונאה, ללא תמיכה ממשית מלואיס או מאסק.
חלק מהתוכן שנוצר בינה מלאכותית יכול להיראות מאוד מציאותי לאדם, אך ניתן לזהות אותו כמזויף די בקלות על ידי מודל AI.
גישות רבות למלחמה בדיסאינפורמציה
גישת אוניברסיטת בינגהמטון היא לא הדרך היחידה לעזור להילחם בחדשות מזויפות. בזמן AI יכול ליצור אודיו מזויף וסרטונים, זה יכול לשמש גם לזיהוי אותנטיות, אמרה רגה.
"למעשה, חלק מהתוכן שנוצר על ידי בינה מלאכותית יכול להיראות מאוד מציאותי לאדם, אבל יכול להיות מזוהה די בקלות על ידי מודל בינה מלאכותית", הוסיף.
שיטה נוספת היא לספק הוכחה לאישיות באמצעות קריפטוגרפיה, מומחה אבטחת סייבר וחבר IEEE ייל פוקס אמר בראיון במייל. אם אתה רוצה להקליט סרטון ולשים אותו במדיה חברתית, הדבר הטוב ביותר לעשות יהיה לקודד את הסרטון באמצעות מפתח ציבורי.
"משם, לסרטון יש את המפתח או שאין לו", הוסיף. "אם יש לו את המפתח מקודד, אז קל מאוד לזהות אותו בכל פלטפורמה מבלי להשתמש אפילו בבינה מלאכותית. זה יכול לפעול כמעט על כל מכשיר, בדפדפן וכו'. אם הסרטון מתפרסם בטלפון נבחר, יהיה לו המפתח והוא יעבור בדיקות אימות".
פיטר דאזלי / Getty Images
חדשות מזויפות הן בעיה פוליטית ותרבותית כמו גם בעיה טכנית, סוברמניאם וינסנט, מנהל התכנית לעיתונות ואתיקה בתקשורת במרכז מרקקולה לאתיקה יישומית ב אוניברסיטת סנטה קלרה, נאמר במייל.
"זה ידרוש שיתוף פעולה ובניית קונצנזוס בין שחקני תעשיית הבינה המלאכותית וחברות מדיה חדשותית, וגם לייצר דחף חדש לתרבות דמוקרטית בפוליטיקה ובבחירות במעלה הזרם של הטכנולוגיה", הוא הוסיף. "כל זה יקל על התמודדות עם הדחיפה הבלתי נמנעת ששחקנים רעים יוצרים כאשר משתמשים בכלי AI לאיתור, תיוג ועצירת הפצת חדשות מזויפות. בינה מלאכותית היא מרכיב רב עוצמה, אבל לא היחיד, בבלגן הגדול יותר של קרב על דמוקרטיה באמריקה ובמקומות אחרים".