דיפפייקס: מטא ספגה ביקורת על חסרונותיה במאבק נגד תוכן שנוצר על ידי בינה מלאכותית

בינה מלאכותית משנה באופן עמוק את זרימת המידע ברשתות החברתיות, עד כדי כך שתמונות וסרטונים שנוצרו באופן מלאכותי יכולים לחקות מצבים מהחיים האמיתיים בדיוק מטריד.

לנוכח התפתחות זו, ענקיות האינטרנט מנסות להתאים את מערכות הניהול שלהן. אבל במקרה של מטא, מאמצים אלה עדיין נראים רחוקים מלהיות משכנעים.

ואכן, מועצת הפיקוח של החברה, האחראית על הערכת החלטות ניהול תוכן, הצביעה זה עתה על מספר ליקויים בניהול זיופים עמוקים בפייסבוק, אינסטגרם ו-Threads. על פי הדיווח המקוון, המנגנונים הנוכחיים אינם מספיקים כדי להגביל את התפשטות התוכן המטעה שנוצר על ידי בינה מלאכותית...

זיהוי נחשב מוגבל מדי כנגד זיופים עמוקים

לאחר בחינת סרטונים, כולל סרטון אחד שנוצר על ידי בינה מלאכותית המציג נזק לכאורה למבנים בישראל, הארגון סבור כי שיטות הזיהוי בהן משתמשת מטה "אינן חזקות או מקיפות מספיק"..

לגבי סרטון זה, שפורסם בשנה שעברה במהלך סכסוך בין ישראל לאיראן, הוא הושאר בתחילה באינטרנט על ידי הפלטפורמה. בסופו של דבר, המועצה החליטה לבטל החלטה זו ולהתריע בפני מטה על מגבלות האסטרטגיה הנוכחית שלה. אחת הבעיות שזוהו נוגעת להסתמכות יתרה על דיווח עצמי מצד יוצרי תוכן. בפועל, פלטפורמות תלויות לעתים קרובות במשתמשים כדי לדווח האם תמונה או סרטון נוצרו על ידי בינה מלאכותית. גישה זו נחשבת לא מציאותית לנוכח קמפיינים מאורגנים של דיסאינפורמציה. המצב מסתבך עוד יותר עקב הפצת התוכן הרב-פלטפורמית, שכן במקרה הנחקר, הסרטון פורסם לראשונה, על פי הדיווחים, בטיקטוק לפני ששותף בפייסבוק, אינסטגרם ו-X, מה שמקשה על ניהול התוכן. מועצת הפיקוח קוראת לרפורמה של ניהול התוכן. לאור מגבלות אלה, מועצת הפיקוח מבקשת מ-Meta לבחון לעומק את גישתה לניהול התוכן הקשור לבינה מלאכותית. לשם כך, נבדקות מספר דרכים לשיפור השקיפות וזיהוי תוכן סינתטי. בין ההמלצות נמצאת פריסה רחבה יותר של סטנדרטים למקור המדיה, כגון מערכת C2PA (אישורי תוכן), שנועדה לזהות את מקורו של קובץ דיגיטלי. טכנולוגיה מסוג זה תציין בבירור למשתמשי האינטרנט האם תמונה או סרטון נוצרו או שונו על ידי בינה מלאכותית. המועצה מבקשת גם מ-Meta לפתח כלי זיהוי יעילים יותר ולהכליל את התיוג של תוכן שנוצר על ידי בינה מלאכותית. המטרה היא להפוך מידע זה לגלוי בקנה מידה גדול, כך שמשתמשים יוכלו לזהות ביתר קלות מדיה מטעה. מתבקשת גם יצירת תקן קהילתי נפרד המוקדש לתוכן שנוצר על ידי בינה מלאכותית, במיוחד משום שכלל כזה יאפשר רגולציה טובה יותר של דיפ-זייפים ותגובה מהירה יותר כאשר תוכן מטעה מופץ. בעוד שהמלצות אלו מגיעות על רקע מתחים גוברים סביב דיסאינפורמציה ותפקידן של פלטפורמות, ככל שכלי בינה מלאכותית הופכים נגישים יותר, היכולת של רשתות חברתיות להבחין בין אמת לשקר הופכת לבעיה מרכזית עבור אמינות המידע המקוון.