Grammarly נאלצה להסיר את תכונת הבינה המלאכותית לאחר כעס מצד כותבים וחוקרים

במשך מספר חודשים, עוזרי בינה מלאכותית מוסיפים תכונות רבות שנועדו לשפר את הכתיבה, בין אם זה לתקן דקדוק, להציע ניסוחים מחדש או להציע רעיונות. אבל חידושים אלה יכולים לפעמים לעורר תגובות חזקות...

ואכן, זה בדיוק מה שקרה ל-Grammarly, אחד מעוזרי הכתיבה הנפוצים ביותר בעולם. לאחרונה נאלצה החברה להשבית תכונה של בינה מלאכותית בשם "סקירת מומחים, לאחר גל של ביקורת מצד סופרים, עיתונאים וחוקרים ששמם שימש את הכלי ללא רשות.

בינה מלאכותית שחיקתה את עצותיהם של אנשים אמיתיים

התכונה אינה נגישה עוד – מקור: Grammarly

באופן ספציפי, תכונת "סקירת מומחים" הוצגה כדי לעזור למשתמשים לשפר את כתיבתם. הכלי הציע הערות והצעות כתיבה שהוצגו בהשראת מומחים בתחום הרלוונטי. "מומחים" אלה יכולים להיות סופרים, מדענים או... עיתונאים. במקרים מסוימים, הבינה המלאכותית אף הציגה הערות שכביכול הגיעו מדמויות כמו סופרים רבי מכר, אקדמאים או מומחי טכנולוגיה. הבעיה, שזוהתה במהירות על ידי המשתמשים, הייתה שאנשים אלה לא נתנו את הסכמתם להופיע בכלי. שמותיהם של סופרים או חוקרים, שלעיתים אף נפטרו, נקשרו לפיכך לתגובות שנוצרו אוטומטית על ידי מודל בינה מלאכותית.

מחלוקת שהובילה להשעיה מהירה

כפי שדווח על ידי Wired, לנוכח הביקורת, התגובה הייתה מהירה. כמה מחברים גינו את השימוש לרעה בזהויותיהם, בעוד עיתונאים ואקדמאים חשו שהכלי עלול ליצור אשליה של תמיכה או שיתוף פעולה במקום שלא היה קיים. העיתונאית האמריקאית ג'וליה אנגווין אף הגישה תביעה ייצוגית נגד החברה, בטענה כי שימוש בשמות אמיתיים ללא אישור עלול להוות גניבת זהות. בינתיים, שישיר מהרוטרה, מנכ"ל של Superhuman, החברה שבבעלותה כעת Grammarly, הודיעה על השעיית הפיצ'ר. בהודעה שפורסמה בלינקדאין, הוא מכיר בכך שהביקורות שהעלו מומחים היו לגיטימיות וכי החברה הייתה צריכה לשנות את גישתה.

החברה מסבירה כעת שהיא רוצה לחשוב מחדש על הפיצ'ר כדי לאפשר למומחים לשלוט באופן שבו שמם או עבודתם יכולים להיות מיוצגים, או אפילו לסרב לשימוש זה לחלוטין.

פרק חדש בדיון סביב בינה מלאכותית גנרטיבית

מחלוקת זו ממחישה את המתחים הגוברים סביב מודלים של בינה מלאכותית גנרטיבית, שבהם כלים רבים מסתמכים על ניתוח של מערכי נתונים עצומים מהאינטרנט, דבר זה מעלה באופן קבוע שאלות הקשורות להסכמה, זכויות יוצרים או שימוש בזהויות של דמויות ציבוריות.

במקרה של Grammarly, המצב מדגיש את הקושי להציע תכונות בהשראת מומחים אנושיים **מבלי לתת את הרושם שהם אכן משתתפים בשירות**.

השעיית "סקירת המומחים" **עלולה לסמן נקודת מפנה באופן שבו מפתחי כלי בינה מלאכותית מעצבים את התכונות שלהם, עד כדי כך שעבור חברות בתחום, **נושא הייצוג וההסכמה** של יוצרים הופך כעת לנושא רגיש יותר ויותר...**