گرامرلی پس از خشم نویسندگان و محققان مجبور به حذف ویژگی هوش مصنوعی شد

چند ماهی است که دستیاران هوش مصنوعی ویژگیهای متعددی را برای بهبود نگارش اضافه میکنند، چه برای اصلاح دستور زبان، پیشنهاد اصلاح ساختار یا ارائه ایده. اما این نوآوریها گاهی اوقات میتوانند واکنشهای شدیدی را برانگیزند...

در واقع، این دقیقاً همان اتفاقی است که برای گرامرلی، یکی از پرکاربردترین دستیاران نگارش در جهان، افتاده است. این شرکت اخیراً پس از موجی از انتقاد از سوی نویسندگان، روزنامهنگاران و محققانی که نامشان بدون اجازه توسط این ابزار استفاده میشد، مجبور شد یک ویژگی هوش مصنوعی به نام «بررسی تخصصی» را غیرفعال کند.

هوش مصنوعی که توصیههای افراد واقعی را تقلید میکرد

این ویژگی دیگر در دسترس نیست – منبع: Grammarly

به طور خاص، ویژگی «بررسی تخصصی» برای کمک به کاربران در بهبود نوشتارشان معرفی شده بود. این ابزار نظرات و پیشنهادات نوشتاری را که توسط متخصصان در زمینه مربوطه الهام گرفته شده بود، ارائه میداد. این «متخصصان» میتوانستند نویسندگان، دانشمندان یا روزنامهنگاران مشهور باشند. در برخی موارد، هوش مصنوعی حتی اظهاراتی را که ظاهراً از چهرههایی مانند رماننویسان پرفروش، دانشگاهیان یا متخصصان فناوری بود، ارائه میداد. مشکلی که به سرعت توسط کاربران شناسایی شد، این بود که این افراد رضایت خود را برای حضور در این ابزار اعلام نکرده بودند. بنابراین نام نویسندگان یا محققان، که گاهی اوقات فوت کردهاند، با نظراتی که به طور خودکار توسط یک مدل هوش مصنوعی تولید میشد، مرتبط میشد.

بحثی که منجر به تعلیق سریع شد

همانطور که توسط Wired گزارش شده است، در مواجهه با انتقاد، واکنش سریع بود. برخی از نویسندگان سوءاستفاده از هویت خود را محکوم کردند، در حالی که روزنامهنگاران و دانشگاهیان احساس میکردند که این ابزار میتواند توهم تأیید یا همکاری را در جایی که وجود ندارد، ایجاد کند. جولیا آنگوین، روزنامهنگار آمریکایی، حتی یک دادخواست دسته جمعی علیه این شرکت ارائه داد و استدلال کرد که استفاده از نامهای واقعی بدون مجوز میتواند سرقت هویت محسوب شود. در همین حال، شیشیر مهروترا، مدیرعامل سوپرهیومن، شرکتی که اکنون مالک گرامرلی است، از تعلیق این ویژگی خبر داد. در پیامی که در لینکدین منتشر کرد، او اذعان میکند که انتقادات کارشناسان موجه بوده و شرکت باید رویکرد خود را اصلاح کند.

این شرکت اکنون توضیح میدهد که میخواهد این ویژگی را دوباره بررسی کند تا به متخصصان اجازه دهد نحوه نمایش نام یا کار خود را کنترل کنند یا حتی از این استفاده به طور کلی خودداری کنند.

قسمت جدیدی از بحث پیرامون هوش مصنوعی مولد

این جنجال، تنشهای فزاینده پیرامون هوش مصنوعی مولد را نشان میدهد. مدلهای هوش مصنوعی، که در آن ابزارهای زیادی به تجزیه و تحلیل مجموعه دادههای گسترده از وب متکی هستند، که مرتباً سوالاتی در مورد رضایت، حق چاپ یا استفاده از هویت چهرههای عمومی مطرح میکند.

در مورد گرامرلی، این وضعیت دشواری ارائه ویژگیهای الهام گرفته از متخصصان انسانی بدون ایجاد این تصور که آنها واقعاً در این سرویس مشارکت دارند را برجسته میکند.

بنابراین، تعلیق «بررسی تخصصی» میتواند نقطه عطفی در نحوه طراحی ویژگیهای توسعهدهندگان ابزار هوش مصنوعی باشد، به طوری که برای شرکتهای این بخش، مسئله نمایندگی و رضایت سازندگان اکنون به موضوعی بسیار حساس تبدیل میشود...