Grammarly terpaksa menghapus fitur AI setelah mendapat kecaman dari para penulis dan peneliti.

Selama beberapa bulan terakhir, asisten AI telah menambahkan banyak fitur yang dirancang untuk meningkatkan kualitas tulisan, baik itu untuk mengoreksi tata bahasa, menyarankan perumusan ulang, atau mengusulkan ide. Namun, inovasi-inovasi ini terkadang dapat memicu reaksi keras…

Memang, itulah yang baru saja terjadi pada Grammarly, salah satu asisten penulisan yang paling banyak digunakan di dunia.

Baru-baru ini, perusahaan tersebut terpaksa menonaktifkan fitur AI yang disebut "Ulasan Pakar", setelah gelombang kritik dari penulis, jurnalis, dan peneliti yang namanya digunakan oleh alat tersebut tanpa izin.

AI yang meniru saran dari orang sungguhan

Secara khusus, fitur "Ulasan Pakar" telah diperkenalkan untuk membantu pengguna meningkatkan tulisan mereka. Alat ini menawarkan komentar dan saran penulisan yang disajikan seolah-olah terinspirasi oleh para ahli di bidang yang relevan. "Para ahli" ini bisa jadi terkenal penulis, ilmuwan, atau jurnalis. Dalam beberapa kasus, AI bahkan menampilkan komentar yang konon berasal dari tokoh-tokoh seperti novelis terlaris, akademisi, atau spesialis teknologi. Masalahnya, yang dengan cepat diidentifikasi oleh pengguna, adalah bahwa individu-individu ini belum memberikan persetujuan mereka untuk muncul di alat tersebut. Nama-nama penulis atau peneliti, terkadang yang sudah meninggal, dengan demikian dikaitkan dengan komentar yang secara otomatis dihasilkan oleh model AI.

Kontroversi yang menyebabkan penangguhan cepat

Seperti yang dilaporkan oleh Wired, dalam menghadapi kritik, reaksinya cepat. Beberapa penulis mengecam penyalahgunaan identitas mereka, sementara jurnalis dan akademisi merasa alat tersebut dapat menciptakan ilusi dukungan atau kolaborasi di mana tidak ada yang sebenarnya. Jurnalis Amerika Julia Angwin bahkan mengajukan gugatan class action terhadap perusahaan tersebut, dengan alasan bahwa penggunaan nama asli tanpa Otorisasi tersebut dapat dianggap sebagai pencurian identitas. Sementara itu, Shishir Mehrotra, CEO Superhuman, perusahaan yang kini memiliki Grammarly, mengumumkan penangguhan fitur tersebut. Dalam sebuah pesan yang diposting di LinkedIn, ia mengakui bahwa kritik yang disampaikan oleh para ahli adalah sah dan bahwa perusahaan perlu merevisi pendekatannya.

Perusahaan kini menjelaskan bahwa mereka ingin memikirkan kembali fitur tersebut untuk memungkinkan para ahli mengontrol bagaimana nama atau karya mereka dapat direpresentasikan, atau bahkan menolak penggunaan ini sama sekali.

Episode baru dalam perdebatan seputar AI generatif

Kontroversi ini menggambarkan meningkatnya ketegangan seputar AI generatif model, di mana banyak alat bergantung pada analisis kumpulan data besar dari web, yang secara teratur menimbulkan pertanyaan terkait persetujuan, hak cipta, atau penggunaan identitas tokoh publik.

Dalam kasus Grammarly, situasi ini menyoroti kesulitan menawarkan fitur yang terinspirasi oleh para ahli manusia tanpa memberikan kesan bahwa mereka sebenarnya berpartisipasi dalam layanan tersebut.

Penangguhan "Tinjauan Pakar" dengan demikian dapat menandai titik balik dalam cara pengembang alat AI merancang fitur mereka, sedemikian rupa sehingga bagi perusahaan di sektor ini, masalah representasi dan persetujuan dari para kreator kini menjadi subjek yang semakin sensitif…