Yazarların ve araştırmacıların tepkisi üzerine Grammarly yapay zeka özelliğini kaldırmak zorunda kaldı.

Birkaç aydır yapay zekâ asistanları, dilbilgisi hatalarını düzeltmek, yeniden formülasyonlar önermek veya fikirler sunmak gibi yazmayı iyileştirmek için tasarlanmış çok sayıda özellik ekliyor. Ancak bu yenilikler bazen güçlü tepkilere yol açabiliyor…

Nitekim, dünyanın en yaygın kullanılan yazma asistanlarından biri olan Grammarly'nin başına tam olarak bu geldi.

Şirket, isimlerinin izinsiz kullanıldığı gerekçesiyle yazarlar, gazeteciler ve araştırmacılardan gelen eleştiriler dalgasının ardından "Uzman Yorumu" adlı bir yapay zeka özelliğini devre dışı bırakmak zorunda kaldı.

Gerçek kişilerin tavsiyelerini taklit eden bir yapay zeka

Özellikle, "Uzman Yorumu" özelliği, kullanıcıların yazma becerilerini geliştirmelerine yardımcı olmak için tanıtılmıştı. Araç, ilgili alandaki uzmanlardan ilham alınarak sunulan yorumlar ve yazma önerileri sunuyordu. Bu "uzmanlar" ünlü yazarlar, bilim insanları veya gazeteciler olabiliyordu. Bazı durumlarda, yapay zeka, en çok satan romancılar, akademisyenler veya teknoloji uzmanları gibi isimlerdenmiş gibi görünen açıklamalar bile sunuyordu. Kullanıcılar tarafından hızla fark edilen sorun, bu kişilerin araçta görünmek için izin vermemiş olmalarıydı. Bazen ölmüş olan yazarların veya araştırmacıların isimleri, yapay zeka modeli tarafından otomatik olarak oluşturulan yorumlarla ilişkilendiriliyordu.

Hızlı bir askıya almaya yol açan bir tartışma

Wired'ın bildirdiğine göre, eleştiriler karşısında tepki hızlı oldu. Bazı yazarlar kimliklerinin kötüye kullanılmasını kınarken, gazeteciler ve akademisyenler, aracın hiçbir şekilde onay veya iş birliği olmadığı halde onay veya iş birliği yanılsaması yaratabileceğini düşündüler. Vardı. Amerikalı gazeteci Julia Angwin, gerçek isimlerin izinsiz kullanılmasının kimlik hırsızlığı teşkil edebileceğini savunarak şirkete karşı toplu dava bile açtı. Bu arada, Grammarly'nin sahibi olan Superhuman şirketinin CEO'su Shishir Mehrotra, özelliğin askıya alındığını duyurdu. LinkedIn'de yayınladığı bir mesajda, uzmanlar tarafından yapılan eleştirilerin haklı olduğunu ve şirketin yaklaşımını gözden geçirmesi gerektiğini kabul etti. Şirket şimdi, uzmanların isimlerinin veya çalışmalarının nasıl temsil edilebileceğini kontrol etmelerine veya bu kullanımı tamamen reddetmelerine olanak sağlamak için özelliği yeniden düşünmek istediğini açıklıyor. Üretken Yapay Zekayı çevreleyen tartışmadaki bir bölüm

Bu tartışma, üretken yapay zeka modelleri etrafındaki artan gerilimleri göstermektedir; burada birçok araç, web'den elde edilen geniş veri kümelerinin analizine dayanmaktadır ve bu durum düzenli olarak rıza, telif hakkı veya kamu figürlerinin kimliklerinin kullanımıyla ilgili soruları gündeme getirmektedir.

Grammarly örneğinde, durum, insan uzmanlardan ilham alan özellikleri, onların gerçekten hizmete katıldıkları izlenimini vermeden sunmanın zorluğunu vurgulamaktadır.

"Uzman İncelemesi"nin askıya alınması, yapay zeka araç geliştiricilerinin özelliklerini nasıl tasarladıkları konusunda bir dönüm noktası olabilir; öyle ki, sektördeki şirketler için, yaratıcıların temsili ve rızası konusu artık giderek daha hassas bir konu haline gelmektedir…