Grammarly zmuszony do usunięcia funkcji sztucznej inteligencji po oburzeniu pisarzy i badaczy

Od kilku miesięcy asystenci AI dodają liczne funkcje mające na celu poprawę pisania, czy to poprawianie gramatyki, sugerowanie przeformułowań, czy proponowanie pomysłów. Jednak te innowacje mogą czasami wywoływać silne reakcje…

Właśnie to właśnie przydarzyło się Grammarly, jednemu z najpopularniejszych asystentów pisania na świecie. Firma musiała niedawno wyłączyć funkcję sztucznej inteligencji o nazwie „Recenzja ekspercka” po fali krytyki ze strony pisarzy, dziennikarzy i badaczy, których nazwiska były wykorzystywane przez narzędzie bez ich zgody.

Sztuczna inteligencja, która naśladowała porady prawdziwych ludzi

Funkcja nie jest już dostępna – Źródło: Grammarly

W szczególności funkcja „Recenzja ekspercka” została wprowadzona, aby pomóc użytkownikom w ulepszaniu ich tekstów. Narzędzie oferowało komentarze i sugestie dotyczące tekstów prezentowane jako inspirujące przez ekspertów w danej dziedzinie. Ci „eksperci” mogli być znanymi autorami, naukowcami lub dziennikarzami. W niektórych przypadkach sztuczna inteligencja prezentowała nawet komentarze rzekomo pochodzące od takich postaci, jak bestsellerowi powieściopisarze, naukowcy czy specjaliści od technologii. Problem, szybko zidentyfikowany przez użytkowników, polegał na tym, że osoby te nie wyraziły zgody na pojawienie się w narzędziu. Nazwiska pisarzy lub badaczy, czasami zmarłych, były zatem kojarzone z komentarzami automatycznie generowanymi przez model sztucznej inteligencji.

Kontrowersje, które doprowadziły do szybkiego zawieszenia

Jak donosi Wired, w obliczu krytyki reakcja była szybka. Niektórzy autorzy potępili nadużycie ich tożsamości, podczas gdy dziennikarze i naukowcy uważali, że narzędzie może stwarzać iluzję poparcia lub współpracy tam, gdzie ich nie było. Amerykańska dziennikarka Julia Angwin wniosła nawet pozew zbiorowy przeciwko firmie, argumentując, że używanie prawdziwych nazwisk bez zezwolenia może stanowić kradzież tożsamości. Tymczasem Shishir Mehrotra, dyrektor generalny Superhuman, firmy, która jest obecnie właścicielem Grammarly, ogłosił zawieszenie tej funkcji. W wiadomości opublikowanej na LinkedIn, przyznał, że krytyka ekspertów była uzasadniona i że firma powinna zrewidować swoje podejście.

Firma wyjaśnia teraz, że chce ponownie przemyśleć tę funkcję, aby umożliwić ekspertom kontrolę sposobu, w jaki ich nazwisko lub praca mogą być prezentowane, a nawet zabronić takiego wykorzystania. całkowicie.

Nowy epizod w debacie na temat generatywnej sztucznej inteligencji

Ta kontrowersja ilustruje rosnące napięcia wokół modeli generatywnej sztucznej inteligencji, w których wiele narzędzi opiera się na analizie ogromnych zbiorów danych z internetu, co regularnie podnosi kwestie związane ze zgodą, prawami autorskimi lub wykorzystywaniem tożsamości osób publicznych.

W przypadku Grammarly sytuacja ta uwypukla trudność oferowania funkcji inspirowanych przez ekspertów bez stwarzania wrażenia, że faktycznie uczestniczą oni w usłudze.

Zawieszenie funkcji „Recenzji eksperckiej” może zatem oznaczać punkt zwrotny w sposobie, w jaki twórcy narzędzi AI projektują swoje funkcje, do tego stopnia, że dla firm z tego sektora kwestia reprezentacji i zgody twórców staje się coraz bardziej drażliwym tematem…