Grammarly byl nucen odstranit funkci umělé inteligence po hněvu autorů a výzkumníků

Už několik měsíců přidávají asistenti s umělou inteligencí řadu funkcí určených ke vylepšení psaní, ať už jde o opravu gramatiky, návrhy na přeformulování nebo navrhování nápadů. Tyto inovace však někdy mohou vyvolat silné reakce…

Přesně to se stalo Grammarly, jednomu z nejpoužívanějších asistentů psaní na světě. Společnost musela nedávno deaktivovat funkci umělé inteligence s názvem „Expertní recenze“ po vlně kritiky od autorů, novinářů a výzkumníků, jejichž jména nástroj používal bez svolení.

Umělá inteligence, která napodobovala rady skutečných lidí

Funkce již není dostupná – Zdroj: Grammarly

Funkce „Expertní recenze“ byla konkrétně zavedena, aby pomohla uživatelům zlepšit jejich psaní. Nástroj nabízel komentáře a návrhy na psaní inspirované odborníky v daném oboru. Těmito „odborníky“ mohli být slavní autoři, vědci, nebo novináři. V některých případech umělá inteligence dokonce prezentovala komentáře údajně od osobností, jako jsou autori bestsellerů, akademici nebo technologickí specialisté. Problém, který uživatelé rychle identifikovali, spočíval v tom, že tito jedinci nedali souhlas s tím, aby se v nástroji objevili. Jména spisovatelů nebo výzkumníků, někdy zesnulých, byla tak spojena s komentáři automaticky generovanými modelem umělé inteligence.

Kontroverze, která vedla k rychlému pozastavení

Jak uvedl server Wired, tváří v tvář kritice byla reakce rychlá. Někteří autoři odsuzovali zneužití své identity, zatímco novináři a akademici se domnívali, že nástroj by mohl vytvořit iluzi podpory nebo spolupráce tam, kde žádná neexistovala. Americká novinářka Julia Angwinová dokonce podala hromadnou žalobu proti společnosti s argumentem, že použití skutečných jmen bez povolení by mohlo představovat krádež identity. Mezitím generální ředitel Shishir Mehrotra Společnost Superhuman, která nyní vlastní Grammarly, oznámila pozastavení této funkce. Ve zprávě zveřejněné na LinkedIn uznává, že kritika expertů byla legitimní a že společnost potřebuje svůj přístup přehodnotit.

Společnost nyní vysvětluje, že chce funkci přehodnotit, aby expertům umožnila kontrolovat, jak by jejich jméno nebo dílo mohlo být reprezentováno, nebo dokonce toto použití zcela odmítnout.

Nová epizoda v debatě o generativní umělé inteligenci

Tato kontroverze ilustruje rostoucí napětí kolem modelů generativní umělé inteligence, kde mnoho nástrojů se spoléhá na analýzu rozsáhlých datových sad z webu, což pravidelně vyvolává otázky týkající se souhlasu, autorských práv nebo používání identit veřejně známých osob.

V případě Grammarly situace zdůrazňuje obtížnost nabízení funkcí inspirovaných lidskými experty, aniž by to vyvolávalo dojem, že se služby skutečně účastní.

Pozastavení funkce „Expertní posouzení“ by tak mohlo znamenat zlom v tom, jak vývojáři nástrojů umělé inteligence navrhují své funkce, a to natolik, že pro společnosti v tomto odvětví se otázka zastoupení a souhlasu tvůrců stává stále citlivějším tématem…