Grammarly tvingas ta bort AI-funktion efter ilska från skribenter och forskare

I flera månader nu har AI-assistenter lagt till en mängd funktioner som är utformade för att förbättra skrivandet, oavsett om det gäller att korrigera grammatik, föreslå omformuleringar eller föreslå idéer. Men dessa innovationer kan ibland framkalla starka reaktioner…

Det är just vad som just hände med Grammarly, en av de mest använda skrivassistenterna i världen. Företaget var nyligen tvunget att inaktivera en AI-funktion som heter "*Expertgranskning**, efter en våg av kritik från skribenter, journalister och forskare vars namn användes av verktyget utan tillstånd.

En AI som härmade råd från riktiga människor

Funktionen är inte längre tillgänglig – Källa: Grammarly

Mer specifikt hade funktionen "Expertgranskning" introducerats för att hjälpa användare att förbättra sitt skrivande. Verktyget erbjöd kommentarer och skrivförslag som presenterades som inspirerade av experter inom relevant område. Dessa "experter" kunde vara kända författare, forskare eller journalister. I vissa fall presenterade AI:n till och med kommentarer som påstås komma från personer som bästsäljande författare, akademiker eller teknikspecialister. Problemet, som snabbt identifierades av användarna, var att dessa individer inte hade gett sitt samtycke till att visas i verktyget. Namnen på författare eller forskare, ibland avlidna, kopplades således till kommentarer som automatiskt genererades av en AI-modell.

En kontrovers som ledde till en snabb avstängning

Som rapporterats av Wired, blev reaktionen snabb inför kritiken. Vissa författare fördömde missbruket av deras identiteter, medan journalister och akademiker ansåg att verktyget kunde skapa en illusion av stöd eller samarbete där inget existerade. Den amerikanska journalisten Julia Angwin lämnade till och med in en grupptalan mot företaget och hävdade att användning av riktiga namn utan tillstånd kunde utgöra identitetsstöld. Samtidigt sa Shishir Mehrotra, VD från Superhuman, företaget som nu äger Grammarly, meddelade att funktionen avstängts. I ett meddelande publicerat på LinkedIn erkänner han att kritiken från experterna var legitim och att företaget behövde revidera sin strategi.

Företaget förklarar nu att de vill ompröva funktionen för att låta experter kontrollera hur deras namn eller arbete kan representeras, eller till och med helt vägra denna användning.

En ny episod i debatten kring generativ AI

Denna kontrovers illustrerar de växande spänningarna kring generativa AI-modeller, där många verktyg förlitar sig på analys av stora datamängder från webben, Detta väcker regelbundet frågor om samtycke, upphovsrätt eller användningen av offentliga personers identiteter.

När det gäller Grammarly belyser situationen svårigheten att erbjuda funktioner inspirerade av mänskliga experter **utan att ge intrycket av att de faktiskt deltar i tjänsten**.

Avstängningen av "Expertgranskning" **kan således markera en vändpunkt i hur utvecklare av AI-verktyg utformar sina funktioner, i så hög grad att för företag inom sektorn blir **frågan om representation och samtycke** från skapare nu ett alltmer känsligt ämne…