Grammarly is gedwongen een AI-functie te verwijderen na protesten van schrijvers en onderzoekers.

AI-assistenten voegen al enkele maanden talloze functies toe die ontworpen zijn om het schrijven te verbeteren, of het nu gaat om het corrigeren van grammatica, het voorstellen van herformuleringen of het aandragen van ideeën. Maar deze innovaties kunnen soms sterke reacties oproepen… Dat is precies wat er onlangs is gebeurd met Grammarly, een van de meest gebruikte schrijfassistenten ter wereld. Het bedrijf moest onlangs een AI-functie genaamd "Expert Review" uitschakelen na een golf van kritiek van schrijvers, journalisten en onderzoekers wiens namen zonder toestemming door de tool werden gebruikt.

Een AI die het advies van echte mensen nabootste

De functie "Expert Review" was specifiek geïntroduceerd om gebruikers te helpen hun schrijfvaardigheid te verbeteren. De tool bood commentaar en schrijfsuggesties aan, gepresenteerd als geïnspireerd door experts in het betreffende vakgebied. Deze "Experts" konden bekende auteurs, wetenschappers of journalisten zijn. In sommige gevallen presenteerde de AI zelfs opmerkingen die zogenaamd afkomstig waren van bijvoorbeeld bestsellerauteurs, academici of technologiespecialisten. Het probleem, dat snel door gebruikers werd opgemerkt, was dat deze personen geen toestemming hadden gegeven om in de tool te verschijnen. De namen van schrijvers of onderzoekers, soms overleden, werden zo gekoppeld aan opmerkingen die automatisch door een AI-model werden gegenereerd.

Een controverse die leidde tot een snelle schorsing

Zoals gemeld door Wired, was de reactie op de kritiek snel. Sommige auteurs hekelden het misbruik van hun identiteit, terwijl journalisten en academici vonden dat de tool de illusie van goedkeuring of samenwerking kon creëren waar die niet bestond. De Amerikaanse journalist Julia Angwin diende zelfs een klacht in. Een collectieve rechtszaak is aangespannen tegen het bedrijf, met het argument dat het gebruik van echte namen zonder toestemming identiteitsdiefstal zou kunnen vormen. Ondertussen kondigde Shishir Mehrotra, CEO van Superhuman, het bedrijf dat nu eigenaar is van Grammarly, de opschorting van de functie aan. In een bericht op LinkedIn erkent hij dat de kritiek van experts terecht was en dat het bedrijf zijn aanpak moest herzien. Het bedrijf legt nu uit dat het de functie wil herzien om experts de mogelijkheid te geven te bepalen hoe hun naam of werk wordt weergegeven, of zelfs om dit gebruik volledig te weigeren. Een nieuwe episode in het debat rondom generatieve tekstverwerking. Deze controverse illustreert de groeiende spanningen rondom generatieve AI-modellen, waarbij veel tools afhankelijk zijn van de analyse van enorme datasets van het web. Dit roept regelmatig vragen op over toestemming, auteursrecht of het gebruik van de identiteit van publieke figuren. In het geval van Grammarly benadrukt de situatie de moeilijkheid om functies aan te bieden die geïnspireerd zijn door menselijke experts, zonder de indruk te wekken dat zij daadwerkelijk aan de dienst deelnemen. De opschorting van "Expert Review" zou daarom een keerpunt kunnen betekenen in de manier waarop ontwikkelaars van AI-tools hun functies ontwerpen. Voor bedrijven in de sector wordt de kwestie van vertegenwoordiging en toestemming van makers nu een steeds gevoeliger onderwerp.