Grammarly musste KI-Funktion nach Protesten von Autoren und Forschern entfernen.

Seit einigen Monaten erhalten KI-Assistenten immer mehr Funktionen, die das Schreiben verbessern sollen – sei es durch Grammatikkorrekturen, Umformulierungsvorschläge oder Ideenvorschläge. Doch diese Innovationen können mitunter heftige Reaktionen hervorrufen… Genau das ist Grammarly, einem der weltweit meistgenutzten Schreibassistenten, gerade passiert. Das Unternehmen musste kürzlich eine KI-Funktion namens „Expertenbewertung“ deaktivieren, nachdem es eine Welle der Kritik von Autoren, Journalisten und Forschern gegeben hatte, deren Namen ohne ihre Zustimmung von dem Tool verwendet wurden.

Eine KI, die den Rat echter Menschen imitierte

Die Funktion „Expertenbewertung“ war eingeführt worden, um Nutzern bei der Verbesserung ihrer Schreibfähigkeiten zu helfen. Das Tool bot Kommentare und Schreibvorschläge an, die als von Experten des jeweiligen Fachgebiets inspiriert präsentiert wurden. Diese „Experten“ konnten berühmte Autoren, Wissenschaftler, oder Journalisten. In einigen Fällen präsentierte die KI sogar Kommentare, die angeblich von Persönlichkeiten wie Bestsellerautoren, Akademikern oder Technologieexperten stammten. Das Problem, das von Nutzern schnell erkannt wurde, war, dass diese Personen keine Einwilligung zur Verwendung des Tools gegeben hatten. Die Namen von Schriftstellern oder Forschern, teils auch von Verstorbenen, wurden somit mit Kommentaren verknüpft, die automatisch von einem KI-Modell generiert wurden.

Eine Kontroverse, die zu einer schnellen Sperrung führte

Wie Wired berichtete, war die Reaktion auf die Kritik schnell. Einige Autoren prangerten den Missbrauch ihrer Identität an, während Journalisten und Akademiker befürchteten, das Tool könne die Illusion von Unterstützung oder Zusammenarbeit erzeugen, wo keine existierte. Die amerikanische Journalistin Julia Angwin reichte sogar eine Sammelklage gegen das Unternehmen ein. Er argumentierte, dass die Verwendung von Klarnamen ohne Genehmigung Identitätsdiebstahl darstellen könnte. Shishir Mehrotra, CEO von Superhuman, dem Unternehmen, dem Grammarly nun gehört, kündigte unterdessen die Aussetzung der Funktion an. In einer Nachricht auf LinkedIn räumte er ein, dass die Kritik von Experten berechtigt war und das Unternehmen seinen Ansatz überdenken musste.

Das Unternehmen erklärt nun, dass es die Funktion überarbeiten möchte, um Experten die Kontrolle darüber zu geben, wie ihr Name oder ihre Arbeit dargestellt werden, oder diese Verwendung sogar ganz abzulehnen.

Eine neue Episode in der Debatte um generative KI

Dies Die Kontroverse verdeutlicht die wachsenden Spannungen im Zusammenhang mit generativen KI-Modellen. Viele dieser Tools basieren auf der Analyse riesiger Datensätze aus dem Web, was regelmäßig Fragen zu Einwilligung, Urheberrecht oder der Verwendung der Identität von Persönlichkeiten des öffentlichen Lebens aufwirft. Im Fall von Grammarly zeigt sich die Schwierigkeit, von menschlichen Experten inspirierte Funktionen anzubieten, ohne den Eindruck zu erwecken, diese würden aktiv am Service mitwirken. Die Aussetzung der „Expertenprüfung“ könnte daher einen Wendepunkt für die Entwicklung von KI-Tools markieren. Für Unternehmen der Branche wird die Frage der Repräsentation und Einwilligung von Urhebern zunehmend zu einem sensiblen Thema.