Grammarly a fost obligată să elimine funcția de inteligență artificială după furia scriitorilor și cercetătorilor

De câteva luni, asistenții bazați pe inteligență artificială adaugă numeroase funcții menite să **îmbunătățească scrierea**, fie că este vorba de corectarea gramaticală, sugerarea de reformulări sau propunerea de idei. Însă aceste inovații pot provoca uneori reacții puternice…

Într-adevăr, exact asta s-a întâmplat cu Grammarly, **unul dintre cei mai utilizați asistenți de scriere din lume**. Compania a trebuit recent să dezactiveze o funcție de inteligență artificială numită „Expert Review”, după un val de critici din partea scriitorilor, jurnaliștilor și cercetătorilor ale căror nume erau folosite de instrument fără permisiune.

O inteligență artificială care imita sfaturile unor oameni reali

Funcția nu mai este accesibilă – Sursă: Grammarly

Mai exact, funcția „Expert Review” a fost introdusă pentru a ajuta utilizatorii să își îmbunătățească scrierea. Instrumentul oferea comentarii și sugestii de scriere prezentate ca fiind inspirate de experți în domeniul relevant. Acești „experți” puteau fi autori celebri, oameni de știință sau jurnaliști. În unele cazuri, IA a prezentat chiar și remarci presupuse a unor personalități precum romancieri de succes, academicieni sau specialiști în tehnologie. Problema, identificată rapid de utilizatori, a fost că aceste persoane nu și-au dat consimțământul să apară în instrument. Numele scriitorilor sau cercetătorilor, uneori decedați, au fost astfel asociate cu comentarii generate automat de un model de IA.

O controversă care a dus la o suspendare rapidă

După cum a relatat Wired, în fața criticilor, reacția a fost rapidă. Unii autori au denunțat utilizarea abuzivă a identităților lor, în timp ce jurnaliștii și academicienii au considerat că instrumentul ar putea crea iluzia de aprobare sau colaborare acolo unde aceasta nu exista. Jurnalista americană Julia Angwin a intentat chiar și un proces colectiv împotriva companiei, argumentând că utilizarea numelor reale fără autorizație ar putea constitui furt de identitate. Între timp, Shishir Mehrotra, CEO-ul Superhuman, compania care deține acum Grammarly, a anunțat suspendarea funcției. Într-un mesaj postat pe LinkedIn, acesta recunoaște că criticile formulate de experți au fost legitime și că firma trebuie să își revizuiască abordarea.

Compania explică acum că dorește să regândească funcția pentru a permite experților să controleze modul în care numele sau munca lor ar putea fi reprezentate sau chiar să refuze complet această utilizare.

Un nou episod în dezbaterea din jurul inteligenței artificiale generative

Această controversă ilustrează tensiunile crescânde din jurul modelelor de inteligență artificială generativă, unde multe instrumente se bazează pe analiza unor seturi vaste de date de pe web, acest lucru ceea ce ridică în mod regulat întrebări legate de consimțământ, drepturi de autor sau utilizarea identităților persoanelor publice.

În cazul Grammarly, situația evidențiază dificultatea de a oferi funcții inspirate de experți umani **fără a da impresia că aceștia participă efectiv la serviciu**.

Suspendarea „Expert Review” **ar putea marca astfel un punct de cotitură în modul în care dezvoltatorii de instrumente IA își proiectează funcțiile, atât de mult încât pentru companiile din sector, **problema reprezentării și consimțământului** creatorilor devine acum un subiect din ce în ce mai sensibil…