Grammarly costretta a rimuovere la funzionalità AI dopo la rabbia di scrittori e ricercatori

Da diversi mesi, gli assistenti di intelligenza artificiale stanno aggiungendo numerose funzionalità progettate per migliorare la scrittura, che si tratti di correggere la grammatica, suggerire riformulazioni o proporre idee. Ma queste innovazioni a volte possono provocare forti reazioni...

In effetti, è esattamente quello che è appena successo a Grammarly, uno degli assistenti di scrittura più utilizzati al mondo. L'azienda ha dovuto recentemente disattivare una funzionalità di intelligenza artificiale chiamata "Expert Review", dopo un'ondata di critiche da parte di scrittori, giornalisti e ricercatori i cui nomi venivano utilizzati dallo strumento senza autorizzazione.

Un'intelligenza artificiale che imitava i consigli di persone reali

La funzionalità non è più accessibile – Fonte: Grammarly

In particolare, la funzionalità "Expert Review" era stata introdotta per aiutare gli utenti a migliorare la propria scrittura. Lo strumento offriva commenti e suggerimenti di scrittura presentati come ispirati da esperti nel settore pertinente. Questi "esperti" potevano essere autori famosi, scienziati o giornalisti. In alcuni casi, l'IA presentava persino commenti apparentemente di personaggi come romanzieri di successo, accademici o esperti di tecnologia. Il problema, subito individuato dagli utenti, era che questi individui non avevano dato il loro consenso a comparire nello strumento. I nomi di scrittori o ricercatori, a volte deceduti, venivano quindi associati a commenti generati automaticamente da un modello di IA.

Una controversia che ha portato a una rapida sospensione

Come riportato da Wired, di fronte alle critiche, la reazione è stata immediata. Alcuni autori hanno denunciato l'uso improprio delle loro identità, mentre giornalisti e accademici ritenevano che lo strumento potesse creare l'illusione di approvazione o collaborazione laddove Non ne esisteva nessuna. La giornalista americana Julia Angwin ha persino intentato una class action contro l'azienda, sostenendo che l'utilizzo di nomi reali senza autorizzazione potrebbe costituire furto d'identità. Nel frattempo, Shishir Mehrotra, CEO di Superhuman, l'azienda che ora possiede Grammarly, ha annunciato la sospensione della funzionalità. In un messaggio pubblicato su LinkedIn, ha riconosciuto che le critiche mosse dagli esperti erano legittime e che l'azienda doveva rivedere il suo approccio.

L'azienda ora spiega di voler ripensare la funzionalità per consentire agli esperti di controllare come il loro nome o il loro lavoro potrebbe essere rappresentato, o addirittura di rifiutarne l'uso. nel complesso.

Un nuovo episodio nel dibattito sull'intelligenza artificiale generativa

Questa controversia illustra le crescenti tensioni che circondano i modelli di intelligenza artificiale generativa, in cui molti strumenti si basano sull'analisi di vasti set di dati dal web, il che solleva regolarmente questioni relative al consenso, al copyright o all'uso dell'identità di personaggi pubblici.

Nel caso di Grammarly, la situazione evidenzia la difficoltà di offrire funzionalità ispirate da esperti umani senza dare l'impressione che stiano effettivamente partecipando al servizio.

La sospensione di "Expert Review" potrebbe quindi segnare una svolta nel modo in cui gli sviluppatori di strumenti di intelligenza artificiale progettano le loro funzionalità, tanto che per le aziende del settore, la questione della rappresentanza e del consenso dei creatori sta diventando un argomento sempre più delicato...