ライターや研究者の怒りを受け、GrammarlyはAI機能の削除を余儀なくされた

ここ数ヶ月、AIアシスタントは文法の修正、言い換えの提案、アイデアの提案など、ライティングの質を向上させるための数多くの機能を追加してきました。しかし、こうした革新は時に強い反発を招くこともあります…

まさにそれが、世界で最も広く使われているライティングアシスタントの一つであるGrammarlyに起こったことです。同社は最近、「エキスパートレビュー」と呼ばれるAI機能を無効化せざるを得ませんでした。これは、ツールによって名前が無断で使用されていた作家、ジャーナリスト、研究者からの批判の波を受けたためです。

実在の人物のアドバイスを模倣したAI

この機能はアクセスできなくなりました – 出典: Grammarly

具体的には、「エキスパートレビュー」機能はユーザーの文章力向上を支援するために導入されました。このツールは、関連分野の専門家からヒントを得たコメントや文章の提案を提供していました。 「専門家」とは、著名な作家、科学者、ジャーナリストのことを指す場合もありました。場合によっては、AIがベストセラー作家、学者、テクノロジー専門家といった人物の発言を装って提示することさえありました。しかし、ユーザーがすぐに気づいた問題は、これらの人物がツールへの表示に同意していなかったことです。そのため、AIモデルによって自動生成されたコメントには、故人である作家や研究者の名前が関連付けられていたのです。

迅速な停止につながった論争

Wiredが報じたように、批判に対して迅速に反応しました。一部の作家は自分の身元が悪用されたと非難し、ジャーナリストや学者は、このツールが実際には存在しない推薦や協力関係を示唆する発言が横行した。アメリカ人ジャーナリストのジュリア・アングウィン氏は、実名を無断で使用することは個人情報窃盗に当たる可能性があるとして、同社を相手取って集団訴訟を起こした。一方、現在Grammarlyを所有するSuperhumanのCEO、シシル・メロトラ氏は、この機能の停止を発表した。LinkedInに投稿したメッセージの中で、メロトラ氏は専門家による批判は正当なものであり、同社はアプローチを見直す必要があったことを認めている。

同社は現在、専門家が自分の名前や作品の表現方法をコントロールできるように、あるいはこうした使用を完全に拒否してください。

生成AIをめぐる議論の新たなエピソード

この論争は、生成AIモデルをめぐる緊張の高まりを浮き彫りにしています。多くのツールはウェブ上の膨大なデータセットの分析に依存しており、これが同意、著作権、著名人の個人情報の利用に関する疑問を定期的に提起しています。

Grammarlyの場合、この状況は、人間の専門家が考案した機能を、彼らが実際にサービスに参加しているという印象を与えることなく提供することの難しさを浮き彫りにしています。

「専門家レビュー」の停止は、AIツール開発者が機能を設計する方法の転換点となる可能性があり、この分野の企業にとって、クリエイターの表現と同意の問題はますますデリケートな問題になりつつあります…