Grammarly는 작가와 연구자들의 거센 항의 끝에 인공지능 기능을 삭제할 수밖에 없었다.

최근 몇 달 동안 AI 비서들은 문법 교정, 문장 재구성 제안, 아이디어 제시 등 글쓰기를 개선하기 위한 다양한 기능을 추가해 왔습니다. 하지만 이러한 혁신은 때때로 강한 반발을 불러일으키기도 합니다. 실제로 세계에서 가장 널리 사용되는 글쓰기 비서 중 하나인 Grammarly가 바로 그런 상황에 처했습니다. 최근 Grammarly는 작가, 언론인, 연구원들의 이름이 허가 없이 도용되었다는 비판이 쏟아지자 "전문가 검토"라는 AI 기능을 비활성화해야 했습니다.

실제 전문가의 조언을 모방한 AI

특히, "전문가 검토" 기능은 사용자의 글쓰기 실력 향상을 돕기 위해 도입되었습니다. 이 도구는 해당 분야 전문가의 의견을 반영한 듯한 댓글과 글쓰기 제안을 제공했습니다. '전문가'는 유명 작가, 과학자, 언론인일 수 있습니다. 어떤 경우에는 AI가 베스트셀러 소설가, 학자, 기술 전문가와 같은 인물의 의견인 것처럼 제시하기도 했습니다. 사용자들이 빠르게 알아차린 문제는 이러한 사람들이 도구에 등장하는 데 동의하지 않았다는 점입니다. 따라서 때로는 이미 사망한 작가나 연구자의 이름이 AI 모델이 자동으로 생성한 댓글과 연결되었습니다.

빠른 서비스 중단으로 이어진 논란

Wired의 보도에 따르면, 비판에 직면하여 신속한 대응이 이루어졌습니다. 일부 작가들은 자신의 신원 도용을 비난했고, 언론인과 학자들은 이 도구가 존재하지 않는 지지나 협력의 환상을 만들어낼 수 있다고 우려했습니다. 미국 언론인 줄리아 앵윈은 이러한 우려를 표명했습니다. 심지어 실명을 허가 없이 사용하는 것은 신분 도용에 해당할 수 있다며 회사를 상대로 집단 소송까지 제기했습니다. 한편, 현재 Grammarly를 소유하고 있는 Superhuman의 CEO인 시시르 메흐로트라는 해당 기능의 중단을 발표했습니다. 그는 링크드인에 게시한 메시지에서 전문가들의 비판이 정당했으며 회사가 접근 방식을 수정해야 했다는 점을 인정했습니다. 회사는 이제 전문가들이 자신의 이름이나 작품이 어떻게 표현될지 직접 제어하거나 아예 사용을 거부할 수 있도록 해당 기능을 재검토할 계획이라고 밝혔습니다. 생성형 AI

이 논란은 생성형 AI 모델을 둘러싼 긴장감이 고조되고 있음을 보여줍니다. 많은 도구들이 웹상의 방대한 데이터셋 분석에 의존하고 있기 때문에 동의, 저작권, 공인의 신원 사용과 관련된 문제가 끊임없이 제기되고 있습니다.

Grammarly의 경우, 인간 전문가의 의견을 반영한 기능을 제공하면서도 전문가가 실제로 서비스에 참여하는 듯한 인상을 주지 않으려는 어려움이 부각되었습니다.

따라서 "전문가 검토" 기능의 중단은 AI 도구 개발자들이 기능을 설계하는 방식에 있어 중요한 전환점이 될 수 있으며, 업계 기업들에게 있어 창작자의 표현 및 동의 문제는 점점 더 민감한 사안이 되고 있습니다…