Grammarly buộc phải gỡ bỏ tính năng trí tuệ nhân tạo sau khi vấp phải sự phản đối dữ dội từ các nhà văn và nhà nghiên cứu.

Trong vài tháng qua, các trợ lý AI đã bổ sung nhiều tính năng được thiết kế để cải thiện việc viết, cho dù đó là sửa lỗi ngữ pháp, đề xuất cách diễn đạt lại hay đưa ra ý tưởng. Nhưng những cải tiến này đôi khi có thể gây ra những phản ứng mạnh mẽ…

Thật vậy, đó chính xác là những gì vừa xảy ra với Grammarly, một trong những trợ lý viết được sử dụng rộng rãi nhất trên thế giới. Gần đây, công ty đã phải vô hiệu hóa một tính năng AI có tên là "Đánh giá của Chuyên gia", sau làn sóng chỉ trích từ các nhà văn, nhà báo và nhà nghiên cứu, những người bị công cụ này sử dụng tên mà không được phép.

Một AI bắt chước lời khuyên của người thật

Tính năng này không còn truy cập được – Nguồn: Grammarly

Cụ thể, tính năng "Đánh giá của Chuyên gia" được giới thiệu để giúp người dùng cải thiện khả năng viết. Công cụ này đưa ra các nhận xét và đề xuất viết được trình bày như thể được truyền cảm hứng từ các chuyên gia trong lĩnh vực liên quan. Những "chuyên gia" này có thể là các tác giả, nhà khoa học hoặc nhà báo nổi tiếng. Trong một số trường hợp, AI thậm chí còn đưa ra những nhận xét được cho là từ các nhân vật như tiểu thuyết gia bán chạy nhất, học giả hoặc chuyên gia công nghệ. Vấn đề, nhanh chóng được người dùng phát hiện, là những cá nhân này đã không cho phép xuất hiện trong công cụ. Tên của các nhà văn hoặc nhà nghiên cứu, đôi khi đã qua đời, do đó được liên kết với các bình luận được tạo ra tự động bởi một mô hình AI.

Một tranh cãi dẫn đến việc đình chỉ nhanh chóng

Theo báo cáo của Wired, trước những lời chỉ trích, phản ứng rất nhanh chóng. Một số tác giả lên án việc lạm dụng danh tính của họ, trong khi các nhà báo và học giả cảm thấy công cụ này có thể tạo ra ảo tưởng về sự chứng thực hoặc hợp tác trong khi thực tế không hề tồn tại. Nhà báo người Mỹ Julia Angwin thậm chí đã đệ đơn kiện tập thể chống lại công ty, lập luận rằng việc sử dụng tên thật mà không được phép có thể cấu thành hành vi đánh cắp danh tính. Trong khi đó, Shishir Mehrotra, Giám đốc điều hành của Superhuman, công ty hiện sở hữu Grammarly, đã thông báo tạm ngừng tính năng này. Trong một tin nhắn đăng trên LinkedIn, ông thừa nhận rằng những lời chỉ trích từ các chuyên gia là chính đáng và công ty cần phải xem xét lại cách tiếp cận của mình.

Công ty hiện giải thích rằng họ muốn xem xét lại tính năng này để cho phép các chuyên gia kiểm soát cách tên hoặc công việc của họ được thể hiện, hoặc thậm chí từ chối hoàn toàn việc sử dụng này.

Một diễn biến mới trong cuộc tranh luận xung quanh trí tuệ nhân tạo tạo sinh

Cuộc tranh cãi này minh họa cho những căng thẳng ngày càng gia tăng xung quanh các mô hình trí tuệ nhân tạo tạo sinh, nơi nhiều công cụ dựa vào việc phân tích các tập dữ liệu khổng lồ từ web, điều này Điều này thường xuyên đặt ra các câu hỏi liên quan đến sự đồng ý, bản quyền hoặc việc sử dụng danh tính của người nổi tiếng.

Trong trường hợp của Grammarly, tình huống này làm nổi bật khó khăn trong việc cung cấp các tính năng được lấy cảm hứng từ các chuyên gia con người mà không tạo ấn tượng rằng họ thực sự đang tham gia vào dịch vụ.

Việc tạm dừng tính năng "Đánh giá của chuyên gia"do đó có thể đánh dấu một bước ngoặt trong cách các nhà phát triển công cụ AI thiết kế các tính năng của họ, đến mức đối với các công ty trong lĩnh vực này, vấn đề về sự đại diện và sự đồng ý của người sáng tạo hiện đang trở thành một chủ đề ngày càng nhạy cảm…