Meta đang chuẩn bị một công cụ để phát hiện nội dung AI.

Khi nội dung do AI tạo ra tràn ngập trên web, đạt hơn 50% theo các quan sát gần đây, các gã khổng lồ công nghệ đang bắt đầu thích nghi.

Sau khi đóng góp phần lớn vào việc dân chủ hóa các ứng dụng này, một số công ty hiện đang tìm cách điều chỉnh chúng tốt hơn.

Chính trong bối cảnh này, Meta được cho là đang nghiên cứu một tính năng vẫn còn khá kín đáo, nhưng tính năng này cho thấy các vấn đề hiện tại xung quanh AI tạo sinh…

Một công cụ phát hiện AI được tích hợp trực tiếp vào Meta AI

Theo một số người dùng, Một công cụ có tên gọi “Máy dò AI” đã được phát hiện trong giao diện Meta AI. Tính năng này, hiện vẫn đang trong quá trình phát triển, sẽ cho phép người dùng phân tích nội dung để xác định xem nó có được tạo ra bởi trí tuệ nhân tạo hay không. Những dấu vết đầu tiên đã được TestingCatalog xác định thông qua việc kích hoạt các tính năng nội bộ trong mã ứng dụng, một phương pháp phổ biến để phát hiện các công cụ chưa được công bố. Hiện tại, máy dò chưa hoạt động và mỗi lần nhấp vào tùy chọn đều dẫn đến một trang không hoạt động, cho thấy dự án vẫn đang trong giai đoạn thử nghiệm. Tuy nhiên, dựa trên thông tin hiện có, công cụ này ban đầu có thể tập trung vào phân tích văn bản trước khi mở rộng sang các định dạng khác như hình ảnh, âm thanh hoặc video. Một sự phát triển phù hợp với các khoản đầu tư khổng lồ của Meta vào việc tạo nội dung đa phương tiện…

Một phản ứng trước sự bùng nổ của nội dung tổng hợp?

Sự phát triển này diễn ra trong một bối cảnh đặc biệt, khi trong những tháng gần đây, Meta đã nhân rộng các tính năng AI tạo sinh trên nền tảng của mình, chẳng hạn như việc chuyển đổi ảnh thành câu chuyện gần đây. Thật không may, điều này đã dẫn đến sự bùng nổ của cái mà một số người hiện gọi là "nội dung AI kém chất lượng", nội dung tổng hợp được sản xuất hàng loạt, thường có chất lượng thấp.

Thực tế, nhóm này thậm chí còn đang thử nghiệm các định dạng mới, chẳng hạn như các nguồn cấp dữ liệu trong đó nội dung do AI tạo ra chiếm vị trí trung tâm. Cách tiếp cận này làm thay đổi sâu sắc trải nghiệm người dùng, nhưng cũng đặt ra câu hỏi về độ tin cậy và khả năng đọc hiểu của thông tin được phổ biến.

Trước tình hình này, việc phát triển một công cụ phát hiện AI xuất hiện như một hình thức phản ứng phòng thủ.

Nhưng điều này đặt ra một câu hỏi quan trọng: liệu công cụ này có thể xác định nội dung từ bất kỳ mô hình nào, hay chỉ nội dung được sản xuất bởi hệ sinh thái Meta? Trên thực tế, lựa chọn này sẽ ảnh hưởng trực tiếp đến phạm vi tiếp cận của nó. Hơn nữa, mặc dù chưa có thông báo chính thức nào được đưa ra ở giai đoạn này, sáng kiến này minh họa một xu hướng cơ bản: sau khi đẩy nhanh quá trình sản xuất nội dung thông qua AI, các nền tảng hiện đang tìm cách xác định nó tốt hơn và có khả năng giành lại quyền kiểm soát đối với nó.