Meta sedang menyiapkan alat untuk mendeteksi konten AI.

Seiring dengan membanjiri web dengan konten yang dihasilkan AI, yang mencapai lebih dari 50% menurut pengamatan terbaru, raksasa teknologi mulai beradaptasi.

Setelah banyak berkontribusi dalam mendemokratisasi penggunaan ini, beberapa pemain kini berupaya untuk mengaturnya dengan lebih baik.

Dalam konteks inilah Meta dilaporkan sedang mengerjakan fitur yang masih dirahasiakan, tetapi fitur tersebut mengungkapkan masalah terkini seputar AI generatif…

Detektor AI yang terintegrasi langsung ke dalam Meta AI

Menurut beberapa pengguna, sebuah alat bernama “AI Detector” telah ditemukan di antarmuka Meta AI. Fitur ini, yang masih dalam pengembangan, memungkinkan pengguna untuk menganalisis konten guna menentukan apakah konten tersebut dihasilkan oleh kecerdasan buatan. Jejak pertama diidentifikasi oleh TestingCatalog melalui aktivasi fitur internal dalam kode aplikasi, praktik umum untuk menemukan alat yang belum diumumkan. Saat ini, detektor tersebut tidak aktif, dan setiap klik pada opsi tersebut mengarah ke halaman yang tidak aktif, yang menunjukkan bahwa proyek tersebut masih dalam tahap pengujian. Namun, berdasarkan informasi yang tersedia, alat ini mungkin awalnya akan fokus pada analisis teks sebelum diperluas ke format lain seperti gambar, audio, atau video. Sebuah perkembangan yang konsisten dengan investasi besar Meta dalam pembuatan konten multimedia…

Sebuah respons terhadap proliferasi konten sintetis?

Perkembangan ini hadir dalam konteks tertentu, di mana dalam beberapa bulan terakhir, Meta telah melipatgandakan fitur AI generatif di platformnya, seperti transformasi foto menjadi cerita baru-baru ini.

Sayangnya, hal ini telah mengakibatkan ledakan dari apa yang sekarang disebut sebagian orang sebagai "sampah AI," konten sintetis yang diproduksi massal dan seringkali berkualitas rendah.

Memang, grup ini bahkan bereksperimen dengan format baru, seperti feed di mana konten yang dihasilkan AI menempati posisi sentral. Pendekatan ini secara mendalam mengubah pengalaman pengguna, tetapi juga menimbulkan pertanyaan tentang keandalan dan keterbacaan informasi yang disebarkan.

Menghadapi situasi ini, pengembangan detektor AI tampak sebagai bentuk respons defensif.

Tetapi ini menimbulkan pertanyaan penting: apakah alat ini akan mampu mengidentifikasi konten dari model apa pun, atau hanya konten yang diproduksi oleh ekosistem Meta? Dalam praktiknya, pilihan ini akan secara langsung memengaruhi jangkauannya. Lebih lanjut, meskipun belum ada pengumuman resmi yang dibuat pada tahap ini, inisiatif ini menggambarkan tren mendasar: setelah mempercepat produksi konten melalui AI, platform sekarang berupaya untuk mengidentifikasinya dengan lebih baik, dan berpotensi mendapatkan kembali kendali atasnya.