ডিপফেকস: এআই-জেনারেটেড কন্টেন্টের বিরুদ্ধে লড়াইয়ে ত্রুটির জন্য মেটা সমালোচিত

এআই সোশ্যাল মিডিয়ায় তথ্যের প্রবাহকে এতটাই গভীরভাবে রূপান্তরিত করছে যে কৃত্রিমভাবে তৈরি ছবি এবং ভিডিওগুলি বাস্তব জীবনের পরিস্থিতিগুলিকে বিরক্তিকর নির্ভুলতার সাথে অনুকরণ করতে পারে।

এই বিবর্তনের মুখোমুখি হয়ে, ওয়েব জায়ান্টরা তাদের মডারেশন সিস্টেমগুলিকে খাপ খাইয়ে নেওয়ার চেষ্টা করছে। কিন্তু মেটার ক্ষেত্রে, এই প্রচেষ্টাগুলি এখনও বিশ্বাসযোগ্য বলে মনে হচ্ছে না।

প্রকৃতপক্ষে, কন্টেন্ট মডারেশন সিদ্ধান্তগুলি মূল্যায়নের জন্য দায়ী কোম্পানির ওভারসাইট বোর্ড ফেসবুক, ইনস্টাগ্রাম এবং থ্রেডে ডিপফেক পরিচালনায় বেশ কয়েকটি ত্রুটি তুলে ধরেছে। অনলাইন রিপোর্ট অনুসারে, বর্তমান প্রক্রিয়াগুলি AI দ্বারা তৈরি বিভ্রান্তিকর সামগ্রীর বিস্তার সীমিত করতে অপর্যাপ্ত...

ডিপফেকের বিরুদ্ধে সনাক্তকরণকে খুব সীমিত বলে মনে করা হচ্ছে

ইস্রায়েলে ভবনগুলিতে ক্ষতির অভিযোগ দেখানো একটি AI-উত্পাদিত ভিডিও সহ ভিডিওগুলি পরীক্ষা করার পরে, সংস্থাটি বিশ্বাস করে যে মেটা দ্বারা ব্যবহৃত সনাক্তকরণ পদ্ধতিগুলি "যথেষ্ট শক্তিশালী বা ব্যাপক নয়"।।

গত বছর ইসরায়েল এবং ইরানের মধ্যে সংঘর্ষের সময় প্রকাশিত এই ভিডিও সম্পর্কে, প্ল্যাটফর্মটি প্রথমে এটি অনলাইনে রেখেছিল। বোর্ড শেষ পর্যন্ত এই সিদ্ধান্তটি উল্টে দেওয়ার এবং মেটাকে তার বর্তমান কৌশলের সীমাবদ্ধতা সম্পর্কে সতর্ক করার সিদ্ধান্ত নিয়েছে। চিহ্নিত সমস্যাগুলির মধ্যে একটি হল কন্টেন্ট নির্মাতাদের দ্বারা স্ব-প্রতিবেদনের উপর অত্যধিক নির্ভরতা। বাস্তবে, প্ল্যাটফর্মগুলি প্রায়শই ব্যবহারকারীদের উপর নির্ভর করে যে তারা কোনও ছবি বা ভিডিও কৃত্রিম বুদ্ধিমত্তা দ্বারা তৈরি করা হয়েছে কিনা তা রিপোর্ট করবে। সংগঠিত বিভ্রান্তিমূলক প্রচারণার মুখে এই পদ্ধতিটি অবাস্তব বলে বিবেচিত হয়। কন্টেন্টের বহু-প্ল্যাটফর্ম সঞ্চালনের কারণে পরিস্থিতি আরও জটিল হয়ে ওঠে, যেমনটি অধ্যয়ন করা হয়েছে, ভিডিওটি প্রথমে TikTok-এ প্রকাশিত হয়েছিল এবং তারপরে Facebook, Instagram এবং X-এ শেয়ার করা হয়েছিল, যা মডারেশনকে আরও কঠিন করে তুলেছে। ওভারসাইট বোর্ড মডারেশনের পুনর্গঠনের আহ্বান জানিয়েছে। এই সীমাবদ্ধতাগুলির পরিপ্রেক্ষিতে, ওভারসাইট বোর্ড মেটাকে AI-সম্পর্কিত মডারেশনের পদ্ধতি পুঙ্খানুপুঙ্খভাবে পর্যালোচনা করতে বলছে। এই লক্ষ্যে, স্বচ্ছতা এবং সিন্থেটিক কন্টেন্ট সনাক্তকরণ উন্নত করার জন্য বেশ কয়েকটি উপায় অনুসন্ধান করা হচ্ছে। সুপারিশগুলির মধ্যে রয়েছে মিডিয়া প্রোভেন্যান্স স্ট্যান্ডার্ডের বিস্তৃত স্থাপনা, যেমন C2PA (কন্টেন্ট ক্রেডেনশিয়াল) সিস্টেম, যা একটি ডিজিটাল ফাইলের উৎপত্তি সনাক্ত করার জন্য ডিজাইন করা হয়েছে। এই ধরণের প্রযুক্তি ইন্টারনেট ব্যবহারকারীদের স্পষ্টভাবে নির্দেশ করবে যে কোনও ছবি বা ভিডিও AI দ্বারা তৈরি বা পরিবর্তিত হয়েছে কিনা। কাউন্সিল মেটাকে আরও কার্যকর সনাক্তকরণ সরঞ্জাম তৈরি করতে এবং AI-উত্পাদিত কন্টেন্টের লেবেলিংকে সাধারণীকরণ করতে বলে। লক্ষ্য হলো এই তথ্যকে বৃহৎ পরিসরে দৃশ্যমান করা, যাতে ব্যবহারকারীরা আরও সহজেই বিভ্রান্তিকর মিডিয়া সনাক্ত করতে পারেন। AI-উত্পাদিত কন্টেন্টের জন্য নিবেদিত একটি পৃথক কমিউনিটি স্ট্যান্ডার্ড তৈরিরও অনুরোধ করা হচ্ছে, বিশেষ করে যেহেতু এই ধরনের নিয়ম ডিপফেকগুলির আরও ভাল নিয়ন্ত্রণ এবং বিভ্রান্তিকর কন্টেন্ট প্রচারিত হলে দ্রুত প্রতিক্রিয়া জানাতে সাহায্য করবে। যদিও এই সুপারিশগুলি ভুল তথ্য এবং প্ল্যাটফর্মের ভূমিকা ঘিরে ক্রমবর্ধমান উত্তেজনার মধ্যে এসেছে, কারণ AI সরঞ্জামগুলি আরও অ্যাক্সেসযোগ্য হয়ে উঠছে, তবুও অনলাইন তথ্যের নির্ভরযোগ্যতার জন্য সামাজিক নেটওয়ার্কগুলির সত্য থেকে মিথ্যা পার্থক্য করার ক্ষমতা একটি প্রধান সমস্যা হয়ে উঠছে।