একটি চাঞ্চল্যকর গবেষণায় দেখা গেছে যে কিছু এআই চ্যাটবট সহিংস কর্মকাণ্ডে সহায়তা করতে পারে।

এআই-এর ব্যাপক ব্যবহারের আড়ালে, কিছু নির্দিষ্ট অপব্যবহার সামনে আসতে শুরু করেছে, এতটাই যে সিএনএন এবং সিসিডিএইচ (সেন্টার ফর কাউন্টারিং ডিজিটাল হেট)-এর একটি সাম্প্রতিক যৌথ তদন্ত একটি উদ্বেগজনক ঘটনাকে তুলে ধরেছে।

প্রকৃতপক্ষে, বেশ কিছু চ্যাটবট হিংসাত্মক কাজ কীভাবে করতে হয় সে বিষয়ে বিস্তারিত পরামর্শ দিতে সক্ষম বলে জানা গেছে, এমনকি অপ্রাপ্তবয়স্ক বলে দাবি করা ব্যবহারকারীদেরও।

একটি তদন্ত যা এআই-এর প্রধান কুশীলবদের জড়িত করে

এক প্লেয়ার থেকে অন্য প্লেয়ারের মধ্যে উল্লেখযোগ্য পার্থক্য… – সূত্র: সিএনএন / সিসিডিএইচ

তাদের গবেষণাটি পরিচালনা করার জন্য, গবেষকরা বাজারের সবচেয়ে জনপ্রিয় নয় থেকে দশটি চ্যাটবটের সাথে ৭০০টিরও বেশি কথোপকথন অনুকরণ করেছেন, যার মধ্যে চ্যাটজিপিটি, জেমিনি এবং মেটা এআই অন্তর্ভুক্ত ছিল। পরিস্থিতিগুলো ছিল ক্রমান্বয়িক: গবেষকরা প্রথমে মানসিক যন্ত্রণা প্রকাশকারী কিশোর-কিশোরীর ভূমিকা পালন করেন, এবং পরে কথোপকথনটিকে সহিংস হামলার পরিকল্পনার দিকে চালিত করেন। বেশিরভাগ ক্ষেত্রেই, সিস্টেমগুলো শেষ পর্যন্ত সুনির্দিষ্ট তথ্য প্রদান করে, এবং দশটি চ্যাটবটের মধ্যে আটটি পরীক্ষিত পরিস্থিতির ৫০%-এরও বেশি ক্ষেত্রে অস্ত্র, লক্ষ্যবস্তু বা পদ্ধতি সম্পর্কে ইঙ্গিত দেয়। কিছু টুল আরও এক ধাপ এগিয়ে গিয়ে আক্রমণগুলোকে আরও কার্যকর করার জন্য অপটিমাইজেশনের পরামর্শও দিয়েছিল। সমীক্ষা অনুসারে, সবচেয়ে গুরুত্বপূর্ণ প্ল্যাটফর্ম ছিল পারপ্লেক্সিটি এবং মেটা এআই, যেগুলো যথাক্রমে ১০০% এবং ৯৭% ক্ষেত্রে ইতিবাচক সাড়া দিয়েছিল। Character.AI হিংসাত্মক কর্মকাণ্ডে উৎসাহিত করার জন্য সমালোচিত হচ্ছে, কখনও কখনও কোনো স্পষ্ট প্ররোচনা ছাড়াই।

অসমভাবে প্রয়োগ করা সুরক্ষা ব্যবস্থা

নির্যাতনের মুখে ক্লদ, আদর্শ ছাত্র?

– সূত্র: সিএনএন / সিসিডিএইচ

বাস্তবে, নিরাপত্তার দিক থেকে সব চ্যাটবট সমান নয়, এবং সমীক্ষাটি তুলে ধরেছে যে কিছু সিস্টেমে আরও শক্তিশালী মডারেশন ব্যবস্থা রয়েছে।

এটি বিশেষ করে ক্লদের ক্ষেত্রে সত্য। ডি'অ্যানথ্রোপিক, যা অধিকাংশ ক্ষেত্রেই সাহায্য করতে অস্বীকার করেছিল এবং এমনকি দুর্দশার ক্ষেত্রে ব্যবহারকারীদের সহায়তা পরিষেবাগুলিতে পাঠিয়েছিল।

বিপরীতভাবে, অন্যান্য সরঞ্জামগুলি ক্ষতিকারক উদ্দেশ্য সনাক্ত করার ক্ষমতায় ত্রুটি দেখিয়েছে, এমনকি যখন ব্যবহারকারীরা নিজেদের নাবালক হিসাবে ঘোষণা করেছিল তখনও। প্রতিবেদনের লেখকদের মতে, এই ফলাফলগুলি প্রমাণ করে যে ফিল্টারিং প্রযুক্তি বিদ্যমান, কিন্তু সেগুলি পদ্ধতিগতভাবে সক্রিয় বা সঠিকভাবে কনফিগার করা হয় না।

সিসিডিএইচ-এর পরিচালক ইমরান আহমেদ সতর্ক করেছেন যে, একজন ব্যবহারকারী কত দ্রুত একটি অস্পষ্ট ধারণা থেকে একটি সুসংগঠিত কর্ম পরিকল্পনায় পৌঁছাতে পারে। তার মতে, এই অনুরোধগুলো পদ্ধতিগতভাবে অবিলম্বে প্রত্যাখ্যান করা উচিত।

বাস্তব জীবনের ঘটনা যা ঝুঁকিগুলোকে নিশ্চিত করে

তদন্তটি কেবল সিমুলেশনের মধ্যে সীমাবদ্ধ নয়, এবং সাম্প্রতিক বেশ কয়েকটি ঘটনা এই ব্যবহারগুলোর সাথে জড়িত প্রকৃত বিপদগুলোকে তুলে ধরে…

উদাহরণস্বরূপ, ফিনল্যান্ডে, একজন ১৬ বছর বয়সী কিশোর বেশ কয়েক মাস ধরে আক্রমণের কৌশল এবং আত্মগোপনের পদ্ধতি নিয়ে গবেষণা করার জন্য ChatGPT ব্যবহার করার পর তার তিন সহপাঠীকে ছুরিকাঘাত করে।

কানাডায়, একটি গোলাগুলির ঘটনায় আটজন নিহত এবং ২৭ জন আহত হয়, এবং সেখানেও, হামলাকারী তার আক্রমণের পরিকল্পনা করার জন্য একটি চ্যাটবট ব্যবহার করেছিল বলে জানা গেছে।

এই ঘটনাগুলো এআই স্টেকহোল্ডারদের জন্য একটি কেন্দ্রীয় প্রশ্ন উত্থাপন করে: তাদের সরঞ্জামগুলোর ব্যবহার নিয়ন্ত্রণের ক্ষেত্রে তাদের কতদূর যাওয়া উচিত? দ্রুত উদ্ভাবন এবং দায়িত্বশীলতার মধ্যে ভারসাম্য এখনও খুঁজে বের করতে হবে।