[ad_1]
ফেসবুক এবং ইনস্টাগ্রামের মতো মেটা প্ল্যাটফর্মগুলিতে উপলব্ধ এআই চ্যাটবটগুলি অপ্রাপ্ত বয়স্ক ব্যবহারকারীদের সাথে যৌন সুস্পষ্ট কথোপকথনে জড়িত থাকতে পারে, অনুসারে ওয়াল স্ট্রিট জার্নালে একটি নতুন প্রতিবেদন।
ডাব্লুএসজে বলেছে যে সংস্থাটি নাবালিকাদের সুরক্ষার জন্য যথেষ্ট পরিমাণে কাজ করছে কিনা সে সম্পর্কে অভ্যন্তরীণ উদ্বেগগুলি সম্পর্কে জানার পরে, এটি সরকারী মেটা এআই চ্যাটবোট উভয়ের সাথে কয়েকশো কথোপকথন পরিচালনা করার পাশাপাশি মেটা প্ল্যাটফর্মগুলিতে উপলব্ধ ব্যবহারকারী-তৈরি চ্যাটবট উভয়ই ব্যয় করেছিল।
একটি উল্লিখিত কথোপকথনে, অভিনেতা/কুস্তিগীর জন সিনার ভয়েস ব্যবহার করে একটি চ্যাটবট 14 বছরের মেয়ে হিসাবে চিহ্নিত ব্যবহারকারীকে একটি গ্রাফিক যৌন দৃশ্যের বর্ণনা দিয়েছেন। অন্য একটি কথোপকথনে, চ্যাটবট কল্পনা করেছিলেন যে একজন পুলিশ অফিসার 17 বছর বয়সী ভক্তের সাথে সিনাকে ধরার এবং তাকে বলেছিলেন, “জন সিনা, আপনি বিধিবদ্ধ ধর্ষণের জন্য গ্রেপ্তার হয়েছেন।”
একজন মেটা মুখপাত্র ডাব্লুএসজে -র পরীক্ষাকে “এতটা উত্পাদিত যে এটি কেবল ফ্রিঞ্জ নয়, এটি অনুমানমূলক।” সংস্থাটি অনুমান করেছে যে 30 দিনের সময়কালে, যৌন সামগ্রীটি 18 বছরের কম বয়সী ব্যবহারকারীদের সাথে মেটা এআই এবং এআই স্টুডিওর মাধ্যমে ভাগ করা প্রতিক্রিয়াগুলির 0.02% হিসাবে দায়ী।
“তবুও, আমরা এখন আমাদের পণ্যগুলিকে চরম ব্যবহারের ক্ষেত্রে হেরফের করতে ঘন্টা ব্যয় করতে চান এমন অন্যান্য ব্যক্তিদের নিশ্চিত করতে সহায়তা করার জন্য আমরা এখন অতিরিক্ত ব্যবস্থা গ্রহণ করেছি, এর আরও কঠিন সময় থাকতে পারে,” মুখপাত্র বলেছেন।
[ad_2]
