চরিত্র.এই লাইফেলাইক চ্যাটবট তৈরি করতে একটি এআই ভিডিও মডেল অবতারফেক্স উন্মোচন করে

এই ধরণের প্রযুক্তিটি কীভাবে অপব্যবহারের জন্য এই ধরণের প্রযুক্তিটি উপার্জন করতে পারে তা অবিলম্বে স্পষ্টভাবে প্রমাণিত হয়-ব্যবহারকারীরা সেলিব্রিটিদের বা তারা বাস্তব জীবনে পরিচিত লোকদের ফটোগুলি আপলোড করতে পারে এবং বাস্তবসম্মত চেহারার ভিডিও তৈরি করতে পারে যেখানে তারা করে বা কিছু মারাত্মক কিছু বলতে পারে। দৃ inc ়প্রত্যয়ী ডিপফেকগুলি তৈরি করার প্রযুক্তিটি ইতিমধ্যে বিদ্যমান, তবে এটিকে চরিত্রের মতো জনপ্রিয় ভোক্তা পণ্যগুলিতে অন্তর্ভুক্ত করা I

আমরা মন্তব্যের জন্য চরিত্র.এইতে পৌঁছেছি।

চরিত্র.এ ইতিমধ্যে এর প্ল্যাটফর্মে সুরক্ষার সাথে সমস্যার মুখোমুখি হচ্ছে। পিতামাতারা তার চ্যাটবটস অভিযোগ করে সংস্থার বিরুদ্ধে মামলা দায়ের করেছেন তাদের বাচ্চাদের উত্সাহিত আত্ম-ক্ষতি করা, নিজেকে হত্যা করা, বা তাদের পিতামাতাকে হত্যা করা।

একটি ক্ষেত্রে, একটি চৌদ্দ বছর বয়সী ছেলে আত্মহত্যা করে মারা গিয়েছিল যখন তিনি একটি “গেম অফ থ্রোনস” চরিত্রের উপর ভিত্তি করে চরিত্রের উপর একটি এআই বটের সাথে একটি আবেগপ্রবণ সম্পর্ক গড়ে তুলেছিলেন বলে জানা গেছে। তাঁর মৃত্যুর অল্প সময়ের আগে, তিনি আত্মহত্যার চিন্তাভাবনা করার বিষয়ে এআইয়ের কাছে উন্মুক্ত করেছিলেন, এবং এআই তাকে এই আইনটি অনুসরণ করতে উত্সাহিত করেছিল, আদালতের ফাইলিং অনুসারে।

এগুলি চরম উদাহরণ, তবে তারা কেবল পাঠ্য বার্তাগুলির মাধ্যমে লোকেরা কীভাবে আবেগগতভাবে এআই চ্যাটবট দ্বারা চালিত হতে পারে তা দেখাতে যায়। ভিডিও অন্তর্ভুক্তির সাথে, এই চরিত্রগুলির সাথে লোকেরা যে সম্পর্কগুলি রাখে তা আরও বাস্তববাদী বোধ করতে পারে।

চরিত্র.এই পিতামাতার নিয়ন্ত্রণ এবং অতিরিক্ত সুরক্ষার ব্যবস্থা তৈরি করে এর বিরুদ্ধে অভিযোগের প্রতিক্রিয়া জানিয়েছে, তবে যে কোনও অ্যাপ্লিকেশন হিসাবে, নিয়ন্ত্রণগুলি কেবল তখনই কার্যকর হয় যখন সেগুলি আসলে ব্যবহৃত হয়। প্রায়শই, বাচ্চারা তাদের পিতামাতারা এমনভাবে প্রযুক্তি ব্যবহার করে যা তাদের বাবা -মা জানেন না।