চরিত্র.এআই: কিশোরদের জন্য আর কোনো চ্যাট নয়৷

Character.AI, একটি জনপ্রিয় চ্যাটবট প্ল্যাটফর্ম যেখানে ব্যবহারকারীরা বিভিন্ন ব্যক্তিত্বের সাথে ভূমিকা পালন করে, আর 18 বছরের কম বয়সী অ্যাকাউন্টধারীদের চ্যাটবটগুলির সাথে খোলামেলা কথোপকথনের অনুমতি দেবে না, কোম্পানি ঘোষণা করেছে বুধবার। অপ্রাপ্তবয়স্করা যাতে প্রাপ্তবয়স্কদের অ্যাকাউন্ট খুলতে না পারে তা নিশ্চিত করতে এটি বয়সের নিশ্চয়তা কৌশলগুলির উপর নির্ভর করা শুরু করবে।

Character.AI এর মাত্র ছয় সপ্তাহ পরে নাটকীয় পরিবর্তন আসে ফেডারেল আদালতে আবার মামলা কিশোর-কিশোরীদের একাধিক পিতা-মাতা যারা আত্মহত্যার মাধ্যমে মারা গেছে বা যৌন নির্যাতন সহ গুরুতর ক্ষতির সম্মুখীন হয়েছে; অভিভাবকরা দাবি করেন যে তাদের বাচ্চাদের প্ল্যাটফর্মের ব্যবহার ক্ষতির জন্য দায়ী। 2024 সালের অক্টোবরে, মেগান গার্সিয়া তার ছেলের আত্মহত্যার জন্য কোম্পানিকে দায়ী করার জন্য একটি অন্যায় মৃত্যুর মামলা দায়ের করেন, যুক্তি দিয়ে যে এর পণ্যটি বিপজ্জনকভাবে ত্রুটিপূর্ণ।

অনলাইন নিরাপত্তা অ্যাডভোকেটরা সম্প্রতি Character.AI কে কিশোরদের জন্য অনিরাপদ ঘোষণা করেছে প্ল্যাটফর্ম পরীক্ষা করা হয়েছে এই বসন্তে এবং সহিংসতা এবং যৌন শোষণ সহ শত শত ক্ষতিকারক মিথস্ক্রিয়া লগ করেছে।

গত বছরে এটি আইনী চাপের সম্মুখীন হওয়ায়, Character.AI পিতামাতার নিয়ন্ত্রণ প্রয়োগ করেছে এবং বিষয়বস্তু ফিল্টার কিশোর-কিশোরীদের নিরাপত্তা উন্নত করার প্রয়াসে।

Mashable-এর সাথে একটি সাক্ষাত্কারে, Character.AI-এর সিইও করণদীপ আনন্দ নতুন নীতিটিকে “সাহসী” বলে বর্ণনা করেছেন এবং অস্বীকার করেছেন যে কিশোর-কিশোরীদের সাথে খোলামেলা চ্যাটবট কথোপকথন কমানো নির্দিষ্ট নিরাপত্তা উদ্বেগের প্রতিক্রিয়া।

পরিবর্তে, আনন্দ কিশোর-কিশোরীদের উপর চ্যাটবট ব্যস্ততার দীর্ঘমেয়াদী প্রভাব সম্পর্কে বৃহত্তর অনুত্তরিত প্রশ্নের আলোকে সিদ্ধান্তটিকে “সঠিক কাজটি করা” হিসাবে তৈরি করেছেন। আনন্দ উল্লেখ করেছেন OpenAI এর সাম্প্রতিক স্বীকৃতিএকজন কিশোর ব্যবহারকারীর আত্মহত্যার পরিপ্রেক্ষিতে, দীর্ঘ কথোপকথন অনির্দেশ্য হয়ে উঠতে পারে।

আনন্দ ক্যারেক্টার.এআই-এর নতুন নীতিকে স্ট্যান্ডার্ড-সেটিং হিসাবে কাস্ট করেছেন: “আশা করি এটি সবাইকে এমন একটি পথে সেট করবে যেখানে AI সকলের জন্য নিরাপদ হতে পারে।”

তিনি যোগ করেছেন যে ব্যবহারকারীর প্রতিক্রিয়া নির্বিশেষে কোম্পানির সিদ্ধান্ত পরিবর্তন হবে না।

এখন কিশোরদের জন্য Character.AI কেমন হবে?

ক ব্লগ পোস্ট ঘোষণা নতুন নীতি, Character.AI তার কিশোর ব্যবহারকারীদের কাছে ক্ষমা চেয়েছে।

Mashable ট্রেন্ড রিপোর্ট

“আমরা ওপেন-এন্ডেড ক্যারেক্টার চ্যাট সরানোর এই পদক্ষেপটি হালকাভাবে নিই না — তবে আমরা মনে করি যে কিশোর-কিশোরীরা কীভাবে এই নতুন প্রযুক্তির সাথে ইন্টারঅ্যাক্ট করে সে সম্পর্কে উত্থাপিত প্রশ্নগুলির প্রেক্ষিতে এটি করা সঠিক জিনিস,” ব্লগ পোস্টে বলা হয়েছে৷

বর্তমানে, 13 থেকে 17 বছর বয়সী ব্যবহারকারীরা প্ল্যাটফর্মে চ্যাটবট দিয়ে বার্তা পাঠাতে পারেন। এই বৈশিষ্ট্যটি 25 নভেম্বরের পরে আর বিদ্যমান থাকবে না। ততক্ষণ পর্যন্ত, অপ্রাপ্তবয়স্কদের জন্য নিবন্ধিত অ্যাকাউন্টগুলি প্রতিদিন দুই ঘন্টা থেকে শুরু করে সময়সীমা অনুভব করবে। ওপেন-এন্ডেড চ্যাট থেকে ট্রানজিশন যত কাছে আসবে ততই সেই সীমা কমে যাবে।

যদিও ওপেন-এন্ডেড চ্যাটগুলি অদৃশ্য হয়ে যাবে, পৃথক চ্যাটবটগুলির সাথে কিশোরদের চ্যাটের ইতিহাসগুলি কৌশলে থাকবে৷ আনন্দ বলেছিলেন যে ব্যবহারকারীরা তাদের প্রিয় চ্যাটবটগুলির সাথে সংক্ষিপ্ত অডিও এবং ভিডিও গল্প তৈরি করতে সেই উপাদানটিতে আঁকতে পারেন। আগামী কয়েক মাসের মধ্যে, Character.AI গেমিংয়ের মতো নতুন বৈশিষ্ট্যগুলিও অন্বেষণ করবে। আনন্দ বিশ্বাস করেন যে খোলামেলা চ্যাট ছাড়া “AI বিনোদন” এর উপর জোর দেওয়া প্ল্যাটফর্মে কিশোরদের সৃজনশীল আগ্রহকে সন্তুষ্ট করবে।

“তারা ভূমিকা পালন করতে আসছে, এবং তারা বিনোদন পেতে আসছে,” আনন্দ বলেছিলেন।

তিনি জোর দিয়েছিলেন যে সংবেদনশীল বা নিষিদ্ধ বিষয়বস্তু সহ বিদ্যমান চ্যাট ইতিহাস যা আগে ফিল্টার দ্বারা সনাক্ত করা যায়নি, যেমন সহিংসতা বা যৌনতা, নতুন অডিও বা ভিডিও গল্পগুলিতে এটির পথ খুঁজে পাবে না।

একটি Character.AI মুখপাত্র Mashable কে বলেছেন যে কোম্পানির ট্রাস্ট এবং নিরাপত্তা দল হিট ইনিশিয়েটিভ দ্বারা সেপ্টেম্বরে সহ-প্রকাশিত একটি প্রতিবেদনের ফলাফল পর্যালোচনা করেছে যা অপ্রাপ্তবয়স্কদের জন্য নিবন্ধিত পরীক্ষার অ্যাকাউন্টের সাথে ক্ষতিকারক চ্যাটবট এক্সচেঞ্জের নথিভুক্ত করেছে। দলটি উপসংহারে পৌঁছেছে যে কিছু কথোপকথন প্ল্যাটফর্মের বিষয়বস্তুর নির্দেশিকা লঙ্ঘন করেছে যখন অন্যরা তা করেনি। এটি রিপোর্টের ফলাফলের প্রতিলিপি করার চেষ্টাও করেছিল।

“এই ফলাফলগুলির উপর ভিত্তি করে, আমরা আমাদের কিছু শ্রেণীবিভাগকে পরিমার্জিত করেছি, আমাদের লক্ষ্যের সাথে সামঞ্জস্য রেখে যাতে ব্যবহারকারীরা আমাদের প্ল্যাটফর্মে একটি নিরাপদ এবং আকর্ষক অভিজ্ঞতা লাভ করতে পারে,” মুখপাত্র বলেছেন।

যাই হোক না কেন, Character.AI অবিলম্বে বয়সের নিশ্চয়তা চালু করা শুরু করবে। এটি কার্যকর হতে এক মাস সময় লাগবে এবং এতে একাধিক স্তর থাকবে৷ আনন্দ বলেছিলেন যে কোম্পানিটি তাদের নিজস্ব আশ্বাসের মডেলগুলি অভ্যন্তরীণভাবে তৈরি করছে তবে এটি প্রযুক্তিতে তৃতীয় পক্ষের কোম্পানির সাথে অংশীদার হবে।

নতুন এবং বিদ্যমান ব্যবহারকারীদের বয়স নির্ভুলভাবে সনাক্ত করতে এটি প্রাসঙ্গিক ডেটা এবং সংকেতগুলিও ব্যবহার করবে, যেমন ব্যবহারকারীর অন্য প্ল্যাটফর্মে 18-এর বেশি বয়সের একটি যাচাইকৃত অ্যাকাউন্ট আছে কিনা। পরিশেষে, যদি একজন ব্যবহারকারী Character.AI-এর বয়স নির্ধারণকে চ্যালেঞ্জ করতে চান, তাহলে তাদের কাছে তৃতীয় পক্ষের মাধ্যমে যাচাইকরণের সুযোগ থাকবে, যেটি রাষ্ট্র-জারি করা শনাক্তকরণ সহ সংবেদনশীল নথি এবং ডেটা পরিচালনা করবে।

অবশেষে, নতুন নীতির অংশ হিসাবে, Character.AI AI সেফটি ল্যাব নামে একটি স্বাধীন অলাভজনক সংস্থা প্রতিষ্ঠা ও অর্থায়ন করছে। ল্যাবটি “অভিনব নিরাপত্তা কৌশল” এর উপর ফোকাস করবে।

“[W]e শিল্প বিশেষজ্ঞ এবং অন্যান্য অংশীদারদের আনতে চাই যাতে AI নিরাপদ থাকে, বিশেষ করে AI বিনোদনের ক্ষেত্রে,” আনন্দ বলেন।