ওপেনএআই সাম্প্রতিক মাসগুলোতে তার ফ্ল্যাগশিপ পণ্য, ChatGPT, টিনএজারদের জন্য অনিরাপদ এই উদ্বেগ মোকাবেলায় প্রচণ্ড চাপের সম্মুখীন হয়েছে।
AI চ্যাটবট একাধিক অন্যায় মৃত্যুর মামলার কেন্দ্রবিন্দুতে রয়েছে যে অভিযোগ করে যে এটি কিশোর-কিশোরীদের তাদের নিজের জীবন নিতে প্রশিক্ষিত করেছে বা তাদের আত্মহত্যার অনুভূতিতে যথাযথভাবে সাড়া দেয়নি। একটি পাবলিক সার্ভিস ঘোষণা সম্প্রতি এই ধরনের কিছু বিনিময়কে চিত্রিত করেছে, চ্যাটবটগুলিকে ভয়ঙ্কর মানুষ হিসেবে কল্পনা করে যা শিশুদের ক্ষতি করে৷ OpenAI একটি ক্ষেত্রে অভিযোগ অস্বীকার করেছে – 16 বছর বয়সী অ্যাডাম রেইনের আত্মহত্যার মৃত্যু।
বৃহস্পতিবার, ওপেনএআই তার ক্রমবর্ধমান নিরাপত্তা প্রচেষ্টার উপর একটি ব্লগ পোস্ট প্রকাশ করেছে এবং প্রতিশ্রুতিবদ্ধ “কিশোরদের সুরক্ষাকে প্রথমে রাখতে, এমনকি যখন এটি অন্যান্য লক্ষ্যগুলির সাথে বিরোধ করতে পারে।”
পোস্ট একটি পরিচয় এর মডেল স্পেক আপডেট করুনযা নির্দেশ করে কিভাবে এর AI মডেলের আচরণ করা উচিত। অনূর্ধ্ব-18 ব্যবহারকারীদের জন্য নীতিগুলির একটি নতুন সেট বিশেষভাবে জানাবে যে মডেলগুলি উচ্চ-স্টেকের পরিস্থিতিতে কীভাবে প্রতিক্রিয়া দেখায়।
ChatGPT নির্ভরতা এড়াতে 5টি কৌশল
ওপেনএআই বলেছে যে চ্যাটজিপিটি আপডেট প্রতিরোধ, স্বচ্ছতা এবং প্রাথমিক হস্তক্ষেপকে অগ্রাধিকার দিয়ে 13 থেকে 17 বছর বয়সী ব্যবহারকারীদের জন্য একটি “নিরাপদ, বয়স-উপযুক্ত অভিজ্ঞতা” প্রদান করা উচিত।
“এর অর্থ হল কিশোর-কিশোরীদেরকে আরও শক্তিশালী পাহারী, নিরাপদ বিকল্পের সম্মুখীন হওয়া উচিত এবং কথোপকথনগুলি উচ্চ-ঝুঁকিপূর্ণ অঞ্চলে যাওয়ার সময় বিশ্বস্ত অফলাইন সমর্থন খোঁজার জন্য উত্সাহ দেওয়া উচিত,” পোস্টটি বলে। চ্যাটজিপিটি কিশোর-কিশোরীদেরকে আসন্ন ঝুঁকি প্রদর্শন করার সময় জরুরি পরিষেবা বা সংকট সংস্থানগুলির সাথে যোগাযোগ করার জন্য অনুরোধ করার জন্য ডিজাইন করা হয়েছে।
Mashable হালকা গতি
যখন ব্যবহারকারীরা অনূর্ধ্ব-18 হিসাবে সাইন ইন করেন, তখন কোম্পানির মতে, আত্ম-ক্ষতি, আত্মহত্যা, রোমান্টিক বা যৌন ভূমিকা পালনের মতো বিষয়গুলি নিয়ে আলোচনা করার সময় বা বিপজ্জনক আচরণ সম্পর্কে গোপনীয়তা রাখার সময় সুরক্ষার জন্য ChatGPT-কে অতিরিক্ত যত্ন নেওয়া উচিত৷
পোস্ট অনুসারে, আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশন ওপেনএআই-কে অনূর্ধ্ব-18 নীতির প্রাথমিক খসড়ার বিষয়ে প্রতিক্রিয়া প্রদান করেছে।
আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশনের সিইও ডঃ আর্থার সি. ইভান্স জুনিয়র পোস্টে বলেছেন, “শিশু এবং কিশোর-কিশোরীরা AI টুলগুলি থেকে উপকৃত হতে পারে যদি তারা মানুষের মিথস্ক্রিয়াগুলির সাথে ভারসাম্যপূর্ণ হয় যা বিজ্ঞান দেখায় যে সামাজিক, মনস্তাত্ত্বিক, আচরণগত এবং এমনকি জৈবিক বিকাশের জন্য গুরুত্বপূর্ণ।”
ওপেনএআই কিশোর এবং বাবা-মাকে দুটি নতুন অফার করছে বিশেষজ্ঞ-পরীক্ষিত এআই সাক্ষরতা নির্দেশিকা. কোম্পানি বলেছে যে এটি ChatGPT গ্রাহক পরিকল্পনা সহ ব্যবহারকারীদের জন্য বয়স-পূর্বাভাস মডেল বাস্তবায়নের প্রাথমিক পর্যায়ে রয়েছে।
শিশু নিরাপত্তা এবং মানসিক স্বাস্থ্য বিশেষজ্ঞরা সম্প্রতি এআই চ্যাটবটকে কিশোর-কিশোরীদের মানসিক স্বাস্থ্য নিয়ে আলোচনার জন্য অনিরাপদ বলে ঘোষণা করেছেন। গত সপ্তাহে, OpenAI ঘোষণা করেছে যে তার সর্বশেষ মডেল, ChatGPT-5.2, মানসিক স্বাস্থ্যের জন্য “নিরাপদ”।
আপনি যদি আত্মহত্যার প্রবণতা অনুভব করেন বা মানসিক স্বাস্থ্য সংকটের সম্মুখীন হন, অনুগ্রহ করে কারো সাথে কথা বলুন। আপনি 988 সুইসাইড অ্যান্ড ক্রাইসিস লাইফলাইন 988 নম্বরে কল বা টেক্সট করতে পারেন, অথবা এখানে চ্যাট করতে পারেন 988lifeline.org. আপনি 877-565-8860 বা 866-488-7386 নম্বরে ট্রেভর প্রজেক্টে কল করে ট্রান্স লাইফলাইনে পৌঁছাতে পারেন। 741-741 নম্বরে ক্রাইসিস টেক্সট লাইনে “START” টেক্সট করুন। NAMI হেল্পলাইনে যোগাযোগ করুন 1-800-950-NAMI, সোমবার থেকে শুক্রবার সকাল 10:00 থেকে রাত 10:00 ET পর্যন্ত, বা ইমেল করুন [email protected]. আপনি ফোন পছন্দ না হলে, ব্যবহার বিবেচনা করুন 988 সুইসাইড অ্যান্ড ক্রাইসিস লাইফলাইন চ্যাট. এখানে একটি আন্তর্জাতিক সম্পদের তালিকা.
প্রকাশ: জিফ ডেভিস, ম্যাশেবলের মূল সংস্থা, এপ্রিল মাসে OpenAI-এর বিরুদ্ধে একটি মামলা দায়ের করে, অভিযোগ করে যে এটি তার AI সিস্টেমগুলিকে প্রশিক্ষণ এবং পরিচালনায় জিফ ডেভিস কপিরাইট লঙ্ঘন করেছে৷
