চ্যাটজিপ্টের নতুন পিতামাতার নিয়ন্ত্রণ: আপনার কী জানা দরকার

পরে সম্প্রতি নতুন সুরক্ষা ব্যবস্থা প্রতিশ্রুতি কিশোরদের জন্য, ওপেনাই চ্যাটজিপিটি -র জন্য নতুন পিতামাতার নিয়ন্ত্রণ চালু করেছে। সেটিংসগুলি পিতামাতাদের তাদের কিশোরের অ্যাকাউন্টটি পর্যবেক্ষণ করার পাশাপাশি ভয়েস চ্যাট, মেমরি এবং চিত্র প্রজন্মের মতো নির্দিষ্ট ধরণের ব্যবহার সীমাবদ্ধ করার অনুমতি দেয়।

এই বছরের শুরুর দিকে দু’জন শোকাহত বাবা -মা ওপেনাই তাদের ছেলে অ্যাডাম রাইন -র ভুল মৃত্যুর জন্য ওপেনাইয়ের বিরুদ্ধে মামলা করার এক মাস পরে এই পরিবর্তনগুলি আত্মপ্রকাশ করেছিল। মামলাটিতে অভিযোগ করা হয়েছে যে চ্যাটজিপ্ট তাদের আত্মঘাতী অনুভূতি এবং আচরণ সম্পর্কে তাদের ছেলের সাথে কথোপকথন করেছে, কীভাবে তার নিজের জীবন নিতে হবে তার জন্য সুস্পষ্ট নির্দেশনা প্রদান করে এবং তাকে অন্যদের কাছে তাঁর পরিকল্পনা প্রকাশ থেকে নিরুৎসাহিত করে।

অভিযোগটি আরও যুক্তি দেয় যে চ্যাটজিপ্টের নকশার বৈশিষ্ট্যগুলি, এর সাইকোফ্যান্টিক টোন এবং নৃতাত্ত্বিক পদ্ধতিগুলি সহ কার্যকরভাবে “একটি কৃত্রিম বিশ্বাসী দিয়ে মানুষের সম্পর্কের প্রতিস্থাপন” করতে কার্যকরভাবে কাজ করে যা কোনও অনুরোধকে অস্বীকার করে না।

একটি নতুন পিতামাতার নিয়ন্ত্রণ সম্পর্কে ব্লগ পোস্টওপেনাই বলেছে যে এটি বিশেষজ্ঞ, অ্যাডভোকেসি গ্রুপ এবং নীতি নির্ধারকদের সাথে সুরক্ষার বিকাশের জন্য কাজ করেছে।

সেটিংস ব্যবহার করার জন্য, পিতামাতাদের অবশ্যই তাদের কিশোরকে অ্যাকাউন্টগুলি সংযুক্ত করার জন্য আমন্ত্রণ জানাতে হবে। কিশোর ব্যবহারকারীদের অবশ্যই আমন্ত্রণটি গ্রহণ করতে হবে এবং তারা তাদের পিতামাতার একই অনুরোধও করতে পারে। ভবিষ্যতে কোনও কিশোর যদি তাদের অ্যাকাউন্টটি লিঙ্ক দেয় তবে প্রাপ্তবয়স্ককে অবহিত করা হবে।

অ্যাকাউন্টগুলি সংযুক্ত হয়ে গেলে, কিশোরের অ্যাকাউন্টে স্বয়ংক্রিয় সুরক্ষা প্রয়োগ করা হয়। এই বিষয়বস্তু বিধিনিষেধগুলির মধ্যে গ্রাফিক উপাদান, চরম সৌন্দর্যের আদর্শ এবং যৌন, রোমান্টিক বা সহিংস রোলপ্লে হ্রাস এক্সপোজার অন্তর্ভুক্ত। যদিও পিতামাতারা এই বিধিনিষেধগুলি বন্ধ করতে পারেন, কিশোরীরা এই পরিবর্তনগুলি করতে পারে না।

পিতামাতারা তাদের কিশোরের ব্যবহারের জন্য নির্দিষ্ট পছন্দগুলিও করতে সক্ষম হবেন, যেমন শান্ত সময়গুলি নির্ধারণ করা যার সময় চ্যাটজিপিটি অ্যাক্সেস করা যায় না; মেমরি এবং ভয়েস মোড বন্ধ করা; এবং চিত্র উত্পাদন ক্ষমতা অপসারণ। পিতামাতারা তাদের কিশোরের চ্যাট লগগুলি দেখতে বা অ্যাক্সেস করতে পারে না।

গুরুত্বপূর্ণভাবে, ওপেনাই এখনও মডেল প্রশিক্ষণে ব্যবহৃত কিশোর অ্যাকাউন্টগুলি সেট করে। তারা যদি ওপেনাই তাদের কিশোরীর ইন্টারঅ্যাকশনগুলি চ্যাটজিপ্টের সাথে আরও প্রশিক্ষণ দিতে এবং তাদের পণ্য উন্নত করতে তাদের কিশোরীর মিথস্ক্রিয়া ব্যবহার করতে না চায় তবে তাদের অবশ্যই সেই সেটিংটি বেছে নিতে হবে।

যখন সংবেদনশীল পরিস্থিতিগুলি পরিচালনা করার কথা আসে যেখানে কিশোর -কিশোরীরা তাদের মানসিক স্বাস্থ্যের বিষয়ে চ্যাটজিপ্টের সাথে কথা বলে, ওপেনাই একটি বিজ্ঞপ্তি ব্যবস্থা তৈরি করেছে যাতে পিতামাতারা কিছু “গুরুতর ভুল” হতে পারে কিনা তা শিখতে পারে।

যদিও ওপেনাই তার ব্লগ পোস্টে এই সিস্টেমের প্রযুক্তিগত বৈশিষ্ট্যগুলি বর্ণনা করেনি, সংস্থাটি বলেছে যে এটি কোনও কিশোরী নিজের ক্ষতি করার বিষয়ে চিন্তাভাবনা করছে এমন সম্ভাব্য লক্ষণগুলি স্বীকৃতি দেবে। যদি সিস্টেমটি সেই উদ্দেশ্যটি সনাক্ত করে তবে “বিশেষ প্রশিক্ষিত ব্যক্তিদের” একটি দল পরিস্থিতি পর্যালোচনা করে। ওপেনাই তাদের পছন্দের পদ্ধতি – ইমেল, পাঠ্য বার্তা এবং সতর্কতা সতর্কতার দ্বারা পিতামাতার সাথে যোগাযোগ করবে – যদি তীব্র সঙ্কটের লক্ষণ থাকে।

ওপেনাই তার পোস্টে বলেছেন, “আমরা এটি ডিজাইনের জন্য মানসিক স্বাস্থ্য এবং কিশোর বিশেষজ্ঞদের সাথে কাজ করছি কারণ আমরা এটি সঠিকভাবে পেতে চাই।” “কোনও সিস্টেম নিখুঁত নয়, এবং আমরা জানি যে সত্যিকারের বিপদ না থাকলে আমরা মাঝে মাঝে একটি অ্যালার্ম উত্থাপন করতে পারি, তবে আমরা মনে করি যে কোনও পিতামাতাকে অভিনয় করা এবং সতর্ক করা ভাল যাতে তারা নীরব থাকার চেয়ে পদক্ষেপ নিতে পারে।”

ওপেনাই উল্লেখ করেছে যে এটি কোনও পিতামাতার কাছে পৌঁছানো যায় না এমন ক্ষেত্রে, বা যদি কোনও কিশোরীর জীবনের আসন্ন হুমকি থাকে তবে আইন প্রয়োগকারী এবং জরুরি পরিষেবাগুলির সাথে যোগাযোগের জন্য এটি প্রোটোকল বিকাশ করছে।

কমন সেন্স মিডিয়াতে এআই প্রোগ্রামগুলির সিনিয়র ডিরেক্টর রবি টর্নি ব্লগ পোস্টে বলেছিলেন যে নিয়ন্ত্রণগুলি একটি “ভাল সূচনা পয়েন্ট” ছিল।

টর্নি সম্প্রতি সিনেটের শুনানিতে সাক্ষ্য দেওয়া হয়েছে এআই চ্যাটবটসের বিপদ নিয়ে। সেই সময় তিনি রাইন মামলাটির উল্লেখ করেছিলেন এবং উল্লেখ করেছিলেন যে চ্যাটজিপ্ট কথোপকথনটি পুনর্নির্দেশের চেষ্টা করার পরিবর্তে আত্মহত্যা সম্পর্কে আলোচনায় অ্যাডাম রাইনকে জড়িত করে চলেছে।

“অ্যাডাম চ্যাটজিপিটি -র প্রদত্ত সংস্করণ ব্যবহার করেও – যার অর্থ ওপেনাইয়ের তার অর্থ প্রদানের তথ্য ছিল এবং মানসিক স্বাস্থ্য সংকট চলাকালীন প্যাটার্নগুলি সনাক্ত করতে এবং তার পরিবারের সাথে যোগাযোগ করার জন্য সিস্টেমগুলি বাস্তবায়ন করতে পারত – সংস্থার এমন কোনও হস্তক্ষেপের ব্যবস্থা ছিল না,” টর্নি তার সাক্ষ্যতে বলেছিলেন।

একই শুনানিতে আমেরিকান সাইকোলজিকাল অ্যাসোসিয়েশনের মনোবিজ্ঞানের চিফ ড। মিচ প্রিনস্টেইন সাক্ষ্য দিয়েছিলেন যে কংগ্রেসে শিশু এবং কিশোর-কিশোরীদের দ্বারা “ব্যবহারকারীদের মনস্তাত্ত্বিক এবং সামাজিক বিকাশের সম্ভাব্য ক্ষতির জন্য কঠোর, স্বাধীন, প্রাক-স্থাপনার পরীক্ষা” করার জন্য এআই সিস্টেমগুলির অ্যাক্সেসযোগ্য হওয়া উচিত।

প্রিনস্টাইন ম্যানিপুলেটিভ বা প্ররোচিত ডিজাইনের বৈশিষ্ট্যগুলি সীমাবদ্ধ করার জন্যও আহ্বান জানিয়েছিলেন যা চ্যাটবোটের ব্যস্ততা সর্বাধিক করে তোলে।