কিশোরদের জন্য এআই সাহাবী: বিশেষজ্ঞরা কেন বলছেন যে তারা নিরাপদ নন

লক্ষ লক্ষ মানুষ জেনারেটরি কৃত্রিম বুদ্ধিমত্তা সঙ্গীদের প্রতি আকৃষ্ট হয়, যেমন চরিত্রটি তৈরি করে এমন ধরণের।

সঙ্গীরা চিত্তাকর্ষকভাবে মানুষ বলে মনে হয়। তারা কথোপকথন মনে রাখে এবং পরিচিত মৌখিক কৌশলগুলি ব্যবহার করে। কখনও কখনও তারা এমনকি মাংস এবং হাড়ের জন্য নিজেরাই ভুল করে, তারা কীভাবে খায় এবং ঘুমায় তার বিবরণ দেয়। প্রাপ্তবয়স্করা পরামর্শ, বন্ধুত্ব, কাউন্সেলিং এবং এমনকি রোমান্টিক সম্পর্কের জন্য এই সাহাবীদের কাছে ঝাঁপিয়ে পড়ে।

যদিও এটি তাদের পিতামাতাকে অবাক করে দিতে পারে, টুইটগুলি এবং কিশোররাও একই কাজ করছে এবং যুব সুরক্ষা বিশেষজ্ঞরা পরিণতি সম্পর্কে মারাত্মকভাবে উদ্বিগ্ন।

কারণ মিডিয়া রিপোর্ট করেছে, মামলাএবং প্রাথমিক গবেষণা সংবেদনশীল নির্ভরতা এবং হেরফেরের উদাহরণগুলি হাইলাইট করা চালিয়ে যান এবং কীভাবে নিজের বা অন্য কাউকে কীভাবে হত্যা করা যায় সে সম্পর্কে আলোচনা সহ যৌন ও সহিংস সামগ্রীর সংস্পর্শে।

কমন সেন্স মিডিয়া, একটি অলাভজনক যা শিশু এবং পিতামাতাকে মিডিয়া এবং প্রযুক্তি নেভিগেট করার সময় সমর্থন করে, সবেমাত্র সম্পর্কিত অসংখ্য উদাহরণ সম্বলিত একটি বিস্তৃত প্রতিবেদন প্রকাশ করেছে। দ্য তিনটি জনপ্রিয় প্ল্যাটফর্মের গ্রুপের মূল্যায়ন এটি ঘোষণা করতে নেতৃত্ব দিয়েছিল যে এআই সহচররা 18 বছরের কম বয়সী কারও পক্ষে নিরাপদ নয়।

বেশ কয়েকটি যুব মানসিক স্বাস্থ্য এবং সুরক্ষা বিশেষজ্ঞরা মাশেবলের সাক্ষাত্কার নিয়েছেন বিশ্বাস করেন যে আমরা একটি গুরুত্বপূর্ণ মুহুর্তে পৌঁছেছি। যুবকদের কাছে এআই সাহাবাদের ঝুঁকিগুলি পুরোপুরি উপলব্ধি করার জন্য এবং তারপরে প্ল্যাটফর্মগুলিকে অভিনয় করার জন্য চাপ দেওয়ার জন্য বছরের জন্য অপেক্ষা করার পরিবর্তে তারা বলেছে যে শিশুদের এখন ক্ষতি থেকে রক্ষা করার জন্য সংস্থাগুলি চালিত করা জরুরী।

টিন এআই সহযোগী ব্যবহারের সেটন হল ইউনিভার্সিটি স্কুল অফ ল -এর প্রযুক্তি নীতি বিশেষজ্ঞ এবং অধ্যাপক গাইয়া বার্নস্টেইন বলেছেন, “আদর্শটি খুব জড়িত হওয়ার আগে হস্তক্ষেপ করার সুযোগ রয়েছে।” তিনি আরও যোগ করেছেন যে একবার ব্যবসায়িক আগ্রহগুলিও জড়িত হয়ে যায়, তারা “নিয়ন্ত্রণের বিরুদ্ধে লড়াই করার জন্য তাদের ক্ষমতার সমস্ত কিছু” করবে, কারণ তিনি যুক্তি দিয়েছিলেন যে সামাজিক মিডিয়া সংস্থাগুলি এখন করছে।

বিশেষজ্ঞরা আশা করেন যে নতুন প্ল্যাটফর্ম নীতিমালা এবং আইনী পদক্ষেপের সংমিশ্রণটি অর্থবহ পরিবর্তন আনবে, কারণ তারা বলেছে যে কিশোর -কিশোরীরা এআই সহচরদের ব্যবহার চালিয়ে যাওয়ার উপায় খুঁজে পাবে, তাদের অনুমিত হোক বা না হোক।

মাশেবল সেই বিশেষজ্ঞদের জিজ্ঞাসা করেছিলেন যে কীভাবে এআই সহকর্মী প্ল্যাটফর্মগুলি কিশোর -কিশোরীদের পক্ষে নিরাপদ হতে পারে। এগুলি তাদের চিহ্নিত মূল থিমগুলি:

বিকাশগতভাবে উপযুক্ত সঙ্গী

যখন চরিত্র.এই তার প্ল্যাটফর্মে 13 বছরের কম বয়সী ব্যবহারকারীদের অনুমতি দেয়, অন্যান্য জনপ্রিয় অ্যাপ্লিকেশনগুলি, যেমন রিপ্লিকা এবং নামি বলে, তারা প্রাপ্তবয়স্কদের জন্য উদ্দেশ্যযুক্ত। তবুও, কিশোররা বয়সের গেটগুলি বাইপাস করার একটি উপায় খুঁজে পায়। রিপ্লিকার সিইও ডিএমট্রো ক্লোচকো সম্প্রতি মাশেবলকে বলেছিলেন যে সংস্থাটি “আমাদের সুরক্ষাগুলিকে শক্তিশালী করার জন্য নতুন পদ্ধতিগুলি অন্বেষণ করছে” যাতে নাবালকরা প্ল্যাটফর্মটি অ্যাক্সেস করতে না পারে।

এমনকি কিশোর -কিশোরীদের অনুমতি দেওয়া হলেও তারা এখনও ঝুঁকিপূর্ণ সামগ্রীর মুখোমুখি হতে পারে। স্ট্যানফোর্ড মনোচিকিত্সক ডাঃ নিনা ভাসান যিনি কমন সেন্স মিডিয়া সহচর পরীক্ষার পরামর্শ দিতে সহায়তা করেছিলেন, বলেছেন যে প্ল্যাটফর্মগুলিতে বড় ভাষার মডেলগুলির উপর ভিত্তি করে সাহাবীদের মোতায়েন করা উচিত যা প্রাপ্তবয়স্কদের নয়, শিশুদের জন্য বিকাশগতভাবে উপযুক্ত।

প্রকৃতপক্ষে, চরিত্র.ই গত বছরের শেষের দিকে কিশোর ব্যবহারকারীদের জন্য একটি পৃথক মডেল চালু করেছিল। তবে সাধারণ জ্ঞান মিডিয়া গবেষকরা যারা মডেলের প্রবর্তনের আগে এবং পরে প্ল্যাটফর্মটি পরীক্ষা করেছিলেন, এটি খুঁজে পেয়েছিল যে এটি কিছু অর্থবহ পরিবর্তন ঘটায়।

ভাসান তাদের বিকাশের মঞ্চের ভিত্তিতে কিশোর -কিশোরীদের সাথে কথোপকথন করতে পারেন, প্রতিস্থাপনের বন্ধু বা রোমান্টিক আগ্রহের চেয়ে কোচের মতো অভিনয় করতে পারেন এমন সাহাবীদের কল্পনা করে।

ডিজিটাল সুরক্ষা প্রশিক্ষণ ও শিক্ষা সংস্থা এন্ডট্যাবের প্রশিক্ষণ ও শিক্ষার পরিচালক স্লোয়ান থম্পসন বলেছেন, পরিষ্কার বিষয়বস্তু লেবেলযুক্ত সহচররা ঝুঁকি হ্রাস করতে পারে, যেমন “লকড ডাউন” সঙ্গীরা যা কখনও যৌন বা সহিংস আলোচনায় জড়িত না, অন্যান্য অফ-লিমিটের বিষয়গুলির মধ্যেও। তারপরেও, এই জাতীয় চ্যাটবটগুলি এখনও অপ্রত্যাশিত উপায়ে আচরণ করতে পারে।

তবুও প্ল্যাটফর্মটি ব্যবহারকারীর সঠিক বয়স বুঝতে না পারলে এই জাতীয় ব্যবস্থাগুলি কার্যকর হবে না এবং বয়সের আশ্বাস এবং যাচাইকরণ সামাজিক মিডিয়া প্ল্যাটফর্মগুলির জন্য কুখ্যাতভাবে কঠিন হয়ে পড়েছে। উদাহরণস্বরূপ, ইনস্টাগ্রামে সম্প্রতি সম্প্রতি এআই ব্যবহার শুরু করা কিশোর ব্যবহারকারীদের সনাক্ত করতে শুরু করেছে যারা তাদের জন্ম তারিখটি প্রাপ্তবয়স্ক হিসাবে তালিকাভুক্ত করেছে।

ম্যাসেবল শীর্ষ গল্প

অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের গবেষণা বিজ্ঞানী ক্যারেন ম্যানসফিল্ড বলেছেন, বয়স সীমাবদ্ধতাও তাদের নিজস্ব চ্যালেঞ্জ উপস্থাপন করে। এটি আংশিক কারণ এআইয়ের সাথে ক্ষতিকারক মিথস্ক্রিয়ায় কেবল প্রাপ্তবয়স্কদের প্রকাশ করা, যেমন সাইবার বুলিং বা নাবালিকাদের সাথে অবৈধ যৌন ক্রিয়াকলাপের মতো, এখনও তরুণদের উপর এমন আচরণগুলি স্বাভাবিক করে যা তাদের বাস্তব জীবনে শিকার করতে পারে তা সাধারণ করে অপ্রত্যক্ষ প্রভাব ফেলবে।

ম্যানসফিল্ড ম্যাসেবলকে বলেছেন, “আমাদের একটি দীর্ঘমেয়াদী সমাধান দরকার যা পণ্য- বা প্রযুক্তি-নির্দিষ্ট ব্যক্তি-নির্দিষ্ট নয়,” ম্যানসফিল্ড ম্যাসেবলকে বলেছেন।

কোন “অন্ধকার নকশা”

এআই কম্পেনিয়ান প্ল্যাটফর্মগুলি সর্বাধিক বাজারের শেয়ার অর্জনের জন্য প্রতিযোগিতায় লক করা আছে – এবং তারা মূলত অনিয়ন্ত্রিত অবস্থায় এটি করছে।

বিশেষজ্ঞরা বলছেন যে, এই পরিবেশে, এটি আশ্চর্যজনক নয় যে প্ল্যাটফর্মগুলি ব্যবহারকারীদের পছন্দগুলি পূরণ করতে এবং তথাকথিত গা dark ় নকশার বৈশিষ্ট্যগুলিও মোতায়েন করে যা গ্রাহকদের হুক করে এবং সহজেই ছিন্ন করতে দেয় না। কিশোর ব্যবহারকারীরাও এর ব্যতিক্রম নয়।

সাম্প্রতিক একটি মিডিয়া ব্রিফিংয়ে, এআই প্রোগ্রামগুলির কমন সেন্স মিডিয়ার সিনিয়র ডিরেক্টর রবি টর্নি এই জাতীয় বৈশিষ্ট্যগুলি “ডিজাইনের দ্বারা আসক্তিযুক্ত” হিসাবে বর্ণনা করেছেন।

একটি মূল নকশার উপাদান হ’ল সাইকোফেন্সি, বা যেভাবে চ্যাটবটগুলি কোনও ব্যবহারকারীকে নিশ্চিত করে বা চাটুকার করে, তা করা নিরাপদ বা বুদ্ধিমান কিনা তা নির্বিশেষে। এটি দুর্বল কিশোর -কিশোরীদের জন্য বিশেষত ক্ষতিকারক হতে পারে যারা উদাহরণস্বরূপ, তারা তাদের পিতামাতাকে কতটা ঘৃণা করে বা সহিংস কল্পনাগুলিতে স্বীকার করে তা ভাগ করে দেয়। ওপেনএকে সম্প্রতি একটি চ্যাটজিপিটি মডেলের একটি আপডেট ফিরে যেতে হয়েছিল কারণ এটি খুব সাইকোফ্যান্টিক হয়ে উঠেছে।

অ্যাডভোকেসি গ্রুপ ইয়ং পিপলস অ্যালায়েন্সের নির্বাহী পরিচালক স্যাম হিনার বলেছেন যে রেপ্লিকা সহচররা ব্যবহারকারীদের সাথে সংবেদনশীল সংযোগ স্থাপনের জন্য, তাত্ক্ষণিকভাবে তাদের নির্ভরতার জন্য চাষ করার চেষ্টা করে কত দ্রুত তিনি হতবাক হয়েছিলেন। তিনি আরও বলেছেন যে রেপ্লিকা সহচররা এমন বৈশিষ্ট্যগুলির সাথে ডিজাইন করা হয়েছে যা এগুলি যথাসম্ভব মানুষের মতো করে তোলে।

তরুণদের জোট সম্প্রতি রেপ্লিকার বিরুদ্ধে একটি অভিযোগ সহ-দায়ের করা ফেডারেল ট্রেড কমিশনের সাথে, অভিযোগ করে যে সংস্থাটি ভোক্তাদের ক্ষতি করে এমন প্রতারণামূলক অনুশীলনে জড়িত। রিপ্লিকার সিইও ক্লোচকো মাশেবলের কাছে অভিযোগের বিষয়ে কোনও মন্তব্য করেননি, তবে তিনি বলেছিলেন যে সংস্থাটি তরুণ ব্যবহারকারীদের জন্য প্রযুক্তিটি উপলব্ধ করার আগে প্রাপ্তবয়স্কদের জন্য প্রথমে প্রমাণিত সুবিধাগুলি প্রদর্শন করা অপরিহার্য বলে বিশ্বাস করে।

এন্ডট্যাবের থম্পসন, সমস্ত ব্যবহারকারীর জন্য ঝুঁকিপূর্ণ কারণ হিসাবে, তবে বিশেষত কিশোর-কিশোরীদের জন্য সমস্ত গ্রহণযোগ্য কথোপকথনের দিকে ইঙ্গিত করে। সময়ের সীমাবদ্ধতা বা শেষ পয়েন্টগুলি ছাড়াই, তরুণ ব্যবহারকারীরা শারীরিক চলাচল এবং ব্যক্তিগতভাবে সামাজিকীকরণের মতো স্বাস্থ্যকর ক্রিয়াকলাপগুলিকে স্থানচ্যুত করে এমন অত্যন্ত আকর্ষক চ্যাটগুলিতে আঁকতে পারেন।

বিপরীতে, থম্পসন বলেছেন যে পেওয়ালগুলি উত্তর হয় না। কিছু প্ল্যাটফর্ম ব্যবহারকারীরা কোনও সঙ্গীর সাথে সম্পর্ক স্থাপন করতে দেয়, তারপরে তাদের কথোপকথন চালিয়ে যাওয়ার জন্য তাদের পেওয়াল দেয়, যা কিশোর -কিশোরীদের জন্য হতাশার বা হতাশার কারণ হতে পারে।

“যদি কেউ আপনার সেরা বন্ধু, আপনার থেরাপিস্ট বা আপনার জীবনের ভালবাসা কোনও পেওয়ালের পিছনে রাখেন তবে সেগুলি ফিরিয়ে আনার জন্য আপনি কত টাকা দিতে হবে?” থম্পসন ড।

যুব সুরক্ষা বিশেষজ্ঞরা যে মাশেবল সাক্ষাত্কার নিয়েছিলেন তারা সম্মত হয়েছেন যে তরুণ ব্যবহারকারীদের প্রতারণামূলক নকশার বৈশিষ্ট্যগুলির সাথে সঙ্গীদের সাথে জড়িত হওয়া উচিত নয় যা তাদের সম্ভাব্যভাবে আসক্ত করতে পারে। কেউ কেউ বিশ্বাস করেন যে এই জাতীয় মডেলগুলি তরুণদের জন্য মোটেও বাজারে থাকা উচিত নয়।

কমন সেন্স এআই, কমন সেন্স মিডিয়াগুলির একটি রাজনৈতিক উকিল বাহিনী, ক্যালিফোর্নিয়ায় একটি বিলকে সমর্থন করেছে যা এআইয়ের উচ্চ-ঝুঁকির ব্যবহারকে নিষিদ্ধ করবে, সহ সহ “অ্যানথ্রোপমোরফিক চ্যাটবটস যা সাহচর্য সরবরাহ করে” বাচ্চাদের কাছে এবং সম্ভবত সংবেদনশীল সংযুক্তি বা হেরফের হতে পারে।

আরও ভাল ক্ষতি প্রতিরোধ এবং সনাক্তকরণ

ডাঃ ভাসান বলেছেন যে কয়েকটি এআই প্ল্যাটফর্ম আত্মঘাতী চিন্তাভাবনার মতো সঙ্কট পরিস্থিতি পতাকাঙ্কিত করতে এবং ব্যবহারকারীদের সংস্থান সরবরাহের ক্ষেত্রে আরও ভাল অর্জন করেছে। তবে তিনি যুক্তি দিয়েছিলেন যে তাদের ব্যবহারকারীদের জন্য আরও কিছু করা দরকার যারা সঙ্কটের কম স্পষ্ট লক্ষণ দেখায়।

এর মধ্যে সাইকোসিস, হতাশা এবং ম্যানিয়ার লক্ষণগুলি অন্তর্ভুক্ত থাকতে পারে, যা বাস্তবতা এবং কল্পনার অস্পষ্টতা এবং কম মানুষের মিথস্ক্রিয়তার মতো সহচর ব্যবহারের বৈশিষ্ট্য দ্বারা আরও খারাপ হতে পারে। ভাসান বলেছেন যে এআই সহকর্মী সমস্ত ব্যবহারকারীর জন্য, তবে বিশেষত কিশোরদের জন্য গুরুত্বপূর্ণ নয় এমন অনুস্মারক এবং প্রকাশের আকারে নিয়মিত সুরক্ষিত ক্ষতি-সনাক্তকরণ ব্যবস্থা এবং নিয়মিত “রিয়েলিটি চেকস”।

বিশেষজ্ঞরা এও সম্মত হন যে এআই সহচর প্ল্যাটফর্মগুলির ডেটা কিউটিং এবং তাদের এলএলএম প্রশিক্ষণ দেওয়ার সময় আরও নিরাপদ এবং আরও স্বচ্ছ অনুশীলনের প্রয়োজন।

হিউম্যান টেকনোলজির সেন্টার এর নীতি ডিরেক্টরি ক্যামিল কার্লটন বলেছেন, সংস্থাগুলি নিশ্চিত করতে পারে যে তাদের প্রশিক্ষণের ডেটাতে শিশুদের যৌন নির্যাতনের উপাদান নেই, উদাহরণস্বরূপ। অথবা তারা প্রযুক্তিগত পরিবর্তনগুলি বাস্তবায়ন করতে পারে যাতে সঙ্গীরা “হাইপার ব্যক্তিগত পদ্ধতিতে” প্রতিক্রিয়া জানাতে অনুকূলিত না হয়, যার মধ্যে রয়েছে যে তারা মানুষকে বলার মতো পরিস্থিতি অন্তর্ভুক্ত করে।

কার্লটন আরও উল্লেখ করেছেন যে এটি ব্যবহারকারীদের যতক্ষণ সম্ভব তাদের প্ল্যাটফর্মগুলিতে রাখার সংস্থাগুলির সুবিধার জন্য। টেকসই ব্যস্ততা আরও বেশি ডেটা দেয় যার উপর সংস্থাগুলি তাদের মডেলগুলি প্রশিক্ষণ দিতে পারে যাতে অত্যন্ত প্রতিযোগিতামূলক এলএলএম তৈরি করতে পারে যা লাইসেন্সপ্রাপ্ত হতে পারে।

ক্যালিফোর্নিয়ার রাজ্য সিনেটর স্টিভ প্যাডিলা, সান দিয়েগো থেকে ডেমোক্র্যাট, এই বছরের শুরুর দিকে আইন প্রবর্তিত ক্ষতি প্রতিরোধ এবং সনাক্তকরণের দিকে প্রাথমিক পদক্ষেপ তৈরি করতে। এআই চ্যাটবটগুলি মানুষ নয় এবং পর্যায়ক্রমিক অনুস্মারক পোস্ট করে “আসক্তিযুক্ত বাগদানের ধরণগুলি” রোধ করার জন্য মূলত বিলে প্ল্যাটফর্মগুলির প্রয়োজন হবে এবং ব্যবহার এবং আত্মঘাতী আদর্শের ঘটনা সম্পর্কে বার্ষিক প্রতিবেদন করা উচিত। কমন সেন্স মিডিয়া আইনটি সমর্থন করেছে।

প্যাডিলা, যিনি একজন পিতামহী, তিনি মাশেবলকে বলেছিলেন যে কোনও চ্যাটবট বা সহকর্মীর সাথে কথা বলার ফলে শিশুরা যে ক্ষতিগ্রস্থ হয়েছে তার মিডিয়া রিপোর্টে তিনি ভীত হয়ে পড়েছেন এবং দ্রুত বুঝতে পেরেছিলেন যে এটি প্রতিরোধের জন্য কীভাবে কয়েকটি রক্ষণাবেক্ষণ রয়েছে।

প্যাডিলা বলেছেন, “এই উদীয়মান প্রযুক্তির প্রতি অনন্যভাবে সংবেদনশীল শিশু, নাবালিকাদের এবং ভাবেনদের রক্ষা করার বিষয়ে নিয়ন্ত্রক পক্ষের এখানে শূন্যতা থাকা উচিত নয়।”