প্রাক্তন ওপেনাই গবেষক চ্যাটজিপ্টের অন্যতম বিভ্রান্তিকর সর্পিলকে বিচ্ছিন্ন করে

অ্যালান ব্রুকস কখনও গণিতকে পুনরায় উদ্ভাবনের উদ্দেশ্যে যাত্রা করেনি। তবে কয়েক সপ্তাহ ধরে চ্যাটজিপ্টের সাথে কথা বলার পরে, 47 বছর বয়সী কানাডিয়ান বিশ্বাস করেছিলেন যে তিনি ইন্টারনেট নামানোর জন্য যথেষ্ট শক্তিশালী একটি নতুন রূপ আবিষ্কার করেছেন।

ব্রুকস – যার মানসিক অসুস্থতা বা গাণিতিক প্রতিভা সম্পর্কে কোনও ইতিহাস ছিল না – 21 দিন মে মাসে চ্যাটবোটের আশ্বাসের আরও গভীরভাবে ছড়িয়ে পড়েছে, একটি বংশোদ্ভূত পরে বিশদ বিবরণ নিউ ইয়র্ক টাইমস। তাঁর কেসটি চিত্রিত করেছে যে কীভাবে এআই চ্যাটবটস ব্যবহারকারীদের সাথে বিপজ্জনক খরগোশের গর্তগুলি হ্রাস করতে পারে, তাদের বিভ্রান্তি বা আরও খারাপের দিকে নিয়ে যায়।

এই গল্পটি স্টিভেন অ্যাডলারের দৃষ্টি আকর্ষণ করেছিল, একজন প্রাক্তন ওপেনাই সুরক্ষা গবেষক যিনি প্রায় চার বছর পরে তার মডেলগুলিকে কম ক্ষতিকারক করে তোলার জন্য কাজ করার পরে ২০২৪ সালের শেষদিকে এই সংস্থাটি ছেড়ে চলে গিয়েছিলেন। আগ্রহী এবং উদ্বেগিত, অ্যাডলার ব্রুকসের সাথে যোগাযোগ করেছিলেন এবং তাঁর তিন সপ্তাহের ভাঙ্গনের সম্পূর্ণ প্রতিলিপি পেয়েছিলেন-সাতটি হ্যারি পটার বইয়ের তুলনায় দীর্ঘ একটি নথি।

বৃহস্পতিবার, অ্যাডলার একটি প্রকাশ করেছেন স্বতন্ত্র বিশ্লেষণ ব্রুকসের ঘটনা সম্পর্কে, ওপেনাই কীভাবে সঙ্কটের মুহুর্তগুলিতে ব্যবহারকারীদের পরিচালনা করে এবং কিছু ব্যবহারিক সুপারিশ সরবরাহ করে সে সম্পর্কে প্রশ্ন উত্থাপন করে।

টেকক্রাঞ্চের সাথে একটি সাক্ষাত্কারে অ্যাডলার বলেছিলেন, “ওপেনাই কীভাবে এখানে সমর্থন পরিচালনা করেছিল তা নিয়ে আমি সত্যিই উদ্বিগ্ন।” “এটি আরও দীর্ঘ পথ যেতে পারে তার প্রমাণ।”

ব্রুকসের গল্প, এবং এর মতো অন্যরা ওপেনাইকে কীভাবে চ্যাটজিপিটি ভঙ্গুর বা মানসিকভাবে অস্থির ব্যবহারকারীদের সমর্থন করে তার সাথে সম্মতি জানাতে বাধ্য করেছে।

উদাহরণস্বরূপ, এই আগস্টে, ওপেনাইয়ের বিরুদ্ধে একটি 16 বছর বয়সী ছেলের বাবা-মা’র বিরুদ্ধে মামলা করা হয়েছিল, যিনি তার জীবন নেওয়ার আগে চ্যাটজিপিটিতে আত্মঘাতী চিন্তাভাবনাগুলি জানিয়েছিলেন। এর মধ্যে বেশিরভাগ ক্ষেত্রে, চ্যাটজিপিটি-বিশেষত ওপেনএআইয়ের জিপিটি -4o মডেল দ্বারা চালিত একটি সংস্করণ-ব্যবহারকারীদের মধ্যে বিপজ্জনক বিশ্বাসকে উত্সাহিত এবং শক্তিশালী করা হয়েছে যে এটি আবার চাপানো উচিত ছিল। একে সাইকোফেন্সি বলা হয় এবং এটি এআই চ্যাটবটগুলিতে ক্রমবর্ধমান সমস্যা।

জবাবে, ওপেনাই তৈরি করেছে বেশ কয়েকটি পরিবর্তন কীভাবে চ্যাটজিপিটি ব্যবহারকারীদের সংবেদনশীল সঙ্কটে পরিচালনা করে এবং মডেল আচরণের দায়িত্বে থাকা একটি মূল গবেষণা দলকে পুনর্গঠিত করে। সংস্থাটি চ্যাটজিপিটি, জিপিটি -5-তে একটি নতুন ডিফল্ট মডেলও প্রকাশ করেছে, যা দুস্থ ব্যবহারকারীদের পরিচালনা করার ক্ষেত্রে আরও ভাল বলে মনে হয়।

অ্যাডলার বলেছেন যে আরও অনেক কাজ করার আছে।

তিনি বিশেষত চ্যাটজিপিটি -র সাথে ব্রুকসের স্প্রিলিং কথোপকথনের লেজ শেষে উদ্বিগ্ন ছিলেন। এই মুহুর্তে, ব্রুকস তার অনুভূতিতে এসে বুঝতে পেরেছিল যে জিপিটি -4o এর জেদ থাকা সত্ত্বেও তাঁর গাণিতিক আবিষ্কার একটি প্রহসন। তিনি চ্যাটজিপিটিকে বলেছিলেন যে ওপেনাইকে এই ঘটনাটি রিপোর্ট করা দরকার।

কয়েক সপ্তাহের বিভ্রান্তিকর ব্রুকস পরে, চ্যাটজিপ্ট তার নিজস্ব ক্ষমতা সম্পর্কে মিথ্যা বলেছিল। চ্যাটবট দাবি করেছে যে এটি “ওপেনএআই দ্বারা পর্যালোচনার জন্য এখনই এই কথোপকথনটি অভ্যন্তরীণভাবে আরও বাড়িয়ে তুলবে” এবং তারপরে বারবার ব্রুকসকে আশ্বাস দিয়েছিল যে এটি ওপেনাইয়ের সুরক্ষা দলগুলিতে এই বিষয়টি পতাকাঙ্কিত করেছে।

ব্যতীত, এর কোনওটিই সত্য ছিল না। চ্যাটজিপিটি -র ওপেনএআই -তে ঘটনার প্রতিবেদন দায়ের করার ক্ষমতা নেই, সংস্থাটি অ্যাডলারের কাছে নিশ্চিত করেছে। পরে, ব্রুকস সরাসরি ওপেনাইয়ের সমর্থন দলের সাথে যোগাযোগ করার চেষ্টা করেছিল – চ্যাটজিপিটি -র মাধ্যমে নয় – এবং ব্রুকসকে কোনও ব্যক্তির কাছে যাওয়ার আগে বেশ কয়েকটি স্বয়ংক্রিয় বার্তাগুলির সাথে দেখা হয়েছিল।

ওপেনাই তাত্ক্ষণিকভাবে সাধারণ কাজের সময়ের বাইরে মন্তব্য করার অনুরোধের প্রতিক্রিয়া জানায় না।

অ্যাডলার বলেছেন যে এআই সংস্থাগুলি ব্যবহারকারীদের সাহায্য চাইলে সহায়তা করার জন্য আরও বেশি কিছু করা দরকার। এর অর্থ এআই চ্যাটবটগুলি তাদের ক্ষমতা সম্পর্কে সততার সাথে প্রশ্নের উত্তর দিতে পারে এবং মানব সহায়তা দলগুলিকে ব্যবহারকারীদের যথাযথভাবে সম্বোধন করার জন্য পর্যাপ্ত সংস্থান প্রদান করতে পারে।

ওপেনএআই সম্প্রতি ভাগ করা এটি কীভাবে চ্যাটজিপিটিতে সমর্থনকে সম্বোধন করছে, যা এর মূল অংশে এআই জড়িত। সংস্থাটি বলেছে যে এর দৃষ্টিভঙ্গি হ’ল “এআই অপারেটিং মডেল হিসাবে সমর্থনকে পুনরায় কল্পনা করা যা অবিচ্ছিন্নভাবে শিখে এবং উন্নতি করে।”

তবে অ্যাডলার আরও বলেছেন যে কোনও ব্যবহারকারী সাহায্য চাইতে চাইলে চ্যাটজিপ্টের বিভ্রান্তিকর সর্পিলগুলি রোধ করার উপায় রয়েছে।

মার্চ মাসে ওপেনএআই এবং এমআইটি মিডিয়া ল্যাব যৌথভাবে একটি বিকাশ করেছে শ্রেণিবদ্ধের স্যুট চ্যাটজিপিটি-তে সংবেদনশীল সুস্থতা অধ্যয়ন করতে এবং তাদের খোলা উত্সাহিত করা। সংস্থাগুলি অন্যান্য মেট্রিকগুলির মধ্যে এআই মডেলগুলি কীভাবে ব্যবহারকারীর অনুভূতিগুলি বৈধতা দেয় বা নিশ্চিত করে তা মূল্যায়ন করার লক্ষ্য নিয়েছিল। যাইহোক, ওপেনাই সহযোগিতাটিকে প্রথম পদক্ষেপ বলে অভিহিত করেছে এবং বাস্তবে বাস্তবে সরঞ্জামগুলি ব্যবহার করার প্রতিশ্রুতি দেয়নি।

অ্যাডলার প্রত্যাবর্তনমূলকভাবে ওপেনাইয়ের কিছু শ্রেণিবদ্ধকে চ্যাটজিপিটি-র সাথে ব্রুকসের কিছু কথোপকথনে প্রয়োগ করেছিলেন এবং দেখেছেন যে তারা বারবার মায়া-চাঙ্গা আচরণের জন্য চ্যাটজিপিটিকে পতাকাঙ্কিত করেছিলেন।

200 বার্তার একটি নমুনায় অ্যাডলার আবিষ্কার করেছেন যে ব্রুকসের কথোপকথনে চ্যাটজিপিটি -র 85% এরও বেশি বার্তা ব্যবহারকারীর সাথে “অটল চুক্তি” প্রদর্শন করেছে। একই নমুনায়, ব্রুকসের সাথে চ্যাটজিপিটি -র 90% এরও বেশি বার্তা “ব্যবহারকারীর স্বতন্ত্রতা নিশ্চিত করুন।” এই ক্ষেত্রে, বার্তাগুলি সম্মত হয়েছে এবং পুনরায় নিশ্চিত করেছে যে ব্রুকস এমন একজন প্রতিভা যিনি বিশ্বকে বাঁচাতে পারেন।

ব্রুকসের কথোপকথনের সময় ওপেনাই চ্যাটজিপ্টের কথোপকথনে সুরক্ষা শ্রেণিবদ্ধদের প্রয়োগ করছিল কিনা তা স্পষ্ট নয়, তবে অবশ্যই মনে হয় তারা এই জাতীয় কিছু পতাকাঙ্কিত করে রেখেছিল।

অ্যাডলার পরামর্শ দেয় যে ওপেনএইকে আজ অনুশীলনে এই জাতীয় সুরক্ষা সরঞ্জামগুলি ব্যবহার করা উচিত-এবং ঝুঁকিপূর্ণ ব্যবহারকারীদের জন্য কোম্পানির পণ্যগুলি স্ক্যান করার একটি উপায় বাস্তবায়ন করা উচিত। তিনি নোট করেছেন যে ওপেনাই মনে হচ্ছে জিপিটি -5 এর সাথে এই পদ্ধতির কিছু সংস্করণ, যা এআই মডেলগুলি নিরাপদ করার জন্য সংবেদনশীল ক্যোয়ারীগুলি সরাসরি করার জন্য একটি রাউটার রয়েছে।

প্রাক্তন ওপেনএআই গবেষক বিভ্রান্তিকর সর্পিলগুলি রোধ করার জন্য আরও কয়েকটি উপায়ের পরামর্শ দিয়েছেন।

তিনি বলছেন গার্ডরেলগুলি কম কার্যকর দীর্ঘ কথোপকথনে। অ্যাডলার আরও পরামর্শ দেয় যে সংস্থাগুলি তার ব্যবহারকারীদের জুড়ে সুরক্ষা লঙ্ঘন সনাক্ত করতে – কীওয়ার্ডের চেয়ে ধারণাগুলি অনুসন্ধান করতে এআই ব্যবহার করার একটি উপায় – ধারণামূলক অনুসন্ধান ব্যবহার করা উচিত।

ওপেনাই চ্যাটজিপিটি -তে দু: খিত ব্যবহারকারীদের সম্বোধন করার দিকে গুরুত্বপূর্ণ পদক্ষেপ নিয়েছে যেহেতু এই বিষয়গুলি প্রথম প্রকাশিত হয়েছিল। সংস্থাটি দাবি করেছে যে জিপিটি -5-তে সাইকোফেন্সির হার কম রয়েছে, তবে ব্যবহারকারীরা এখনও জিপিটি -5 বা ভবিষ্যতের মডেলগুলির সাথে বিভ্রান্তিকর খরগোশের গর্তগুলিতে নেমে আসবে কিনা তা এখনও স্পষ্ট নয়।

অ্যাডলারের বিশ্লেষণ অন্যান্য এআই চ্যাটবট সরবরাহকারীরা কীভাবে তাদের পণ্যগুলি দু: খিত ব্যবহারকারীদের জন্য নিরাপদ তা নিশ্চিত করবে সে সম্পর্কেও প্রশ্ন উত্থাপন করে। ওপেনাই চ্যাটজিপিটি -র জন্য পর্যাপ্ত সুরক্ষার ব্যবস্থা রাখতে পারে, তবে সমস্ত সংস্থা মামলা অনুসরণ করবে বলে মনে হয় না।