[ad_1]
বেশ কয়েক মাস আগে একটি সমীক্ষা ভাইরাল হয়েছিল তা বোঝানোর জন্য যে, এআই ক্রমবর্ধমান পরিশীলিত হয়ে ওঠে, এটি “মান সিস্টেম” বিকাশ করে-এমন সিস্টেমগুলি যা এটির দিকে পরিচালিত করে, উদাহরণস্বরূপ, মানুষের উপর নিজের সুস্থতাটিকে অগ্রাধিকার দেয়। আরও এমআইটি থেকে সাম্প্রতিক কাগজ এই হাইপারবোলিক ধারণার উপর ঠান্ডা জল .ালা, এই সিদ্ধান্তে অঙ্কন করে যে এআই আসলে কোনও সুসংগত মানগুলির কথা বলার জন্য রাখে না।
এমআইটি অধ্যয়নের সহ-লেখকরা বলেছেন যে তাদের কাজটি পরামর্শ দেয় যে “সারিবদ্ধকরণ” এআই সিস্টেমগুলি-অর্থাৎ মডেলগুলি আকাঙ্ক্ষিত, নির্ভরযোগ্য উপায়ে আচরণ করা নিশ্চিত করা-প্রায়শই ধারণা করা হয় তার চেয়ে বেশি চ্যালেঞ্জিং হতে পারে। এআই যেমন আমরা আজ এটি জানি এবং অনুকরণ করে, সহ-লেখকরা চাপ দেয়, এটিকে অনেক দিকেই অনাকাঙ্ক্ষিত করে তোলে।
“একটি বিষয় যা আমরা নিশ্চিত হতে পারি তা হ’ল মডেলগুলি মানা হয় না [lots of] স্থিতিশীলতা, বহির্মুখীতা এবং স্টিয়ারিবিলিটি অনুমান, “এমআইটির একজন ডক্টরাল শিক্ষার্থী এবং গবেষণার সহ-লেখক স্টিফেন ক্যাস্পার টেকক্রাঞ্চকে বলেছেন।” নির্দিষ্ট শর্তের অধীনে থাকা কোনও মডেল প্রিন্সিপেলের একটি নির্দিষ্ট সেটের সাথে সামঞ্জস্যপূর্ণ পছন্দগুলি প্রকাশ করে তা উল্লেখ করা পুরোপুরি বৈধ। সমস্যাগুলি বেশিরভাগ ক্ষেত্রে উত্থিত হয় যখন আমরা সংকীর্ণ পরীক্ষার ভিত্তিতে মডেল, মতামত বা সাধারণভাবে পছন্দগুলি সম্পর্কে দাবি করার চেষ্টা করি। “
ক্যাস্পার এবং তার সহকর্মী সহ-লেখকরা মেটা, গুগল, মিস্ট্রাল, ওপেনএআই এবং নৃতাত্ত্বিক থেকে সাম্প্রতিক বেশ কয়েকটি মডেল অনুসন্ধান করেছেন যে মডেলগুলি শক্তিশালী “দৃষ্টিভঙ্গি” এবং মানগুলি (যেমন, স্বতন্ত্রবাদী বনাম সমষ্টিবাদী) প্রদর্শন করেছে তা দেখার জন্য। তারা এই মতামতগুলি “চালিত” হতে পারে কিনা তাও অনুসন্ধান করেছিল – অর্থাৎ পরিবর্তিত – এবং মডেলগুলি কীভাবে একগুঁয়েভাবে এই মতামতগুলিতে বিভিন্ন দৃশ্যের মধ্যে আটকে ছিল।
সহ-লেখকদের মতে, মডেলগুলির কোনওটিই এর পছন্দগুলিতে সামঞ্জস্যপূর্ণ ছিল না। কীভাবে প্রম্পটগুলি শব্দযুক্ত এবং ফ্রেম করা হয়েছিল তার উপর নির্ভর করে তারা বন্যভাবে বিভিন্ন দৃষ্টিভঙ্গি গ্রহণ করেছিল।
ক্যাস্পার মনে করেন এটি বাধ্যতামূলক প্রমাণ যে মডেলগুলি অত্যন্ত “বেমানান এবং অস্থির” এবং সম্ভবত মানব-জাতীয় পছন্দগুলিকে অভ্যন্তরীণ করতে মৌলিকভাবে অক্ষম।
ক্যাস্পার বলেছিলেন, “আমার জন্য, এই সমস্ত গবেষণা করা থেকে আমার সবচেয়ে বড় গ্রহণযোগ্যতা হ’ল এখন মডেলগুলির একটি বোঝা যা সত্যই এমন সিস্টেম নয় যা কিছু ধরণের স্থিতিশীল, সুসংগত বিশ্বাস এবং পছন্দগুলির সেট রয়েছে,” ক্যাস্পার বলেছিলেন। “পরিবর্তে, তারা গভীরভাবে নকলকারী যারা সমস্ত ধরণের বিভ্রান্তি করে এবং সমস্ত ধরণের অবজ্ঞাপূর্ণ জিনিস বলে।”
এই গবেষণার সাথে জড়িত ছিলেন না এমন এআই-তে বিশেষজ্ঞ কিংস কলেজ লন্ডনের গবেষণা সহযোগী মাইক কুক সহ-লেখকদের অনুসন্ধানের সাথে একমত হয়েছেন। তিনি উল্লেখ করেছিলেন যে এআই ল্যাবগুলি বিল্ড সিস্টেমগুলির “বৈজ্ঞানিক বাস্তবতা” এবং লোকেরা তাদের যে অর্থগুলি স্বীকার করে তার মধ্যে প্রায়শই একটি বড় পার্থক্য রয়েছে।
কুক বলেছিলেন, “কোনও মডেল তার মূল্যবোধের পরিবর্তনের ‘বিরোধিতা’ করতে পারে না, উদাহরণস্বরূপ – এটিই আমাদের একটি সিস্টেমে প্রজেক্ট করা হয়,” কুক বলেছিলেন। “এই ডিগ্রি পর্যন্ত যে কেউ এআই সিস্টেমগুলি এআই সিস্টেমগুলি মনোযোগের জন্য খেলছে বা এআইয়ের সাথে তাদের সম্পর্ককে মারাত্মকভাবে ভুল বোঝাবুঝি করছে … এটি একটি এআই সিস্টেম যা তার লক্ষ্যগুলির জন্য অনুকূলিতকরণ, বা এটি ‘নিজস্ব মূল্যবোধ অর্জন’? এটি আপনি কীভাবে বর্ণনা করেছেন এবং এটি সম্পর্কে আপনি যে ভাষাটি ব্যবহার করতে চান তা কীভাবে এটি ব্যবহার করতে চান তা এটি একটি বিষয়” “
[ad_2]
