অ্যানথ্রোপিক এআই ‘মডেল কল্যাণ’ অধ্যয়নের জন্য একটি নতুন প্রোগ্রাম চালু করছে

ভবিষ্যতের এআইগুলি কি “সচেতন” হতে পারে এবং মানুষকে যেভাবে করে তা একইভাবে অভিজ্ঞতা করতে পারে? তারা যে দৃ strong ় প্রমাণ করবে তার কোনও দৃ evidence ় প্রমাণ নেই, তবে নৃতাত্ত্বিক সম্ভাবনাটি অস্বীকার করছে না।

বৃহস্পতিবার, এআই ল্যাব ঘোষণা এটি তদন্তের জন্য একটি গবেষণা প্রোগ্রাম শুরু করেছে – এবং নেভিগেট করার জন্য প্রস্তুত – এটি “মডেল কল্যাণ” বলে। প্রচেষ্টার অংশ হিসাবে, নৃতাত্ত্বিক বলেছেন যে এটি কোনও এআই মডেলের “কল্যাণ” নৈতিক বিবেচনার দাবি রাখে, মডেল “সঙ্কটের লক্ষণগুলি” এবং সম্ভাব্য “স্বল্প-ব্যয়” হস্তক্ষেপের সম্ভাব্য গুরুত্ব এবং সম্ভাব্য “স্বল্প ব্যয়” হস্তক্ষেপের মতো বিষয়গুলি কীভাবে নির্ধারণ করতে পারে তা অন্বেষণ করবে।

এআই সম্প্রদায়ের মধ্যে মানব বৈশিষ্ট্যগুলির মডেলগুলি “প্রদর্শন করে”, যদি থাকে এবং কীভাবে আমাদের তাদের “চিকিত্সা” করা উচিত তা নিয়ে বড় মতবিরোধ রয়েছে।

অনেক শিক্ষাবিদ বিশ্বাস করেন যে এআই আজ আনুমানিক চেতনা বা মানুষের অভিজ্ঞতা আনতে পারে না এবং ভবিষ্যতে অগত্যা সক্ষম হবে না। এআই যেমন আমরা জানি এটি একটি পরিসংখ্যানগত পূর্বাভাস ইঞ্জিন। এই ধারণাগুলি tradition তিহ্যগতভাবে বোঝা গেছে বলে এটি সত্যই “চিন্তা” বা “অনুভূতি” নয়। পাঠ্য, চিত্র এবং এর অগণিত উদাহরণগুলিতে প্রশিক্ষিত, এআই প্যাটার্নগুলি এবং কিছু সময় কাজগুলি সমাধান করার জন্য এক্সট্রোপোলেট করার দরকারী উপায়গুলি শিখেছে।

মাইক কুক, কিংস কলেজ লন্ডনের এআই -তে বিশেষীকরণকারী গবেষণা ফেলো হিসাবে সম্প্রতি একটি সাক্ষাত্কারে টেকক্রাঞ্চকে বলেছেন, একটি মডেল তার “মান” পরিবর্তনের “বিরোধিতা” করতে পারে না কারণ মডেলগুলি না আছে মান। অন্যথায় পরামর্শ দেওয়ার জন্য আমাদের সিস্টেমে প্রজেক্ট করা হচ্ছে।

কুক বলেন, “এই ডিগ্রীতে যে কেউ এআই সিস্টেমকে নৃতাত্ত্বিক করে তুলছেন তা হয় মনোযোগের জন্য খেলছেন বা এআইয়ের সাথে তাদের সম্পর্ককে গুরুত্ব সহকারে ভুল বোঝাবুঝি করছেন,” কুক বলেছিলেন। “একটি এআই সিস্টেম কি এর লক্ষ্যগুলির জন্য অনুকূলিতকরণ, বা এটি ‘নিজস্ব মূল্যবোধ অর্জন’? এটি আপনি কীভাবে এটি বর্ণনা করেছেন এবং এটি সম্পর্কে আপনি যে ভাষাটি ব্যবহার করতে চান তা কতটা ফুলের বিষয় তা এটি একটি বিষয়” “

আরেক গবেষক, এমআইটির ডক্টরাল শিক্ষার্থী স্টিফেন ক্যাস্পার টেকক্রাঞ্চকে বলেছেন যে তিনি মনে করেন এআই একটি “অনুকরণকারী” এর পরিমাণ যা “”[does] সমস্ত ধরণের কনফ্যাবুলেশন[s]”এবং বলে” সমস্ত ধরণের অবজ্ঞাপূর্ণ জিনিস ””

তবুও অন্যান্য বিজ্ঞানীরা জোর দিয়েছিলেন যে এআই কি নৈতিক সিদ্ধান্ত গ্রহণের মান এবং অন্যান্য মানুষের মতো উপাদান রয়েছে। ক অধ্যয়ন এআই সুরক্ষা কেন্দ্রের বাইরে, একটি এআই গবেষণা সংস্থা, বোঝায় যে এআই এর মান সিস্টেম রয়েছে যা এটি নির্দিষ্ট পরিস্থিতিতে মানুষের উপর নিজের মঙ্গলকে অগ্রাধিকার দিতে পরিচালিত করে।

অ্যানথ্রোপিক কিছু সময়ের জন্য তার মডেল কল্যাণ উদ্যোগের ভিত্তি তৈরি করে আসছে। গত বছর, সংস্থা ভাড়াটে নৃতাত্ত্বিক এবং অন্যান্য সংস্থাগুলি কীভাবে এই সমস্যাটির কাছে যেতে হবে তার জন্য নির্দেশিকাগুলি বিকাশের জন্য এর প্রথম উত্সর্গীকৃত “এআই কল্যাণ” গবেষক কাইল ফিশ। (ফিশ, যিনি নতুন মডেল কল্যাণ গবেষণা প্রোগ্রামের নেতৃত্ব দিচ্ছেন, নিউ ইয়র্ক টাইমসকে বলেছে তিনি মনে করেন যে 15% সুযোগ রয়েছে ক্লড বা অন্য কোনও এআই আজ সচেতন))