[ad_1]
বুধবার গুগল ডিপমাইন্ড একটি প্রকাশ করেছে সম্পূর্ণ কাগজ এজিআইয়ের সুরক্ষার পদ্ধতির উপর, মোটামুটি এআই হিসাবে সংজ্ঞায়িত করা হয়েছে যা কোনও মানুষের যে কোনও কাজ করতে পারে তা সম্পাদন করতে পারে।
এজিআই হ’ল এআই ক্ষেত্রের সাথে কিছুটা বিতর্কিত বিষয়, Naysayers এটি পাইপের স্বপ্নের চেয়ে কিছুটা বেশি পরামর্শ দিচ্ছে। নৃতাত্ত্বিকদের মতো প্রধান এআই ল্যাবগুলি সহ অন্যরা সতর্ক করে দিয়েছিল যে এটি কোণার চারপাশে রয়েছে এবং যদি উপযুক্ত সুরক্ষার ব্যবস্থা করার জন্য পদক্ষেপ নেওয়া না হয় তবে বিপর্যয়কর ক্ষতির কারণ হতে পারে।
ডিপমাইন্ডের ১৪৫ পৃষ্ঠার নথি, যা ডিপমাইন্ডের সহ-প্রতিষ্ঠাতা শেন লেগ সহ-রচনা করেছিলেন, ভবিষ্যদ্বাণী করেছেন যে এজিআই ২০৩০ সালের মধ্যে আসতে পারে এবং এর ফলে লেখকরা “গুরুতর ক্ষতি” বলে অভিহিত হতে পারে। কাগজটি দৃ concrete ়ভাবে এটি সংজ্ঞায়িত করে না, তবে “অস্তিত্বের ঝুঁকি” এর অ্যালার্মিস্ট উদাহরণ দেয় যা “স্থায়ীভাবে মানবতা ধ্বংস করে দেয়।”
“[We anticipate] বর্তমান দশক শেষ হওয়ার আগে একটি ব্যতিক্রমী এজিআইয়ের বিকাশ, “লেখকরা লিখেছেন।” একটি ব্যতিক্রমী এজিআই এমন একটি সিস্টেম যা নতুন দক্ষতা শেখার মতো মেটাকগনিটিভ টাস্ক সহ বিস্তৃত অ-শারীরিক কার্যগুলিতে দক্ষ প্রাপ্তবয়স্কদের কমপক্ষে 99 তম পার্সেন্টাইলের সাথে মেলে এমন একটি সক্ষমতা রয়েছে। “
ব্যাটের বাইরে, কাগজটি ডিপমাইন্ডের এজিআই ঝুঁকি প্রশমনকে নৃতাত্ত্বিক এবং ওপেনাইয়ের সাথে চিকিত্সার বিপরীতে। নৃতাত্ত্বিক, এটি বলেছে, “শক্তিশালী প্রশিক্ষণ, পর্যবেক্ষণ এবং সুরক্ষা” এর উপর কম জোর দেয়, যখন ওপেনাই এআই সুরক্ষা গবেষণার একটি ফর্মকে সারিবদ্ধ গবেষণা হিসাবে পরিচিত “স্বয়ংক্রিয়” এ অত্যধিক বুলিশ করে।
কাগজটি সুপারিনটেলিজেন্ট এআই – এআই এর কার্যকারিতা সম্পর্কেও সন্দেহ পোষণ করে যা কোনও মানুষের চেয়ে আরও ভাল কাজ করতে পারে। (ওপেনাই সম্প্রতি দাবি করেছে যে এটি এজিআই থেকে সুপারিনটেলিজেন্সের দিকে লক্ষ্য করে চলেছে।) অনুপস্থিত “উল্লেখযোগ্য স্থাপত্য উদ্ভাবন”, গভীরমাইন্ড লেখকরা নিশ্চিত হন না যে শীঘ্রই সুপারিন্টেলিজেন্ট সিস্টেমগুলি উত্থিত হবে – যদি কখনও হয়।
কাগজটি এটি প্রশংসনীয় বলে মনে করে, যদিও বর্তমান দৃষ্টান্তগুলি “পুনরাবৃত্ত এআই উন্নতি” সক্ষম করবে: একটি ইতিবাচক প্রতিক্রিয়া লুপ যেখানে এআই আরও পরিশীলিত এআই সিস্টেম তৈরি করতে নিজস্ব এআই গবেষণা পরিচালনা করে। এবং এটি অবিশ্বাস্যভাবে বিপজ্জনক হতে পারে, লেখকদের জোর দিন।
একটি উচ্চ স্তরে, কাগজটি খারাপ অভিনেতাদের হাইপোথিটিকাল এজিআইতে অ্যাক্সেসকে আটকাতে, এআই সিস্টেমগুলির ক্রিয়াকলাপগুলির বোঝার উন্নতি করতে এবং এআই যে পরিবেশে কাজ করতে পারে তার “শক্ত” “বোঝার জন্য কৌশলগুলির বিকাশের প্রস্তাব ও সমর্থন করে। এটি স্বীকার করে যে অনেকগুলি কৌশল নবজাতক এবং “ওপেন রিসার্চ সমস্যা” রয়েছে তবে সম্ভবত দিগন্তে সুরক্ষা চ্যালেঞ্জগুলি উপেক্ষা করার বিরুদ্ধে সতর্কতা রয়েছে।
লেখকরা লিখেছেন, “এজিআইয়ের রূপান্তরকারী প্রকৃতির অবিশ্বাস্য সুবিধার পাশাপাশি গুরুতর ক্ষতির উভয়ই সম্ভাবনা রয়েছে।” “ফলস্বরূপ, এজিআইকে দায়িত্বের সাথে গড়ে তোলা, সীমান্ত এআই বিকাশকারীদের পক্ষে মারাত্মক ক্ষতি হ্রাস করার জন্য সক্রিয়ভাবে পরিকল্পনা করা গুরুত্বপূর্ণ।”
কিছু বিশেষজ্ঞরা অবশ্য কাগজের প্রাঙ্গনে একমত নন।
অলাভজনক এআই এখন ইনস্টিটিউটের প্রধান এআই বিজ্ঞানী হেইডি খ্লাফ টেকক্রাঞ্চকে বলেছেন যে তিনি মনে করেন যে এজিআইয়ের ধারণাটি “বৈজ্ঞানিকভাবে কঠোরভাবে মূল্যায়ন করা” হিসাবে খুব খারাপ সংজ্ঞায়িত। ” আরেক এআই গবেষক, আলবার্টা বিশ্ববিদ্যালয়ের সহকারী অধ্যাপক ম্যাথিউ গুজদিয়াল বলেছেন যে তিনি বিশ্বাস করেন না যে পুনরাবৃত্ত এআই উন্নতি বর্তমানে বাস্তবসম্মত।
“[Recursive improvement] গোয়েন্দা এককতার যুক্তিগুলির ভিত্তি, “গুজডিয়াল টেকক্রাঞ্চকে বলেছিলেন,” তবে আমরা এর কাজ করার জন্য কোনও প্রমাণ কখনও দেখিনি। “
অক্সফোর্ডের প্রযুক্তি ও নিয়ন্ত্রণের অধ্যয়নরত গবেষক স্যান্ড্রা ওয়াচটার যুক্তি দেখিয়েছেন যে আরও বাস্তবসম্মত উদ্বেগ হ’ল এআই নিজেকে “ভুল আউটপুট” দিয়ে শক্তিশালী করছে।
“ইন্টারনেটে জেনারেটরি এআই আউটপুটগুলির বিস্তার এবং খাঁটি ডেটা ধীরে ধীরে প্রতিস্থাপনের সাথে, মডেলগুলি এখন তাদের নিজস্ব আউটপুটগুলি থেকে শিখছে যা ভুল ধারণা বা হ্যালুসিনেশন দ্বারা ছাঁটাই করা হয়,” তিনি টেকক্রাঞ্চকে বলেন। “এই মুহুর্তে, চ্যাটবটগুলি প্রধানত অনুসন্ধান এবং সত্য-সন্ধানের উদ্দেশ্যে ব্যবহৃত হয় That এর অর্থ আমরা ক্রমাগত ভুল রোগ খাওয়ানো এবং তাদের বিশ্বাস করার ঝুঁকিতে থাকি কারণ তারা খুব দৃ inc ়প্রত্যয়ী উপায়ে উপস্থাপিত হয়।”
এটি যেমন বিস্তৃত হতে পারে, ডিপমাইন্ডের কাগজটি কেবল বাস্তববাদী এজিআই – এবং এআই সুরক্ষার ক্ষেত্রগুলি সবচেয়ে জরুরি মনোযোগের প্রয়োজনে বিতর্কগুলি নিষ্পত্তি করার সম্ভাবনা কম বলে মনে হয়।
[ad_2]
