[ad_1]
নৃতাত্ত্বিক প্রধান নির্বাহী কর্মকর্তা দারিও আমোদী একটি প্রবন্ধ প্রকাশ বৃহস্পতিবার হাইলাইট করে যে ছোট গবেষকরা বিশ্বের শীর্ষস্থানীয় এআই মডেলগুলির অভ্যন্তরীণ কাজগুলি সম্পর্কে কীভাবে বুঝতে পারেন। এটির সমাধানের জন্য, অ্যামোডেই 2027 সালের মধ্যে বেশিরভাগ এআই মডেল সমস্যাগুলি নির্ভরযোগ্যভাবে সনাক্ত করার জন্য নৃতাত্ত্বিকদের জন্য একটি উচ্চাভিলাষী লক্ষ্য নির্ধারণ করেছিলেন।
আমোদেই সামনে চ্যালেঞ্জ স্বীকার করে। “ব্যাখ্যার তাত্পর্য” -তে সিইও বলেছেন যে নৃতাত্ত্বিক মডেলগুলি কীভাবে তাদের উত্তরগুলিতে পৌঁছায় তা সনাক্ত করতে প্রাথমিক অগ্রগতি তৈরি করেছে – তবে জোর দিয়েছিল যে আরও শক্তিশালী হওয়ার সাথে সাথে এই সিস্টেমগুলি ডিকোড করার জন্য আরও অনেক গবেষণা প্রয়োজন।
“আমি ব্যাখ্যাযোগ্যতার উপর আরও ভাল হ্যান্ডেল ছাড়াই এই জাতীয় সিস্টেম স্থাপনের বিষয়ে খুব উদ্বিগ্ন,” আমোদেই প্রবন্ধে লিখেছেন। “এই ব্যবস্থাগুলি অর্থনীতি, প্রযুক্তি এবং জাতীয় সুরক্ষার জন্য একেবারে কেন্দ্রীয় হবে এবং এত স্বায়ত্তশাসনের পক্ষে সক্ষম হবে যে আমি এটিকে কীভাবে কাজ করে তা সম্পর্কে সম্পূর্ণ অজ্ঞ হওয়ার জন্য এটি মূলত অগ্রহণযোগ্য বলে মনে করি।”
নৃতাত্ত্বিক যান্ত্রিক ব্যাখ্যার অন্যতম অগ্রণী সংস্থা, এটি এমন একটি ক্ষেত্র যা এআই মডেলগুলির ব্ল্যাক বক্সটি খোলার এবং তারা কেন সিদ্ধান্ত নেয় তা বোঝার লক্ষ্য। প্রযুক্তি শিল্পের এআই মডেলগুলির দ্রুত পারফরম্যান্সের উন্নতি সত্ত্বেও, এই সিস্টেমগুলি কীভাবে সিদ্ধান্তে আসে তা আমাদের এখনও তুলনামূলকভাবে সামান্য ধারণা রয়েছে।
উদাহরণস্বরূপ, ওপেনাই সম্প্রতি নতুন যুক্তিযুক্ত এআই মডেলগুলি চালু করেছে, ও 3 এবং ও 4-মিনিট, যা কিছু কার্যক্রমে আরও ভাল পারফর্ম করে, তবে এর অন্যান্য মডেলের চেয়ে বেশি হ্যালুসিনেট করে। এটি কেন ঘটছে তা সংস্থা জানে না।
“যখন কোনও জেনারেটর এআই সিস্টেম কিছু করে, যেমন কোনও আর্থিক নথির সংক্ষিপ্তসার হিসাবে, আমাদের কোনও নির্দিষ্ট বা সুনির্দিষ্ট স্তরে কোনও ধারণা নেই, কেন এটি পছন্দগুলি করে তোলে – কেন এটি অন্যের উপর কিছু শব্দ চয়ন করে, বা কেন এটি মাঝে মাঝে সঠিক হওয়া সত্ত্বেও ভুল করে তোলে,” অ্যামোডেই প্রবন্ধে লিখেছিলেন।
প্রবন্ধে, অ্যামোদেই নোট করেছেন যে নৃতাত্ত্বিক সহ-প্রতিষ্ঠাতা ক্রিস ওলা বলেছেন যে এআই মডেলগুলি “তারা নির্মিত হওয়ার চেয়ে বেশি বেড়ে ওঠে।” অন্য কথায়, এআই গবেষকরা এআই মডেল বুদ্ধি উন্নত করার উপায় খুঁজে পেয়েছেন, তবে তারা কেন তা পুরোপুরি জানেন না।
প্রবন্ধে, অ্যামোদেই বলেছেন যে এজিআই -তে পৌঁছানো বিপজ্জনক হতে পারে – বা যেমন তিনি এটিকে বলেছেন, “একটি ডেটা সেন্টারে প্রতিভাগুলির একটি দেশ” – এই মডেলগুলি কীভাবে কাজ করে তা না বুঝে। পূর্ববর্তী একটি প্রবন্ধে, অ্যামোদেই দাবি করেছিলেন যে প্রযুক্তি শিল্প 2026 বা 2027 সালের মধ্যে এই জাতীয় মাইলফলক পৌঁছতে পারে, তবে বিশ্বাস করে যে আমরা এই এআই মডেলগুলি পুরোপুরি বুঝতে থেকে অনেক বেশি দূরে রয়েছি।
দীর্ঘমেয়াদে, অ্যামোডেই বলেছেন যে নৃতাত্ত্বিক মূলত, অত্যাধুনিক এআই মডেলগুলির “মস্তিষ্কের স্ক্যান” বা “এমআরআই” পরিচালনা করতে চান। তিনি বলেছেন যে এই চেকআপগুলি এআই মডেলগুলিতে বিস্তৃত সমস্যাগুলি সনাক্ত করতে সহায়তা করবে, যার মধ্যে মিথ্যা কথা বলা, ক্ষমতা বা অন্যান্য দুর্বলতা অনুসন্ধান করার প্রবণতা রয়েছে। এটি অর্জনে পাঁচ থেকে দশ বছর সময় নিতে পারে, তবে নৃতাত্ত্বিক ভবিষ্যতের এআই মডেলগুলি পরীক্ষা এবং মোতায়েন করার জন্য এই ব্যবস্থাগুলি প্রয়োজনীয় হবে, তিনি যোগ করেছেন।
অ্যানথ্রোপিক কয়েকটি গবেষণা ব্রেকথ্রু তৈরি করেছে যা এর এআই মডেলগুলি কীভাবে কাজ করে তা আরও ভালভাবে বুঝতে পেরেছে। উদাহরণস্বরূপ, সংস্থাটি সম্প্রতি উপায়গুলি খুঁজে পেয়েছে একটি এআই মডেলের চিন্তাভাবনা পথগুলি ট্রেস করুনসংস্থাটি কী বলে, সার্কিট। অ্যানথ্রোপিক একটি সার্কিট চিহ্নিত করেছে যা এআই মডেলগুলিকে বুঝতে সহায়তা করে যে মার্কিন শহরগুলি কোন মার্কিন যুক্তরাষ্ট্রে রয়েছে। সংস্থাটি কেবল এই সার্কিটগুলির কয়েকটি খুঁজে পেয়েছে, তবে অনুমান করে যে এআই মডেলের মধ্যে কয়েক মিলিয়ন রয়েছে।
অ্যানথ্রোপিক নিজেই ব্যাখ্যাযোগ্যতা গবেষণায় বিনিয়োগ করে আসছে এবং সম্প্রতি তৈরি হয়েছে একটি স্টার্টআপে এটির প্রথম বিনিয়োগ ব্যাখ্যাযোগ্যতার উপর কাজ করা। প্রবন্ধে, অ্যামোডেই ওপেনএআই এবং গুগল ডিপমাইন্ডকে ক্ষেত্রের তাদের গবেষণার প্রচেষ্টা বাড়ানোর আহ্বান জানিয়েছেন।
অ্যামোডেই সরকারকে ব্যাখ্যাযোগ্যতা গবেষণা উত্সাহিত করার জন্য “হালকা-টাচ” প্রবিধান আরোপ করার আহ্বান জানায়, যেমন সংস্থাগুলির তাদের সুরক্ষা এবং সুরক্ষা অনুশীলনগুলি প্রকাশ করার প্রয়োজনীয়তা। প্রবন্ধে, অ্যামোডেই আরও বলেছে যে মার্কিন যুক্তরাষ্ট্রের চিপগুলিতে চিপগুলিতে রফতানি নিয়ন্ত্রণ রাখা উচিত, যাতে নিয়ন্ত্রণের বহিরাগত, গ্লোবাল এআই রেসের সম্ভাবনা সীমাবদ্ধ থাকে।
নৃতাত্ত্বিক সর্বদা ওপেনএআই এবং গুগল থেকে সুরক্ষার দিকে মনোনিবেশ করার জন্য দাঁড়িয়ে আছে। অন্যান্য প্রযুক্তি সংস্থাগুলি ক্যালিফোর্নিয়ার বিতর্কিত এআই সেফটি বিল, এসবি 1047 -এ ফিরে যাওয়ার সময়, নৃতাত্ত্বিক বিলটির জন্য বিনয়ী সমর্থন এবং সুপারিশ জারি করেছিল, যা ফ্রন্টিয়ার এআই মডেল বিকাশকারীদের জন্য সুরক্ষা প্রতিবেদনের মান নির্ধারণ করে।
এই ক্ষেত্রে, নৃতাত্ত্বিক মনে হয় এআই মডেলগুলি আরও ভাল করে বোঝার জন্য একটি শিল্প-ব্যাপী প্রচেষ্টার জন্য চাপ দিচ্ছে, কেবল তাদের ক্ষমতা বাড়ায় না।
[ad_2]
