[ad_1]
কৃত্রিম গোয়েন্দা সংস্থাগুলি সেরা এবং সবচেয়ে শক্তিশালী সরঞ্জামগুলি বিকাশের জন্য ব্রেকনেক গতিতে কাজ করছে, তবে দ্রুত বিকাশ সর্বদা এআইয়ের সীমাবদ্ধতা বা দুর্বলতাগুলির সুস্পষ্ট বোঝার সাথে মিলিত হয়নি। আজ, নৃতাত্ত্বিক মুক্তি একটি রিপোর্ট আক্রমণকারীরা কীভাবে একটি বৃহত ভাষার মডেলের বিকাশকে প্রভাবিত করতে পারে সে সম্পর্কে।
গবেষণায় বিষক্রিয়া নামক এক ধরণের আক্রমণকে কেন্দ্র করে, যেখানে একটি এলএলএম এটি বিপজ্জনক বা অযাচিত আচরণ শিখতে তৈরি করার উদ্দেশ্যে দূষিত সামগ্রীতে প্রাক -প্রাক -প্রাক -প্রাক -প্রাক -প্রাক -আচরণ করে। এই গবেষণা থেকে মূল সন্ধানটি হ’ল এলএলএমকে বিষাক্ত করার জন্য কোনও খারাপ অভিনেতাকে প্রিট্রেনিং উপকরণগুলির শতাংশ নিয়ন্ত্রণ করার দরকার নেই। পরিবর্তে, গবেষকরা আবিষ্কার করেছেন যে একটি ছোট এবং মোটামুটি ধ্রুবক সংখ্যক দূষিত দলিলগুলি মডেলটির আকার বা এর প্রশিক্ষণ উপকরণ নির্বিশেষে একটি এলএলএমকে বিষাক্ত করতে পারে। অধ্যয়নটি প্রিট্রেনিং ডেটা সেটে কেবল 250 টি দূষিত নথি ব্যবহারের ভিত্তিতে সফলভাবে ব্যাকডোর এলএলএম করতে সক্ষম হয়েছিল, এটি 600 মিলিয়ন থেকে 13 বিলিয়ন প্যারামিটার পর্যন্ত মডেলগুলির জন্য প্রত্যাশার চেয়ে অনেক কম সংখ্যা।
সংস্থাটি বলেছে, “আমরা এই অনুসন্ধানগুলি ভাগ করে নিচ্ছি যে ডেটা-কেনা আক্রমণগুলি বিশ্বাসের চেয়ে বেশি ব্যবহারিক হতে পারে এবং এর বিরুদ্ধে ডেটা বিষ এবং সম্ভাব্য প্রতিরক্ষা সম্পর্কে আরও গবেষণা উত্সাহিত করতে পারে,” সংস্থাটি বলেছে। নৃতাত্ত্বিক ইউকে এআই সুরক্ষা ইনস্টিটিউট এবং গবেষণা সম্পর্কিত অ্যালান টুরিং ইনস্টিটিউটের সাথে সহযোগিতা করেছে।
[ad_2]
