জনপ্রিয় এলএলএমগুলি ডিফল্টরূপে নিরাপত্তাহীন কোড উত্পাদন করে

থেকে একটি নতুন গবেষণা ব্যাকস্ল্যাশ সুরক্ষা ওপেনাইয়ের জিপিটি, অ্যানথ্রোপিকের ক্লড এবং গুগলের জেমিনি সাতটি বর্তমান সংস্করণগুলি দেখুন সুরক্ষিত কোড উত্পাদন করার দক্ষতার উপর বিভিন্ন প্রম্পট কৌশলগুলির প্রভাব পরীক্ষা করার জন্য।

‘নিষ্পাপ’ থেকে ‘বিস্তৃত’ পর্যন্ত তিনটি স্তরের প্রম্পটিং কৌশলগুলি প্রতিদিনের ব্যবহারের ক্ষেত্রে কোড তৈরি করতে ব্যবহৃত হত। কোড আউটপুট 10 সাধারণ দুর্বলতা গণনা (সিডব্লিউই) ব্যবহারের ক্ষেত্রে এর স্থিতিস্থাপকতা দ্বারা পরিমাপ করা হয়েছিল। ফলাফলগুলি দেখায় যে সুরক্ষিত কোড আউটপুট সাফল্য প্রম্পট পরিশীলনের সাথে উত্থিত হয় সমস্ত এলএলএম সাধারণত ডিফল্টরূপে নিরাপত্তাহীন কোড তৈরি করে।

সহজ প্রতিক্রিয়া হিসাবে, ‘নিষ্পাপ’ অনুরোধ জানায়, সমস্ত এলএলএম পরীক্ষিত উত্পন্ন অনিরাপদ কোডটি 10 ​​টি সাধারণ সিডব্লিউইগুলির মধ্যে কমপক্ষে চারজনের জন্য ঝুঁকিপূর্ণ। নির্দোষ প্রম্পটগুলি কেবল সুরক্ষা প্রয়োজনীয়তা নির্দিষ্ট না করে নির্দিষ্ট অ্যাপ্লিকেশনটির জন্য কোড তৈরি করতে বলা হয়।

প্রম্পটগুলি যা সাধারণত সুরক্ষার প্রয়োজনীয়তা নির্দিষ্ট করে আরও সুরক্ষিত ফলাফল তৈরি করে, যখন ওপেন ওয়েব অ্যাপ্লিকেশন সুরক্ষা প্রকল্পের (ওডাব্লুএএসপি) মেনে চলার জন্য অনুরোধ করা কোডগুলি অনুরোধ করে সর্বোত্তম অনুশীলনগুলি উচ্চতর ফলাফল তৈরি করে, তবুও উভয়ই পরীক্ষিত সাতটি এলএলএমের মধ্যে পাঁচটির জন্য কিছু কোড দুর্বলতা অর্জন করেছে।

সামগ্রিকভাবে, ওপেনাইয়ের জিপিটি -4o এর সমস্ত প্রম্পট জুড়ে সর্বনিম্ন পারফরম্যান্স ছিল, ‘নিষ্পাপ’ প্রম্পটগুলি ব্যবহার করে 1/10 সুরক্ষিত কোড ফলাফল স্কোর করে। যখন সিকিউর কোড উত্পন্ন করার অনুরোধ জানানো হয়, তখনও এটি 10 ​​টির মধ্যে 8 টির মধ্যে অনিরাপদ আউটপুটগুলিকে দুর্বল করে তোলে। জিপিটি -4.1 1.5/10 স্কোর করে নিষ্পাপ প্রম্পটগুলির সাথে আরও ভাল ভাড়া দেয়নি।

জেনাই সরঞ্জামগুলির মধ্যে, সেরা অভিনয়শিল্পী ছিলেন ক্লড 3.7 সনেট, 6-10 স্কোর করে নিষ্পাপ প্রম্পটগুলি ব্যবহার করে এবং 10-10 সুরক্ষা-কেন্দ্রিক অনুরোধগুলি সহ 10-10।

“সুরক্ষা দলগুলির জন্য, এআই-উত্পাদিত কোড-বা ভাইব কোডিং-একটি দুঃস্বপ্নের মতো অনুভব করতে পারে,” ব্যাকস্ল্যাশ সিকিউরিটির সহ-প্রতিষ্ঠাতা এবং সিটিও ইয়োসি পাইক বলেছেন। “এটি নতুন কোডের একটি বন্যা তৈরি করে এবং এলএলএম ঝুঁকিগুলি হ্যালুসিনেশন এবং প্রম্পট সংবেদনশীলতার মতো নিয়ে আসে But যুগ। “

আপনি আরও পড়তে পারেন ব্যাকস্ল্যাশ ব্লগ।

চিত্র ক্রেডিট:: মেশকুব/ডিপোজিটফোটস ডটকম