ওপেনএআই বলেছে যে এআই ব্রাউজারগুলি সর্বদা ইঞ্জেকশন আক্রমণের জন্য দুর্বল হতে পারে

এমনকি OpenAI সাইবার অ্যাটাকগুলির বিরুদ্ধে তার Atlas AI ব্রাউজারকে কঠোর করার জন্য কাজ করে, কোম্পানি স্বীকার করে যে প্রম্পট ইনজেকশন, এক ধরনের আক্রমণ যা AI এজেন্টদের ম্যানিপুলেট করে ওয়েব পেজ বা ইমেলে লুকানো দূষিত নির্দেশাবলী অনুসরণ করতে, একটি ঝুঁকি যা শীঘ্রই দূর হবে না – AI এজেন্ট কতটা নিরাপদে ওয়েবে কাজ করতে পারে সে সম্পর্কে প্রশ্ন উত্থাপন করে৷

“প্রম্পট ইনজেকশন, অনেকটা ওয়েবে স্ক্যাম এবং সোশ্যাল ইঞ্জিনিয়ারিংয়ের মতো, কখনও সম্পূর্ণ ‘সমাধান’ হওয়ার সম্ভাবনা নেই,” OpenAI সোমবারে লিখেছেন ব্লগ পোস্ট কীভাবে ফার্মটি অবিরাম আক্রমণের মোকাবিলায় অ্যাটলাসের বর্ম তৈরি করছে তার বিশদ বিবরণ। সংস্থাটি স্বীকার করেছে যে ChatGPT অ্যাটলাসে “এজেন্ট মোড” “নিরাপত্তা হুমকির পৃষ্ঠকে প্রসারিত করে।”

OpenAI অক্টোবরে তার ChatGPT Atlas ব্রাউজার চালু করেছে, এবং নিরাপত্তা গবেষকরা তাদের ডেমো প্রকাশ করতে ছুটে এসেছেন, দেখিয়েছেন যে Google ডক্সে কিছু শব্দ লেখা সম্ভব ছিল যা অন্তর্নিহিত ব্রাউজারের আচরণ পরিবর্তন করতে সক্ষম। সেদিনই সাহসী একটি ব্লগ পোস্ট প্রকাশিত ব্যাখ্যা করে যে পরোক্ষ প্রম্পট ইনজেকশন AI-চালিত ব্রাউজারগুলির জন্য একটি পদ্ধতিগত চ্যালেঞ্জ, যার মধ্যে Perplexity’s Cometও রয়েছে।

প্রম্পট-ভিত্তিক ইনজেকশনগুলি দূরে যাচ্ছে না তা স্বীকার করার ক্ষেত্রে OpenAI একা নয়। দ এই মাসের শুরুতে যুক্তরাজ্যের ন্যাশনাল সাইবার সিকিউরিটি সেন্টার সতর্ক করেছে যে জেনারেটিভ AI অ্যাপ্লিকেশনগুলির বিরুদ্ধে প্রম্পট ইনজেকশন আক্রমণ “সম্পূর্ণভাবে প্রশমিত হতে পারে না,” ওয়েবসাইটগুলিকে ডেটা লঙ্ঘনের শিকার হওয়ার ঝুঁকিতে ফেলে। যুক্তরাজ্যের সরকারী সংস্থা সাইবার পেশাদারদের পরামর্শ দিয়েছে যে আক্রমণগুলি “বন্ধ করা যেতে পারে” ভাবার পরিবর্তে দ্রুত ইনজেকশনের ঝুঁকি এবং প্রভাব কমাতে।

OpenAI এর অংশের জন্য, কোম্পানি বলেছে: “আমরা প্রম্পট ইনজেকশনকে একটি দীর্ঘমেয়াদী AI নিরাপত্তা চ্যালেঞ্জ হিসেবে দেখি, এবং এর বিরুদ্ধে আমাদের প্রতিরক্ষাকে ক্রমাগত শক্তিশালী করতে হবে।”

কোম্পানির এই সিসিফিয়ান টাস্কের উত্তর? একটি সক্রিয়, দ্রুত-প্রতিক্রিয়া চক্র যা ফার্ম বলেছে যে তারা “বন্যে” শোষিত হওয়ার আগে অভ্যন্তরীণভাবে অভিনব আক্রমণ কৌশলগুলি আবিষ্কার করতে সহায়তা করার প্রাথমিক প্রতিশ্রুতি দেখাচ্ছে।

অ্যানথ্রোপিক এবং গুগলের মতো প্রতিদ্বন্দ্বীরা যা বলেছে তার থেকে এটি সম্পূর্ণ আলাদা নয়: তাৎক্ষণিক-ভিত্তিক আক্রমণের ক্রমাগত ঝুঁকির বিরুদ্ধে লড়াই করার জন্য, প্রতিরক্ষাগুলি অবশ্যই স্তরযুক্ত এবং ক্রমাগত চাপ-পরীক্ষিত হতে হবে। গুগলের সাম্প্রতিক কাজউদাহরণস্বরূপ, এজেন্টিক সিস্টেমের জন্য স্থাপত্য এবং নীতি-স্তরের নিয়ন্ত্রণগুলিতে ফোকাস করে।

কিন্তু যেখানে ওপেনএআই একটি ভিন্ন কৌশল নিচ্ছে তার “LLM-ভিত্তিক স্বয়ংক্রিয় আক্রমণকারী” এর সাথে। এই আক্রমণকারী মূলত একটি বট যাকে OpenAI প্রশিক্ষিত করেছে, রিইনফোর্সমেন্ট লার্নিং ব্যবহার করে, এমন একটি হ্যাকারের ভূমিকা পালন করতে যা একটি AI এজেন্টের কাছে দূষিত নির্দেশগুলি লুকিয়ে রাখার উপায় খোঁজে৷

বট বাস্তবে এটি ব্যবহার করার আগে সিমুলেশনে আক্রমণটি পরীক্ষা করতে পারে এবং সিমুলেটরটি দেখায় যে লক্ষ্য এআই কীভাবে চিন্তা করবে এবং আক্রমণটি দেখলে এটি কী পদক্ষেপ নেবে। বট তারপর সেই প্রতিক্রিয়াটি অধ্যয়ন করতে পারে, আক্রমণটি পরিবর্তন করতে পারে এবং বারবার চেষ্টা করতে পারে। লক্ষ্য AI এর অভ্যন্তরীণ যুক্তির অন্তর্দৃষ্টি হল এমন কিছু যা বাইরেরদের অ্যাক্সেস নেই, তাই, তত্ত্বগতভাবে, OpenAI এর বট একটি বাস্তব-বিশ্ব আক্রমণকারীর চেয়ে দ্রুত ত্রুটিগুলি খুঁজে পেতে সক্ষম হওয়া উচিত।

এটি এআই নিরাপত্তা পরীক্ষার একটি সাধারণ কৌশল: প্রান্তের কেসগুলি খুঁজে বের করার জন্য একটি এজেন্ট তৈরি করুন এবং সিমুলেশনে দ্রুত তাদের বিরুদ্ধে পরীক্ষা করুন।

“আমাদের [reinforcement learning]-প্রশিক্ষিত আক্রমণকারী একজন এজেন্টকে অত্যাধুনিক, দীর্ঘ-দিগন্তের ক্ষতিকারক কর্মপ্রবাহ চালাতে পারে যা দশ (অথবা শত শত) ধাপে উন্মোচিত হয়, “ওপেনএআই লিখেছেন। “আমরা অভিনব আক্রমণ কৌশলগুলিও পর্যবেক্ষণ করেছি যা আমাদের মানব রেড টিমিং প্রচারাভিযান বা বাহ্যিক প্রতিবেদনে দেখা যায়নি।”

একটি ডেমোতে (উপরের অংশে চিত্রিত), OpenAI দেখিয়েছে কিভাবে তার স্বয়ংক্রিয় আক্রমণকারী ব্যবহারকারীর ইনবক্সে একটি দূষিত ইমেল স্লিপ করেছে। এআই এজেন্ট যখন পরে ইনবক্সটি স্ক্যান করে, তখন এটি ইমেলে লুকানো নির্দেশাবলী অনুসরণ করে এবং অফিসের বাইরের উত্তর খসড়া না করে পদত্যাগের বার্তা পাঠায়। কিন্তু নিরাপত্তা আপডেটের পরে, “এজেন্ট মোড” সফলভাবে প্রম্পট ইনজেকশন প্রচেষ্টা সনাক্ত করতে সক্ষম হয়েছিল এবং এটি ব্যবহারকারীর কাছে পতাকাঙ্কিত করতে সক্ষম হয়েছিল, কোম্পানির মতে।

কোম্পানী বলেছে যে প্রম্পট ইনজেকশনের বিরুদ্ধে একটি নির্বোধ উপায়ে সুরক্ষিত করা কঠিন, এটি বাস্তব-বিশ্বের আক্রমণে প্রদর্শিত হওয়ার আগে এটির সিস্টেমগুলিকে শক্ত করার জন্য বড় আকারের পরীক্ষা এবং দ্রুত প্যাচ চক্রের উপর ঝুঁকছে।

একজন ওপেনএআই মুখপাত্র অ্যাটলাসের নিরাপত্তার আপডেটের ফলে সফল ইনজেকশনের পরিমাপযোগ্য হ্রাস হয়েছে কিনা তা শেয়ার করতে অস্বীকৃতি জানিয়েছেন, কিন্তু বলেছেন যে ফার্মটি লঞ্চের আগে থেকে প্রম্পট ইনজেকশনের বিরুদ্ধে অ্যাটলাসকে শক্ত করার জন্য তৃতীয় পক্ষের সাথে কাজ করছে।

সাইবারসিকিউরিটি ফার্ম উইজ-এর প্রধান নিরাপত্তা গবেষক রামি ম্যাকার্থি বলেছেন যে আক্রমণকারী আচরণের সাথে ক্রমাগত খাপ খাইয়ে নেওয়ার একটি উপায় হল রিইনফোর্সমেন্ট লার্নিং, কিন্তু এটি ছবির একটি অংশ মাত্র।

ম্যাককার্থি টেকক্রাঞ্চকে বলেন, “এআই সিস্টেমে ঝুঁকি সম্পর্কে যুক্তি দেওয়ার একটি দরকারী উপায় হল অ্যাক্সেস দ্বারা গুণিত স্বায়ত্তশাসন৷

“এজেন্টিক ব্রাউজারগুলি সেই স্থানের একটি চ্যালেঞ্জিং অংশে বসে থাকে: খুব উচ্চ অ্যাক্সেসের সাথে মিলিত মধ্যম স্বায়ত্তশাসন,” ম্যাকার্থি বলেছেন। “অনেক বর্তমান সুপারিশগুলি সেই ট্রেড-অফটিকে প্রতিফলিত করে৷ লগ-ইন অ্যাক্সেস সীমিত করা প্রাথমিকভাবে এক্সপোজারকে হ্রাস করে, যখন নিশ্চিতকরণ অনুরোধগুলির পর্যালোচনার প্রয়োজন স্বায়ত্তশাসনকে বাধা দেয়।”

ব্যবহারকারীদের নিজেদের ঝুঁকি কমাতে ওপেনএআই-এর দুটি সুপারিশ এবং একজন মুখপাত্র বলেছেন যে বার্তা পাঠানো বা অর্থপ্রদান করার আগে ব্যবহারকারীর নিশ্চিতকরণ পেতেও অ্যাটলাস প্রশিক্ষিত। OpenAI এও পরামর্শ দেয় যে ব্যবহারকারীরা এজেন্টদের আপনার ইনবক্সে অ্যাক্সেস প্রদান করার পরিবর্তে এবং “যা কিছু প্রয়োজন তা গ্রহণ করতে” বলার পরিবর্তে নির্দিষ্ট নির্দেশনা দেয়।

“বিস্তৃত অক্ষাংশ লুকানো বা দূষিত বিষয়বস্তুর পক্ষে এজেন্টকে প্রভাবিত করা সহজ করে তোলে, এমনকি যখন সুরক্ষা ব্যবস্থা রয়েছে,” ওপেনএআই অনুসারে৷

যদিও ওপেনএআই বলেছে যে অ্যাটলাস ব্যবহারকারীদের প্রম্পট ইনজেকশন থেকে রক্ষা করা একটি শীর্ষ অগ্রাধিকার, ম্যাককার্থি ঝুঁকি-প্রবণ ব্রাউজারগুলির জন্য বিনিয়োগের রিটার্ন সম্পর্কে কিছু সংশয়কে আমন্ত্রণ জানিয়েছেন।

“বেশিরভাগ দৈনন্দিন ব্যবহারের ক্ষেত্রে, এজেন্টিক ব্রাউজারগুলি এখনও তাদের বর্তমান ঝুঁকির প্রোফাইলকে ন্যায্যতা দেওয়ার জন্য যথেষ্ট মান সরবরাহ করে না,” ম্যাকার্থি টেকক্রাঞ্চকে বলেছেন। “ইমেল এবং অর্থপ্রদানের তথ্যের মতো সংবেদনশীল ডেটাতে তাদের অ্যাক্সেসের কারণে ঝুঁকি বেশি, যদিও সেই অ্যাক্সেসই তাদের শক্তিশালী করে তোলে। সেই ভারসাম্যটি বিকশিত হবে, কিন্তু আজ ট্রেড-অফগুলি এখনও খুব বাস্তব।”