[ad_1]
ওপেনএআই বলছে যে জৈবিক এবং রাসায়নিক হুমকির সাথে সম্পর্কিত প্রম্পটগুলির জন্য এটি তার সর্বশেষ এআই যুক্তিযুক্ত মডেলগুলি ও 3 এবং ও 4-মিনিট পর্যবেক্ষণ করতে একটি নতুন সিস্টেম মোতায়েন করেছে। সিস্টেমটির লক্ষ্য মডেলগুলিকে এমন পরামর্শ দেওয়া থেকে বিরত রাখা যা কাউকে সম্ভাব্য ক্ষতিকারক আক্রমণ চালানোর জন্য নির্দেশ দিতে পারে, ওপেনাইয়ের সুরক্ষা প্রতিবেদন অনুসারে।
সংস্থাটি বলেছে, ও 3 এবং ও 4-মিনিট ওপেনএআইয়ের আগের মডেলগুলির তুলনায় একটি অর্থবহ সক্ষমতা বৃদ্ধির প্রতিনিধিত্ব করে, এবং এইভাবে খারাপ অভিনেতাদের হাতে নতুন ঝুঁকি তৈরি করে। ওপেনাইয়ের অভ্যন্তরীণ মানদণ্ড অনুসারে, ও 3 বিশেষত নির্দিষ্ট ধরণের জৈবিক হুমকি তৈরির আশেপাশের প্রশ্নের উত্তর দেওয়ার ক্ষেত্রে আরও দক্ষ। এই কারণে-এবং অন্যান্য ঝুঁকি হ্রাস করার জন্য-ওপেনাই নতুন মনিটরিং সিস্টেম তৈরি করেছে, যা সংস্থাটি একটি “সুরক্ষা-কেন্দ্রিক যুক্তি মনিটর” হিসাবে বর্ণনা করেছে।
ওপেনাইয়ের বিষয়বস্তু নীতিগুলি সম্পর্কে যুক্তিযুক্ত কাস্টম-প্রশিক্ষিত মনিটরটি ও 3 এবং ও 4-মিনিটের শীর্ষে চলে। এটি জৈবিক এবং রাসায়নিক ঝুঁকির সাথে সম্পর্কিত প্রম্পটগুলি সনাক্ত করার জন্য এবং মডেলগুলিকে সেই বিষয়গুলিতে পরামর্শ দিতে অস্বীকার করার নির্দেশ দেওয়ার জন্য ডিজাইন করা হয়েছে।
একটি বেসলাইন স্থাপনের জন্য, ওপেনএইতে রেড টিমাররা ও 3 এবং ও 4-মিনিট থেকে বায়োরিস্ক সম্পর্কিত কথোপকথনকে “অনিরাপদ” পতাকাঙ্কিত করে প্রায় 1,000 ঘন্টা ব্যয় করেছিল। ওপেনাইয়ের মতে ওপেনাই তার সুরক্ষা মনিটরের “ব্লকিং লজিক” অনুকরণ করে এমন একটি পরীক্ষার সময়, মডেলগুলি ঝুঁকিপূর্ণ প্রতিক্রিয়া জানাতে অস্বীকার করেছিল 98.7% সময়, ওপেনাইয়ের মতে।
ওপেনাই স্বীকার করেছে যে এর পরীক্ষাটি মনিটরের দ্বারা অবরুদ্ধ হওয়ার পরে নতুন প্রম্পটগুলি চেষ্টা করতে পারে এমন লোকদের জন্য এটির পরীক্ষায় অ্যাকাউন্ট হয়নি, এ কারণেই সংস্থাটি বলেছে যে এটি মানব পর্যবেক্ষণের উপর নির্ভর করবে।
সংস্থাটির মতে ও 3 এবং ও 4-মিনিট ওপেনাইয়ের “উচ্চ ঝুঁকি” থ্রেশহোল্ডটি অতিক্রম করে না। তবে ও 1 এবং জিপিটি -4 এর সাথে তুলনা করে ওপেনএআই বলেছে যে ও 3 এবং ও 4-মিনিটের প্রাথমিক সংস্করণগুলি জৈবিক অস্ত্র বিকাশের আশেপাশের প্রশ্নের উত্তর দেওয়ার ক্ষেত্রে আরও সহায়ক প্রমাণিত হয়েছিল।
ওপেনাইয়ের সম্প্রতি আপডেট হওয়া অনুসারে সংস্থাটি কীভাবে তার মডেলগুলি দূষিত ব্যবহারকারীদের রাসায়নিক এবং জৈবিক হুমকির বিকাশ করা সহজ করে তুলতে পারে তা সক্রিয়ভাবে ট্র্যাক করছে প্রস্তুতি কাঠামো।
ওপেনএআই তার মডেলগুলি থেকে ঝুঁকিগুলি হ্রাস করতে ক্রমবর্ধমান স্বয়ংক্রিয় সিস্টেমগুলির উপর নির্ভর করছে। উদাহরণস্বরূপ, প্রতিরোধ করতে শিশু যৌন নির্যাতনের উপাদান (সিএসএএম) তৈরি করা থেকে জিপিটি -4o এর নেটিভ ইমেজ জেনারেটর (ওপেনাই বলছে যে এটি ও 3 এবং ও 4-মিনিটের জন্য মোতায়েনকারী সংস্থাটির অনুরূপ একটি যুক্তি মনিটরে ব্যবহার করে।
তবুও বেশ কয়েকটি গবেষক উদ্বেগ উত্থাপন করেছেন ওপেনাই যতটা উচিত সে সুরক্ষাকে অগ্রাধিকার দিচ্ছে না। কোম্পানির অন্যতম রেড-টিমিং অংশীদার, মেটার বলেছেন, প্রতারণামূলক আচরণের জন্য একটি মানদণ্ডে ও 3 পরীক্ষা করার তুলনামূলকভাবে খুব কম সময় ছিল। এদিকে, ওপেনাই তার জিপিটি -৪.১ মডেলের জন্য কোনও সুরক্ষা প্রতিবেদন প্রকাশ না করার সিদ্ধান্ত নিয়েছে, যা এই সপ্তাহের শুরুতে চালু হয়েছিল।
[ad_2]
