[ad_1]
বৃহস্পতিবার, এর সবচেয়ে শক্তিশালী এআই মডেল চালু করার কয়েক সপ্তাহ পরে, জেমিনি 2.5 প্রো, গুগল একটি প্রকাশ করেছে প্রযুক্তিগত প্রতিবেদন এর অভ্যন্তরীণ সুরক্ষা মূল্যায়নের ফলাফলগুলি দেখানো হচ্ছে। তবে, প্রতিবেদনটি বিশদগুলির বিষয়ে হালকা, বিশেষজ্ঞরা বলছেন, মডেলটি কোন ঝুঁকি তৈরি করতে পারে তা নির্ধারণ করা কঠিন করে তোলে।
প্রযুক্তিগত প্রতিবেদনগুলি দরকারী – এবং অবিস্মরণীয়, সময়ে সময়ে – এমন তথ্য সরবরাহ করে যা সংস্থাগুলি সর্বদা তাদের এআই সম্পর্কে ব্যাপকভাবে বিজ্ঞাপন দেয় না। বৃহত্তরভাবে, এআই সম্প্রদায় এই প্রতিবেদনগুলিকে স্বাধীন গবেষণা এবং সুরক্ষা মূল্যায়নকে সমর্থন করার জন্য ভাল-বিশ্বাসের প্রচেষ্টা হিসাবে দেখছে।
গুগল তার কিছু প্রতিদ্বন্দ্বীদের চেয়ে আলাদা সুরক্ষা প্রতিবেদনের পদ্ধতির গ্রহণ করে, প্রযুক্তিগত প্রতিবেদনগুলি প্রকাশ করে কেবল তখনই কোনও মডেলকে “পরীক্ষামূলক” পর্যায়ে থেকে স্নাতক হিসাবে বিবেচনা করে। সংস্থাটি এই লেখার আপগুলিতে তার সমস্ত “বিপজ্জনক ক্ষমতা” মূল্যায়নের অনুসন্ধানগুলিও অন্তর্ভুক্ত করে না; এটি পৃথক নিরীক্ষণের জন্য সেগুলি সংরক্ষণ করে।
টেকক্রাঞ্চের সাথে কথা বলার বেশ কয়েকটি বিশেষজ্ঞ এখনও জেমিনি 2.5 প্রো রিপোর্টের স্পারসিটি দ্বারা হতাশ ছিলেন, তবে তারা উল্লেখ করেছেন যে গুগলের উল্লেখ নেই সীমান্ত সুরক্ষা কাঠামো (এফএসএফ)। গুগল গত বছর এফএসএফকে ভবিষ্যতের এআই ক্ষমতাগুলি সনাক্ত করার প্রচেষ্টা হিসাবে বর্ণনা করেছে যা “মারাত্মক ক্ষতি” হতে পারে।
“এই [report] খুব বিরল, ন্যূনতম তথ্য রয়েছে এবং মডেলটি ইতিমধ্যে জনসাধারণের কাছে উপলব্ধ করার পরে কয়েক সপ্তাহ পরে প্রকাশিত হয়েছিল, “ইনস্টিটিউট ফর এআই পলিসি অ্যান্ড স্ট্র্যাটেজি-এর সহ-প্রতিষ্ঠাতা পিটার ওয়াইল্ডফোর্ড টেকক্রাঞ্চকে বলেছেন।” গুগল জনসাধারণের প্রতিশ্রুতি অনুসারে বেঁচে আছে কিনা তা যাচাই করা অসম্ভব এবং এইভাবে তাদের মডেলগুলির সুরক্ষা এবং সুরক্ষা মূল্যায়ন করা অসম্ভব কিনা তা যাচাই করা অসম্ভব। “
সিকিউর এআই প্রকল্পের সহ-প্রতিষ্ঠাতা টমাস উডসাইড বলেছিলেন যে তিনি যখন খুশি হলেন গুগল জেমিনি ২.৫ প্রো-এর জন্য একটি প্রতিবেদন প্রকাশ করেছেন, তিনি সময়মতো পরিপূরক সুরক্ষা মূল্যায়ন প্রদানের বিষয়ে কোম্পানির প্রতিশ্রুতি সম্পর্কে নিশ্চিত নন। উডসাইড উল্লেখ করেছিলেন যে গুগল শেষবারের মতো বিপজ্জনক সামর্থ্য পরীক্ষার ফলাফল প্রকাশ করেছিলেন ২০২৪ সালের জুনে – একই বছর ফেব্রুয়ারিতে ঘোষিত একটি মডেলের জন্য।
খুব বেশি আত্মবিশ্বাসকে অনুপ্রাণিত করে না, গুগল জেমিনি 2.5 ফ্ল্যাশের জন্য একটি প্রতিবেদন সরবরাহ করেনি, এটি একটি ছোট, আরও দক্ষ মডেল গত সপ্তাহে ঘোষণা করা হয়েছিল। একজন মুখপাত্র টেকক্রাঞ্চকে বলেছেন ফ্ল্যাশের জন্য একটি প্রতিবেদন “শীঘ্রই আসছে”।
“আমি আশা করি গুগলের আরও ঘন ঘন আপডেট প্রকাশ করা শুরু করার এটি একটি প্রতিশ্রুতি,” উডসাইড টেকক্রাঞ্চকে বলেছেন। “এই আপডেটগুলিতে এমন মডেলগুলির মূল্যায়নের ফলাফলগুলি অন্তর্ভুক্ত করা উচিত যা এখনও প্রকাশ্যে মোতায়েন করা হয়নি, কারণ এই মডেলগুলিও গুরুতর ঝুঁকি তৈরি করতে পারে।”
গুগল মডেলগুলির জন্য মানকৃত প্রতিবেদনগুলির প্রস্তাব দেওয়ার জন্য প্রথম এআই ল্যাবগুলির মধ্যে একটি হতে পারে, তবে ইদানীং স্বচ্ছতার উপর আন্ডারডিলিভারিংয়ের অভিযোগ এনে দেওয়া হয়নি। মেটা মুক্তি পেয়েছে ক একইভাবে স্কিম্পি সুরক্ষা মূল্যায়ন এর নতুন লামা 4 ওপেন মডেলগুলির মধ্যে এবং ওপেনাই তার জিপিটি -4.1 সিরিজের জন্য কোনও প্রতিবেদন প্রকাশ না করার সিদ্ধান্ত নিয়েছে।
গুগলের মাথার উপর ঝুলন্ত এআই সুরক্ষা পরীক্ষা এবং প্রতিবেদনের একটি উচ্চমান বজায় রাখতে নিয়ন্ত্রকদের কাছে প্রযুক্তি জায়ান্ট করা আশ্বাস দেয়। দুই বছর আগে, গুগল মার্কিন সরকারকে বলেছে এটি সমস্ত “উল্লেখযোগ্য” পাবলিক এআই মডেলগুলির জন্য “সুযোগের মধ্যে” সুরক্ষা প্রতিবেদনগুলি প্রকাশ করবে। সংস্থা অনুরূপ প্রতিশ্রুতি সহ সেই প্রতিশ্রুতি অনুসরণ করেছে থেকে অন্যান্য দেশএআই পণ্যগুলির চারপাশে “জনসাধারণের স্বচ্ছতা সরবরাহ” করার প্রতিশ্রুতি দেওয়া।
সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজির এআই গভর্নেন্সের সিনিয়র উপদেষ্টা কেভিন ব্যাংকস্টন, স্পোরডিক অ্যান্ড ভ্যুয়ের ট্রেন্ডকে এআই সুরক্ষার জন্য “নীচে রেস” রিপোর্ট করেছেন।
“ওপেনাইয়ের মতো প্রতিযোগিতামূলক ল্যাবগুলি কয়েক মাস ধরে মুক্তির আগে তাদের সুরক্ষা পরীক্ষার সময়কে শেভ করেছে এমন প্রতিবেদনের সাথে মিলিত হয়েছে, গুগলের শীর্ষ এআই মডেলের এই স্বল্প ডকুমেন্টেশন এআই সুরক্ষা এবং স্বচ্ছতার নীচে একটি প্রতিযোগিতার একটি উদ্বেগজনক কাহিনীকে বলেছে যেহেতু সংস্থাগুলি তাদের মডেলগুলিকে বাজারে নিয়ে যায়।”
গুগল বিবৃতিতে বলেছে যে, এর প্রযুক্তিগত প্রতিবেদনে বিশদ না থাকলেও এটি মুক্তির আগে মডেলগুলির জন্য সুরক্ষা পরীক্ষা এবং “প্রতিকূল রেড টিমিং” পরিচালনা করে।
[ad_2]
