গুগলের এআই ওভারভিউগুলি আত্মবিশ্বাসের সাথে মেক-আপ আইডিয়ামগুলি ব্যাখ্যা করে

ভাষা প্রায় অসীম জটিল বলে মনে হতে পারে, ভিতরে রসিকতা এবং আইডিয়ামগুলি কখনও কখনও কেবলমাত্র একটি ছোট্ট লোকের জন্য অর্থ রাখে এবং আমাদের বাকিদের কাছে অর্থহীন বলে মনে হয়। জেনারেটর এআইকে ধন্যবাদ, এমনকি এই সপ্তাহে অর্থহীন পাওয়া অর্থের অর্থ হ’ল ইন্টারনেট গুগল অনুসন্ধানের এআই ওভারভিউগুলির দক্ষতার উপর ব্রুক ট্রাউটের মতো উড়ে গেছে কারণ বাক্যাংশগুলি সংজ্ঞায়িত করার আগে কখনও উচ্চারণ করা হয়নি।

কী, আপনি কখনও “ব্রুক ট্রাউটের মতো উড়ে গেছে” শব্দটি শুনেন নি? অবশ্যই, আমি কেবল এটি তৈরি করেছি, তবে গুগলের এআই ওভারভিউর ফলাফল আমাকে বলেছিল যে এটি “কিছু বিস্ফোরিত হওয়ার বা দ্রুত সংবেদন হয়ে ওঠার একটি কথোপকথন উপায়,” সম্ভবত মাছের চিত্তাকর্ষক রঙ এবং চিহ্নগুলি উল্লেখ করে। না, এটি বোঝা যায় না।

এই প্রবণতাটি থ্রেডগুলিতে শুরু হতে পারে, যেখানে লেখক এবং চিত্রনাট্যকার মেঘান উইলসন আনাস্তাসিওস যা হয়েছে তা ভাগ করে নিয়েছে যখন তিনি “চিনাবাদাম মাখন প্ল্যাটফর্ম হিল” অনুসন্ধান করেছিলেন। গুগল একটি (বাস্তব নয়) বৈজ্ঞানিক পরীক্ষার উল্লেখ করে একটি ফলাফল ফিরিয়ে দিয়েছিল যেখানে উচ্চ চাপের মধ্যে হীরা তৈরির জন্য চিনাবাদাম মাখন ব্যবহার করা হত।

এটি ব্লুস্কির মতো অন্যান্য সোশ্যাল মিডিয়া সাইটগুলিতে চলে গেছে, যেখানে লোকেরা গুগলের বাক্যাংশের ব্যাখ্যা ভাগ করে নিয়েছিল “আপনি দু’বার ব্যাজার চাটতে পারবেন না।” গেম: শেষে “অর্থ” সহ অযৌক্তিক বাক্যাংশ, একটি উপন্যাস অনুসন্ধান করুন।

সেখান থেকে জিনিসগুলি ঘুরিয়ে দেওয়া হয়েছে।

এই মেমটি কমিক ত্রাণের চেয়ে আরও বেশি কারণে আকর্ষণীয়। এটি দেখায় যে বড় ভাষার মডেলগুলি কীভাবে উত্তর দিতে পারে শব্দ সঠিক, এক না হয় সঠিক।

“এগুলি ইনপুটটি সম্পূর্ণ অযৌক্তিক হলেও সাবলীল, প্রশংসনীয়-সাউন্ডিং প্রতিক্রিয়া তৈরি করার জন্য ডিজাইন করা হয়েছে,” ইয়াফ্যাং লিমেমফিস বিশ্ববিদ্যালয়ের ফোগেলম্যান কলেজ অফ বিজনেস অ্যান্ড ইকোনমিক্সের সহকারী অধ্যাপক। “সত্য যাচাই করার জন্য তাদের প্রশিক্ষণ দেওয়া হয় না। তাদের সাজা শেষ করার প্রশিক্ষণ দেওয়া হয়।”

পিজ্জা আঠালো মত

গুগলের এআই ওভারভিউ সম্পর্কে সমস্ত সত্য গল্পের স্মৃতি ফিরিয়ে এনেছে যা মৌলিক প্রশ্নগুলিতে অবিশ্বাস্যভাবে ভুল উত্তর দেয়-যেমন যখন এটি পনির স্টিককে সহায়তা করার জন্য পিজ্জাতে আঠালো রাখার পরামর্শ দেয় তখন।

এই প্রবণতাটি কমপক্ষে কিছুটা বেশি নিরীহ বলে মনে হচ্ছে কারণ এটি কার্যক্ষম পরামর্শকে কেন্দ্র করে না। আমি বলতে চাইছি, আমি এক আশা করি যে কেউ একবার ব্যাজার চাটানোর চেষ্টা করে না, দু’বার খুব কম। তবে এর পিছনে সমস্যাটি একই – এআই ওভারভিউয়ের পিছনে গুগলের মিথুনের মতো একটি বৃহত ভাষার মডেল আপনার প্রশ্নের উত্তর দেওয়ার চেষ্টা করে এবং একটি সম্ভাব্য প্রতিক্রিয়া সরবরাহ করে। এমনকি যদি এটি আপনাকে দেয় তবে তা বাজে।

গুগলের একজন মুখপাত্র বলেছেন, এআই ওভারভিউগুলি শীর্ষ ওয়েব ফলাফল দ্বারা সমর্থিত তথ্য প্রদর্শন করার জন্য ডিজাইন করা হয়েছে এবং তাদের অন্যান্য অনুসন্ধান বৈশিষ্ট্যের সাথে তুলনীয় নির্ভুলতার হার রয়েছে।

“লোকেরা যখন অযৌক্তিক বা ‘মিথ্যা ভিত্তি’ অনুসন্ধান করে, তখন আমাদের সিস্টেমগুলি উপলব্ধ সীমিত ওয়েব সামগ্রীর উপর ভিত্তি করে সর্বাধিক প্রাসঙ্গিক ফলাফলগুলি সন্ধান করার চেষ্টা করবে,” গুগলের মুখপাত্র বলেছেন। “এটি সামগ্রিকভাবে অনুসন্ধানের ক্ষেত্রে সত্য এবং কিছু ক্ষেত্রে এআই ওভারভিউগুলি সহায়ক প্রসঙ্গ সরবরাহের প্রয়াসেও ট্রিগার করবে।”

এই বিশেষ কেসটি একটি “ডেটা অকার্যকর”, যেখানে অনুসন্ধান ক্যোয়ারির জন্য প্রচুর প্রাসঙ্গিক তথ্য উপলব্ধ নেই। মুখপাত্র বলেছেন যে গুগল পর্যাপ্ত তথ্য ছাড়াই এআই ওভারভিউগুলি অনুসন্ধানগুলিতে উপস্থিত হয় এবং বিভ্রান্তিকর, ব্যঙ্গাত্মক বা অস্বাস্থ্যকর সামগ্রী সরবরাহ থেকে বিরত রাখে তখন গুগল সীমাবদ্ধ করার কাজ করছে। গুগল এআই ওভারভিউগুলি কখন উপস্থিত হওয়া উচিত এবং উপস্থিত না হওয়া উচিত তা আরও ভালভাবে বুঝতে এই জাতীয় প্রশ্নের তথ্য ব্যবহার করে।

আপনি যদি কোনও জাল বাক্যাংশের অর্থ জিজ্ঞাসা করেন তবে আপনি সর্বদা একটি মেক-আপ সংজ্ঞা পাবেন না। এই বিভাগটির শিরোনাম খসড়া করার সময়, আমি “পিজ্জা অর্থের মতো আঠালোটির মতো” অনুসন্ধান করেছি এবং এটি এআই ওভারভিউকে ট্রিগার করে না।

সমস্যাটি এলএলএম জুড়ে সর্বজনীন বলে মনে হয় না। আমি “আপনি দু’বার ব্যাজার চাটতে পারবেন না” এর অর্থের জন্য চ্যাটজিপিটিকে জিজ্ঞাসা করেছি এবং এটি আমাকে বলেছিল “একটি মানক প্রতিমা নয়, তবে এটি অবশ্যই শব্দ যে ধরণের উদ্বেগজনক, দেহাতি প্রবাদটি কেউ ব্যবহার করতে পারে তার মতো “” যদিও এটি কোনওভাবেই একটি সংজ্ঞা দেওয়ার চেষ্টা করেছিল, মূলত: “আপনি যদি কিছু বেপরোয়া কিছু করেন বা একবার বিপদ প্ররোচিত করেন তবে আপনি আবার এটি করতে বাঁচতে পারেন না।”

আরও পড়ুন: এআই প্রয়োজনীয়তা: আমাদের বিশেষজ্ঞদের মতে জেনারেল এআই আপনার জন্য কাজ করার 27 টি উপায়

কোথাও থেকে অর্থ টানছে

এই ঘটনাটি এলএলএমএসের স্টাফ আপ করার প্রবণতার একটি বিনোদনমূলক উদাহরণ – এআই ওয়ার্ল্ডকে “হ্যালুসিনেটিং” বলে। যখন কোনও জেনার এআই মডেল হ্যালুসিনেট করে, তখন এটি এমন তথ্য তৈরি করে যা মনে হয় এটি প্রশংসনীয় বা নির্ভুল হতে পারে তবে বাস্তবে এটি মূল নয়।

এলএলএম হ’ল “ফ্যাক্ট জেনারেটর নয়,” লি বলেছেন, তারা কেবল তাদের প্রশিক্ষণের ভিত্তিতে ভাষার পরবর্তী যৌক্তিক বিটগুলির পূর্বাভাস দেয়।

সাম্প্রতিক এক সমীক্ষায় বেশিরভাগ এআই গবেষক জানিয়েছেন যে তারা এআইয়ের নির্ভুলতা এবং বিশ্বাসযোগ্যতার সমস্যাগুলি শীঘ্রই সমাধান করা হবে বলে সন্দেহ করেছেন।

নকল সংজ্ঞাগুলি কেবল অসম্পূর্ণতা নয় বরং দেখায় আত্মবিশ্বাসী এলএলএমএসের অসম্পূর্ণতা। আপনি যখন কোনও ব্যক্তিকে “সাইবারট্রাকের কাছ থেকে আপনি কোনও টার্কি পেতে পারবেন না” এর মতো বাক্যাংশের অর্থের জন্য জিজ্ঞাসা করেন, আপনি সম্ভবত তাদের আশা করেন যে তারা এটি শুনেনি এবং এটি কোনও অর্থবোধ করে না। এলএলএম প্রায়শই একই আত্মবিশ্বাসের সাথে প্রতিক্রিয়া দেখায় যেন আপনি কোনও বাস্তব প্রতিমাটির সংজ্ঞা জিজ্ঞাসা করছেন।

এই ক্ষেত্রে, গুগল বলেছে যে এই শব্দগুচ্ছের অর্থ টেসলার সাইবারট্রাক “থ্যাঙ্কসগিভিং টার্কি বা অন্যান্য অনুরূপ আইটেম সরবরাহ করতে ডিজাইন বা সক্ষম নয়” এবং “এর স্বতন্ত্র, ভবিষ্যত নকশা যা বিশাল পণ্য বহন করার পক্ষে উপযুক্ত নয়” হাইলাইট করে। ” পোড়া

এই হাস্যকর প্রবণতায় একটি অশুভ পাঠ রয়েছে: আপনি চ্যাটবোট থেকে যা কিছু দেখেন তা বিশ্বাস করবেন না। এটি পাতলা বাতাসের বাইরে স্টাফ তৈরি করছে এবং এটি প্রয়োজনীয়ভাবে এটি অনিশ্চিত নির্দেশ করবে না।

লি বলেছেন, “শিক্ষিকা এবং গবেষকদের পক্ষে এই পরিস্থিতিগুলি ব্যবহার করার জন্য এটি একটি নিখুঁত মুহূর্ত। “ব্যবহারকারীদের সর্বদা সংশয়ী থাকা উচিত এবং দাবিগুলি যাচাই করা উচিত” “

আপনি যা অনুসন্ধান করেন সে সম্পর্কে সাবধানতা অবলম্বন করুন

যেহেতু আপনি আপনার পক্ষে কোনও এলএলএমকে সন্দেহজনক হতে বিশ্বাস করতে পারবেন না, তাই আপনি যা বলছেন তা নুনের দানা দিয়ে নিতে আপনাকে উত্সাহিত করতে হবে।

লি বলেছেন, “ব্যবহারকারীরা যখন প্রম্পট প্রবেশ করেন, মডেলটি কেবল এটি বৈধ বলে ধরে নেয় এবং তারপরে এর জন্য সবচেয়ে সম্ভবত সঠিক উত্তর উত্পন্ন করতে এগিয়ে যায়,” লি বলেছেন।

সমাধানটি হ’ল আপনার প্রম্পটে সংশয়বাদ প্রবর্তন করা। অপরিচিত বাক্যাংশ বা আইডিয়মের অর্থ জিজ্ঞাসা করবেন না। এটি বাস্তব কিনা জিজ্ঞাসা করুন। লি আপনাকে জিজ্ঞাসা করার পরামর্শ দিলেন “এটি কি সত্যিকারের প্রতিমা?”

“এটি মডেলটিকে কেবল অনুমান করার পরিবর্তে বাক্যাংশটি সনাক্ত করতে সহায়তা করতে পারে,” তিনি বলেছিলেন।