চ্যাটজিপ্ট একবারে ধরে নেওয়া হিসাবে শক্তি-ক্ষুধার্ত নাও হতে পারে

চ্যাটজিপ্ট, ওপেনএইয়ের চ্যাটবট প্ল্যাটফর্ম, একবারের মতো শক্তি-ক্ষুধার্ত নাও হতে পারে। তবে এর ক্ষুধা মূলত চ্যাটজিপিটি কীভাবে ব্যবহৃত হচ্ছে এবং এআই মডেলগুলি যে প্রশ্নের উত্তর দিচ্ছে তার উপর নির্ভর করে, একটি নতুন সমীক্ষায় দেখা গেছে।

ক সাম্প্রতিক বিশ্লেষণ এপোচ এআই, একটি অলাভজনক এআই গবেষণা ইনস্টিটিউট, একটি সাধারণ চ্যাটজিপিটি ক্যোয়ারী কতটা শক্তি ব্যয় করে তা গণনা করার চেষ্টা করেছিল। ক সাধারণত উদ্ধৃত স্ট্যাটাস এটি কি চ্যাটজিপিটি-র একটি একক প্রশ্নের উত্তর দেওয়ার জন্য প্রায় 3 ওয়াট-ঘন্টা শক্তি বা গুগল অনুসন্ধানের চেয়ে 10 গুণ বেশি প্রয়োজন।

ইপোচ বিশ্বাস করে যে এটি একটি অত্যধিক।

চ্যাটজিপিটি, জিপিটি -4o এর জন্য ওপেনএআইয়ের সর্বশেষ ডিফল্ট মডেলটি ব্যবহার করে একটি রেফারেন্স হিসাবে, এপোচে দেখা গেছে যে গড় চ্যাটজিপিটি ক্যোয়ারী প্রায় 0.3 ওয়াট-ঘন্টা গ্রাস করে-অনেক গৃহস্থালী সরঞ্জামের চেয়ে কম।

“সাধারণ সরঞ্জাম ব্যবহার করা বা গরম করা বা আপনার বাড়িকে শীতল করা বা গাড়ি চালানো বা গাড়ি চালানোর তুলনায় শক্তি ব্যবহার আসলে বড় বিষয় নয়,” বিশ্লেষণ পরিচালনা করা এপোচের ডেটা বিশ্লেষক জোশুয়া আপনি টেকক্রাঞ্চকে বলেছেন।

এআই এর শক্তি ব্যবহার – এবং এর পরিবেশগত প্রভাব, বিস্তৃতভাবে বলতে গেলে – এআই সংস্থাগুলি তাদের অবকাঠামোগত পদচিহ্নগুলি দ্রুত প্রসারিত করার জন্য বিতর্কিত বিতর্কের বিষয়। মাত্র গত সপ্তাহে, 100 টিরও বেশি সংস্থার একটি দল একটি খোলা চিঠি প্রকাশ নতুন এআই ডেটা সেন্টারগুলি প্রাকৃতিক সংস্থানগুলি হ্রাস না করে এবং ইউটিলিটিগুলিকে শক্তির অ -পুনর্নবীকরণযোগ্য উত্সগুলির উপর নির্ভর করতে বাধ্য করে না তা নিশ্চিত করার জন্য এআই শিল্প এবং নিয়ন্ত্রকদের আহ্বান জানায়।

আপনি টেকক্রাঞ্চকে বলেছিলেন যে তার বিশ্লেষণকে পূর্ববর্তী গবেষণার পুরানো হিসাবে চিহ্নিত করা হয়েছিল তার দ্বারা তার বিশ্লেষণকে উত্সাহিত করা হয়েছিল। আপনি উদাহরণস্বরূপ উল্লেখ করেছেন যে 3 ওয়াট-ঘন্টা অনুমানের মধ্যে আগত প্রতিবেদনের লেখক ওপেনএআই এর মডেলগুলি চালানোর জন্য পুরানো, কম দক্ষ চিপস ব্যবহার করেছেন বলে ধরে নিয়েছিলেন।

“আমি প্রচুর জনসাধারণের বক্তৃতা দেখেছি যা সঠিকভাবে স্বীকৃতি দিয়েছে যে এআই আগামী বছরগুলিতে প্রচুর শক্তি গ্রাস করতে চলেছে, তবে আজ এআই -তে যে শক্তিটি যাচ্ছিল তা সঠিকভাবে বর্ণনা করেনি,” আপনি বলেছিলেন। “এছাড়াও, আমার কিছু সহকর্মী লক্ষ্য করেছেন যে প্রতি ক্যোয়ারিতে 3 ওয়াট-ঘন্টা সর্বাধিক প্রকাশিত প্রাক্কলনটি মোটামুটি পুরানো গবেষণার উপর ভিত্তি করে ছিল এবং কিছু ন্যাপকিন গণিতের উপর ভিত্তি করে মনে হয়েছিল খুব বেশি বলে মনে হয়েছিল।”

মঞ্জুর, এপোকের 0.3 ওয়াট-ঘন্টা চিত্র একটি আনুমানিক, পাশাপাশি; ওপেনাই একটি সুনির্দিষ্ট গণনা করার জন্য প্রয়োজনীয় বিশদ প্রকাশ করেনি।

বিশ্লেষণটি চিত্র জেনারেশন বা ইনপুট প্রসেসিংয়ের মতো চ্যাটজিপিটি বৈশিষ্ট্যগুলির দ্বারা ব্যয়িত অতিরিক্ত শক্তি ব্যয়গুলিও বিবেচনা করে না। আপনি স্বীকার করেছেন যে “দীর্ঘ ইনপুট” চ্যাটজিপিটি কোয়েরিগুলি – উদাহরণস্বরূপ দীর্ঘ ফাইলযুক্ত ক্যোয়ারীগুলি – উদাহরণস্বরূপ – সম্ভবত একটি সাধারণ প্রশ্নের চেয়ে বেশি বিদ্যুতের উপরে ব্যবহার করা হয়।

আপনি বলেছিলেন যে তিনি বেসলাইন চ্যাটজিপ্ট বিদ্যুৎ খরচ বাড়ার আশা করছেন।

“[The] এআই আরও উন্নত হবে, এই আইআইকে প্রশিক্ষণ দেওয়ার জন্য সম্ভবত আরও অনেক বেশি শক্তি প্রয়োজন হবে এবং এই ভবিষ্যত এআই আরও তীব্রভাবে ব্যবহার করা যেতে পারে – লোকেরা কীভাবে আজ চ্যাটজিপিটি ব্যবহার করে তার চেয়ে অনেক বেশি কাজ এবং আরও জটিল কাজ পরিচালনা করে, “আপনি বলেছিলেন।

যদিও সাম্প্রতিক মাসগুলিতে এআই দক্ষতায় উল্লেখযোগ্য অগ্রগতি হয়েছে, তবে এআই যে স্কেলটিতে মোতায়েন করা হচ্ছে তা প্রচুর, বিদ্যুৎ-ক্ষুধার্ত অবকাঠামো সম্প্রসারণকে চালিত করবে বলে আশা করা হচ্ছে। পরবর্তী দুই বছরে, এআই ডেটা সেন্টারগুলির প্রায় ক্যালিফোর্নিয়ার 2022 পাওয়ার ক্ষমতা (68 গিগাওয়াট) এর প্রায় সমস্ত প্রয়োজন হতে পারে, একটি র‌্যান্ড রিপোর্ট অনুযায়ী। 2030 সালের মধ্যে, একটি সীমান্ত মডেলকে প্রশিক্ষণ দেওয়ার জন্য আটটি পারমাণবিক চুল্লি (8 গিগাওয়াট) এর সমতুল্য বিদ্যুৎ আউটপুট দাবি করতে পারে, প্রতিবেদনে পূর্বাভাস দেওয়া হয়েছে।

চ্যাটজিপিটি একাই এক বিশাল – এবং প্রসারিত – লোকের সংখ্যার কাছে পৌঁছায়, এর সার্ভারটি একইভাবে বিশাল দাবি করে। ওপেনএআই, বেশ কয়েকটি বিনিয়োগ অংশীদারদের সাথে, আগামী কয়েক বছরের মধ্যে নতুন এআই ডেটা সেন্টার প্রকল্পগুলিতে কোটি কোটি ডলার ব্যয় করার পরিকল্পনা করেছে।

ওপেনাইয়ের মনোযোগ – বাকি এআই শিল্পের বাকী অংশগুলির সাথে – যুক্তিযুক্ত মডেলগুলিতেও স্থানান্তরিত হচ্ছে, যা সাধারণত তারা যে কাজগুলি সম্পাদন করতে পারে তার ক্ষেত্রে আরও বেশি সক্ষম তবে চালানোর জন্য আরও কম্পিউটিং প্রয়োজন। জিপিটি -৪ ও এর মতো মডেলগুলির বিপরীতে, যা প্রায় তাত্ক্ষণিকভাবে প্রশ্নের জবাব দেয়, যুক্তিযুক্ত মডেলগুলি উত্তর দেওয়ার কয়েক মিনিট আগে কয়েক মিনিট আগে “চিন্তা করুন”, এমন একটি প্রক্রিয়া যা আরও কম্পিউটিংকে সফল করে তোলে-এবং এইভাবে শক্তি।

“যুক্তিযুক্ত মডেলগুলি ক্রমবর্ধমান এমন কাজগুলি গ্রহণ করবে যা পুরানো মডেলগুলি পারে না এবং আরও বেশি উত্পন্ন করে [data] এটি করার জন্য, এবং উভয়ের আরও ডেটা সেন্টার প্রয়োজন, “আপনি বলেছিলেন।

ওপেনই ও 3-মিনিটের মতো আরও শক্তি-দক্ষ যুক্তিযুক্ত মডেলগুলি প্রকাশ করতে শুরু করেছে। তবে কমপক্ষে এই মুহুর্তে এটি অসম্ভব বলে মনে হচ্ছে যে দক্ষতা অর্জনগুলি যুক্তিযুক্ত মডেলগুলির “চিন্তাভাবনা” প্রক্রিয়া এবং বিশ্বজুড়ে এআই ব্যবহার ক্রমবর্ধমান শক্তি থেকে বর্ধিত বিদ্যুতের দাবিগুলি অফসেট করবে।

আপনি পরামর্শ দিয়েছেন যে লোকেরা তাদের এআই এনার্জি পদচিহ্নগুলি সম্পর্কে উদ্বিগ্ন যে অ্যাপ্লিকেশনগুলি অবিচ্ছিন্নভাবে চ্যাটজিপিটি ব্যবহার করে বা এমন মডেলগুলি নির্বাচন করে যা প্রয়োজনীয় কম্পিউটিংকে হ্রাস করে – যে পরিমাণে বাস্তবসম্মত।

“আপনি ছোট এআই মডেল ব্যবহার করার চেষ্টা করতে পারেন [OpenAI’s] জিপিটি -4 ও-মিনি, “আপনি বলেছিলেন,” এবং অল্প পরিমাণে এগুলি এমনভাবে ব্যবহার করুন যাতে এক টন ডেটা প্রক্রিয়াকরণ বা উত্পন্ন করা প্রয়োজন ””