कभी आश्चर्य है कि जब आप संकेत देते हैं, तो आप कितनी बिजली का उपयोग कर रहे हैं, या धन्यवाद, एआई मॉडल? हगिंग फेस इंजीनियर जूलियन डेलावंडे ने किया, इसलिए उन्होंने बनाया एक औज़ार उत्तर पर पहुंचने में मदद करने के लिए।
AI मॉडल हर बार जब वे चलाए जाते हैं तो ऊर्जा का उपभोग करते हैं। वे जीपीयू और विशेष चिप्स पर चलते हैं जिन्हें पैमाने पर संबंधित कम्प्यूटेशनल वर्कलोड को पूरा करने के लिए बहुत अधिक शक्ति की आवश्यकता होती है। मॉडल बिजली की खपत को कम करना आसान नहीं है, लेकिन यह व्यापक रूप से है अपेक्षित एआई टेक्नोलॉजीज के बढ़ते उपयोग से अगले कुछ वर्षों में बिजली की जरूरतों को नई ऊंचाइयों तक पहुंचाएगा।
एआई को ईंधन देने के लिए अधिक शक्ति की मांग ने कुछ कंपनियों को आगे बढ़ाने के लिए प्रेरित किया है पर्यावरण की दृष्टि से रणनीतियाँ। Delavande जैसे उपकरण इस पर ध्यान देना, और शायद कुछ AI उपयोगकर्ताओं को विराम देते हैं।
“यहां तक कि छोटी ऊर्जा की बचत लाखों प्रश्नों में हो सकती है – मॉडल पसंद या आउटपुट लंबाई प्रमुख पर्यावरणीय प्रभाव पैदा कर सकती है,” डेलवांडे और टूल के अन्य रचनाकारों एक बयान में लिखा है।
⚡ कभी आश्चर्य होता है कि हर बार जब आप चैट को संदेश भेजते हैं तो हर बार कितनी ऊर्जा का उपयोग किया जाता है?
हमने सिर्फ चैट यूआई का एक संस्करण बनाया है जो दिखाता है कि आपका संदेश कितनी ऊर्जा खपत करता है – वास्तविक समय में। क्या सभी चैटबॉट्स को यह प्रदर्शित करना चाहिए?
नीचे विवरण pic.twitter.com/tbl0pw51pw
– डेलवांडे जूलियन (@juliendelavande) 22 अप्रैल, 2025
Delavande का टूल चैट UI के साथ काम करने के लिए डिज़ाइन किया गया है, जो मेटा के Llama 3.3 70B और Google के Gemma 3 जैसे मॉडलों के लिए एक ओपन-सोर्स फ्रंट-एंड है। यह उपकरण वास्तविक समय में एक मॉडल से भेजे गए संदेशों की ऊर्जा खपत का अनुमान लगाता है, वाट-घंटों या जूल में खपत की रिपोर्टिंग करता है। यह माइक्रोवेव और एलईडी जैसे सामान्य घरेलू उपकरणों के लिए मॉडल ऊर्जा उपयोग की तुलना भी करता है।
टूल के अनुसार, लामा 3.3 70 बी को एक विशिष्ट ईमेल लिखने के लिए कहना लगभग 0.1841 वाट-घंटे का उपयोग करता है-0.12 सेकंड के लिए माइक्रोवेव चलाने या 0.02 सेकंड के लिए टोस्टर का उपयोग करने के बराबर।
यह याद रखने योग्य है कि उपकरण के अनुमान केवल यही हैं – अनुमान। Delavande कोई दावा नहीं करता है कि वे अविश्वसनीय रूप से सटीक हैं। फिर भी, वे एक अनुस्मारक के रूप में काम करते हैं कि सब कुछ – चैटबॉट्स शामिल – एक लागत है।
“एआई ऊर्जा स्कोर और एआई के ऊर्जा पदचिह्न पर व्यापक शोध जैसी परियोजनाओं के साथ, हम खुले स्रोत समुदाय में पारदर्शिता के लिए जोर दे रहे हैं। एक दिन, ऊर्जा का उपयोग भोजन पर पोषण लेबल के रूप में दिखाई दे सकता है!” डेलवांडे और उनके सह-निर्माताओं ने लिखा।
