आपके अपने एलएलएम प्रोजेक्ट के लिए उस सभी हार्डवेयर के लिए उस पूंजी या स्थान तक पहुंच नहीं है? एनवीडिया का डीजीएक्स क्लाउड रिमोट वेब एक्सेस को उसी चीज को बेचने का एक प्रयास है।
कंपनी के 2023 जीपीयू प्रौद्योगिकी सम्मेलन में आज घोषणा की गई, सेवा अपने डीजीएक्स सर्वर बॉक्स के आभासी संस्करणों को किराए पर देती है, प्रत्येक में आठ एनवीडिया एच100 या ए100 जीपीयू और 640 जीबी मेमोरी होती है। सेवा में इंटरकनेक्ट शामिल हैं जो 32,000 जीपीयू, स्टोरेज, सॉफ्टवेयर, और “आपके कोड को अनुकूलित करने वाले एनवीडिया एआई विशेषज्ञों तक सीधी पहुंच” के पड़ोस तक पहुंचते हैं, जो ए100 टियर के लिए $36,999 प्रति माह से शुरू होता है।
आश्चर्य है कि एनवीडिया माइक्रोसॉफ्ट को अपना हार्डवेयर आपको किराए पर देने के लिए कितना भुगतान करती है
इस बीच, एक भौतिक DGX सर्वर बॉक्स की कीमत उसी हार्डवेयर के लिए $200,000 से ऊपर हो सकती है यदि आप इसे एकमुश्त खरीद रहे हैं, और यह उन प्रयासों की गिनती नहीं करता है जैसे Microsoft का कहना है कि उन्होंने प्रौद्योगिकी के आसपास काम करने वाले डेटा केंद्र बनाने के लिए बनाया है।
यह भी संभव है कि आपके द्वारा उधार लिए जा रहे कुछ जीपीयू ठीक वही हो सकते हैं जिन्हें माइक्रोसॉफ्ट ने ओपनएआई के मॉडल को प्रशिक्षित करने में मदद के लिए इस्तेमाल किया था – माइक्रोसॉफ्ट एज्यूर उन समूहों में से एक है जो डीजीएक्स क्लाउड की मेजबानी करेगा। हालांकि, एनवीडिया का कहना है कि ग्राहकों को जीपीयू के लिए “पूर्णकालिक आरक्षित पहुंच” मिलेगी जो वे किराए पर ले रहे हैं, किसी और के साथ साझा करने की आवश्यकता नहीं है। साथ ही, Oracle पहला भागीदार होगा, जिसमें Microsoft “अगली तिमाही” आएगा और Google क्लाउड “जल्द ही” प्लेटफ़ॉर्म की मेजबानी भी करेगा।
एनवीडिया का कहना है कि एमजेन उम्मीद के मुताबिक डीजीएक्स क्लाउड का इस्तेमाल कर रहा है नई दवाओं को तेजी से खोजें और कहते हैं कि बीमा कंपनी क्लाउड सेवा प्रदाता CCC और IT प्रदाता ServiceNow इसका उपयोग क्रमशः दावा प्रसंस्करण और कोड जनरेशन के लिए अपने AI मॉडल को प्रशिक्षित करने के लिए कर रहे हैं।