क्यूबेकॉन ईयू 2024 के दौरान, सीएनसीएफ ने अपना पहला क्लाउड-नेटिव एआई व्हाइटपेपर लॉन्च किया। यह आलेख इस श्वेतपत्र की सामग्री का गहन विश्लेषण प्रदान करता है।

मार्च 2024 में, KubeCon EU के दौरान, क्लाउड-नेटिव कंप्यूटिंग फाउंडेशन (CNCF) ने क्लाउड-नेटिव आर्टिफिशियल इंटेलिजेंस (CNAI) ¹ पर अपना पहला विस्तृत श्वेतपत्र जारी किया। यह रिपोर्ट कृत्रिम बुद्धिमत्ता के साथ क्लाउड-नेटिव प्रौद्योगिकियों को एकीकृत करने की वर्तमान स्थिति, चुनौतियों और भविष्य के विकास की दिशाओं की व्यापक रूप से पड़ताल करती है। यह लेख इस श्वेतपत्र की मूल सामग्री पर प्रकाश डालेगा।

यह आलेख पहली बार मध्यम एमपीपी योजना में प्रकाशित हुआ है। यदि आप एक मध्यम उपयोगकर्ता हैं, तो कृपया मुझे मध्यम में फ़ॉलो करें। आपका बहुत-बहुत धन्यवाद।

क्लाउड-नेटिव AI क्या है?

क्लाउड-नेटिव एआई का तात्पर्य क्लाउड-नेटिव प्रौद्योगिकी सिद्धांतों का उपयोग करके कृत्रिम बुद्धिमत्ता अनुप्रयोगों और वर्कलोड के निर्माण और तैनाती से है। इसमें एआई अनुप्रयोगों की स्केलेबिलिटी, पुन: प्रयोज्यता और संचालन क्षमता को बढ़ाने के लिए अन्य क्लाउड-नेटिव प्रौद्योगिकियों के बीच माइक्रोसर्विसेज, कंटेनरीकरण, घोषणात्मक एपीआई और निरंतर एकीकरण/निरंतर तैनाती (सीआई/सीडी) का लाभ उठाना शामिल है।

निम्नलिखित चित्र श्वेतपत्र के आधार पर पुनः तैयार किए गए क्लाउड-नेटिव एआई की वास्तुकला को दर्शाता है।

क्लाउड-नेटिव एआई और क्लाउड-नेटिव टेक्नोलॉजीज के बीच संबंध

क्लाउड-नेटिव प्रौद्योगिकियां एक लचीला, स्केलेबल प्लेटफ़ॉर्म प्रदान करती हैं जो एआई अनुप्रयोगों के विकास और संचालन को अधिक कुशल बनाती है। कंटेनरीकरण और माइक्रोसर्विसेज आर्किटेक्चर के माध्यम से, डेवलपर्स सिस्टम की उच्च उपलब्धता और स्केलेबिलिटी सुनिश्चित करते हुए एआई मॉडल को जल्दी से पुनरावृत्त और तैनात कर सकते हैं। संसाधन शेड्यूलिंग, स्वचालित स्केलिंग और सेवा खोज के रूप में कुछ।

श्वेतपत्र क्लाउड-नेटिव एआई और क्लाउड-नेटिव प्रौद्योगिकियों के बीच संबंध को स्पष्ट करने के लिए दो उदाहरण प्रदान करता है, अर्थात् क्लाउड-नेटिव बुनियादी ढांचे पर एआई चलाना:

• हगिंग फेस ने Azure पर हगिंग फेस मॉडल कैटलॉग लॉन्च करने के लिए माइक्रोसॉफ्ट के साथ सहयोग किया है²
• ओपनएआई कुबेरनेट्स को 7,500 नोड्स तक स्केल कर रहा है³

क्लाउड-नेटिव एआई की चुनौतियाँ

एआई अनुप्रयोगों के लिए एक ठोस आधार प्रदान करने के बावजूद, क्लाउड-नेटिव प्लेटफॉर्म के साथ एआई वर्कलोड को एकीकृत करते समय अभी भी चुनौतियां हैं। इन चुनौतियों में डेटा तैयारी जटिलता, मॉडल प्रशिक्षण संसाधन आवश्यकताएं, और बहु-किरायेदार वातावरण में मॉडल सुरक्षा और अलगाव बनाए रखना शामिल है। इसके अतिरिक्त, क्लाउड-नेटिव वातावरण में संसाधन प्रबंधन और शेड्यूलिंग बड़े पैमाने पर एआई अनुप्रयोगों के लिए महत्वपूर्ण हैं और कुशल मॉडल प्रशिक्षण और अनुमान का समर्थन करने के लिए और अधिक अनुकूलन की आवश्यकता है।

क्लाउड-नेटिव एआई का विकास पथ

श्वेतपत्र क्लाउड-नेटिव एआई के लिए कई विकास पथों का प्रस्ताव करता है, जिसमें एआई वर्कलोड को बेहतर समर्थन देने के लिए संसाधन शेड्यूलिंग एल्गोरिदम में सुधार करना, एआई अनुप्रयोगों के प्रदर्शन और सुरक्षा को बढ़ाने के लिए नई सेवा जाल प्रौद्योगिकियों का विकास करना और क्लाउड-नेटिव के नवाचार और मानकीकरण को बढ़ावा देना शामिल है। ओपन-सोर्स परियोजनाओं और सामुदायिक सहयोग के माध्यम से एआई तकनीक।

क्लाउड-नेटिव एआई टेक्नोलॉजी लैंडस्केप

क्लाउड-नेटिव एआई में कंटेनर और माइक्रोसर्विसेज से लेकर सर्विस मेश और सर्वर रहित कंप्यूटिंग तक विभिन्न प्रौद्योगिकियां शामिल हैं। कुबेरनेट्स एआई अनुप्रयोगों को तैनात करने और प्रबंधित करने में एक केंद्रीय भूमिका निभाता है, जबकि इस्तियो और एनवॉय जैसी सेवा जाल प्रौद्योगिकियां मजबूत यातायात प्रबंधन और सुरक्षा सुविधाएं प्रदान करती हैं। इसके अतिरिक्त, प्रोमेथियस और ग्राफाना जैसे निगरानी उपकरण एआई अनुप्रयोगों के प्रदर्शन और विश्वसनीयता को बनाए रखने के लिए महत्वपूर्ण हैं।

नीचे श्वेतपत्र में क्लाउड-नेटिव एआई लैंडस्केप आरेख प्रदान किया गया है।

• कुबेरनेट्स
• ज्वालामुखी
• आर्मडा
• कुबेराय
• एनवीडिया नेमो
• यूनिकॉर्न
• क्यूएयू
• ज्योति

वितरित प्रशिक्षण

• क्यूबफ्लो ट्रेनिंग ऑपरेटर
• पाइटोरच डीडीपी
• टेन्सरफ्लो वितरित
• एमपीआई खोलें
• डीपस्पीड
• मेगाट्रॉन
• होरोवोड
• अप्ला
• …

एमएल सेवा

• केसर्व
• सेल्डन
• वीएलएलएम
• टीजीटी
• स्काईपायलट
• …

सीआई/सीडी - डिलिवरी

• क्यूबफ्लो पाइपलाइन
• एमएलफ़्लो
• टीएफएक्स
• बेंटोएमएल
• MLRun
• …

डेटा विज्ञान

• ज्यूपिटर
• क्यूबफ़्लो नोटबुक्स
• पाइटोरच
• टेन्सरफ्लो
• अपाचे ज़ेपेलिन

कार्यभार अवलोकनीयता

• प्रोमेथियस
• इन्फ्लक्सडीबी
• ग्राफाना
• वजन और पूर्वाग्रह (wandb)
• ओपनटेलीमेट्री
• …

ऑटोएमएल

• हाइपरऑप्ट
• ऑप्टुना
• क्यूबफ्लो कातिब
• एनएनआई
• …

शासन एवं नीति

• किवर्नो
• किवर्नो-JSON
• ओपीए/द्वारपाल
• स्टैकरॉक्स माइंडर
• …

डेटा आर्किटेक्चर

• क्लिकहाउस
• अपाचे पिनोट
• अपाचे ड्र्यूड
• कैसंड्रा
• स्काइलाडीबी
• हडूप एचडीएफएस
• अपाचे HBase
• प्रेस्टो
• ट्रिनो
• अपाचे स्पार्क
• अपाचे फ्लिंक
• काफ्का
• पल्सर
• तरल पदार्थ
• मेमकैच्ड
• रेडिस
• ऑलक्सियो
• अपाचे सुपरसेट
• …

वेक्टर डेटाबेस

• क्रोमा
• बुनाई
• चतुर्थांश
• पाइनकोन
• एक्सटेंशन
• रेडिस
• एसक्यूएल पोस्टग्रेज
• इलास्टिकसर्च
• …

मॉडल/एलएलएम अवलोकनशीलता

• • ट्रुलेंस
• लैंगफ्यूज
• डीपचेक
• OpenLLMetry
• …

निष्कर्ष

अंत में, निम्नलिखित मुख्य बिंदुओं को संक्षेप में प्रस्तुत किया गया है:

• ओपन सोर्स समुदाय की भूमिका : श्वेतपत्र क्लाउड-नेटिव एआई को आगे बढ़ाने में ओपन-सोर्स समुदाय की भूमिका को इंगित करता है, जिसमें ओपन-सोर्स परियोजनाओं और व्यापक सहयोग के माध्यम से नवाचार में तेजी लाना और लागत कम करना शामिल है।
• क्लाउड-नेटिव प्रौद्योगिकियों का महत्व: क्लाउड-नेटिव सिद्धांतों के अनुसार निर्मित क्लाउड-नेटिव एआई, दोहराव और स्केलेबिलिटी के महत्व पर जोर देता है। क्लाउड-नेटिव प्रौद्योगिकियां एआई अनुप्रयोगों के लिए एक कुशल विकास और संचालन वातावरण प्रदान करती हैं, विशेष रूप से संसाधन शेड्यूलिंग और सेवा स्केलेबिलिटी में।
• मौजूदा चुनौतियां : कई फायदे लाने के बावजूद, क्लाउड-नेटिव एआई को अभी भी डेटा तैयारी, मॉडल प्रशिक्षण संसाधन आवश्यकताओं और मॉडल सुरक्षा और अलगाव में चुनौतियों का सामना करना पड़ता है।
• भविष्य के विकास निर्देश : श्वेतपत्र एआई वर्कलोड का समर्थन करने के लिए संसाधन शेड्यूलिंग एल्गोरिदम को अनुकूलित करने, प्रदर्शन और सुरक्षा को बढ़ाने के लिए नई सेवा जाल प्रौद्योगिकियों को विकसित करने और ओपन-सोर्स परियोजनाओं और सामुदायिक सहयोग के माध्यम से प्रौद्योगिकी नवाचार और मानकीकरण को बढ़ावा देने सहित विकास पथ का प्रस्ताव करता है। .
• प्रमुख तकनीकी घटक: क्लाउड-नेटिव एआई में शामिल प्रमुख तकनीकों में कंटेनर, माइक्रोसर्विसेज, सर्विस मेश और सर्वर रहित कंप्यूटिंग शामिल हैं। कुबेरनेट्स एआई अनुप्रयोगों को तैनात करने और प्रबंधित करने में एक केंद्रीय भूमिका निभाता है, जबकि इस्तियो और एनवॉय जैसी सेवा जाल प्रौद्योगिकियां आवश्यक यातायात प्रबंधन और सुरक्षा प्रदान करती हैं।

अधिक जानकारी के लिए, कृपया क्लाउड-नेटिव एआई श्वेतपत्र डाउनलोड करें ⁴।

संदर्भ लिंक

1. श्वेतपत्र: ↩︎

2. हगिंग फेस ने Azure पर हगिंग फेस मॉडल कैटलॉग लॉन्च करने के लिए माइक्रोसॉफ्ट के साथ सहयोग किया है ↩︎

3. ओपनएआई कुबेरनेट्स को 7,500 नोड्स तक स्केल कर रहा है: ↩︎

4. क्लाउड-नेटिव एआई श्वेतपत्र: ↩︎