एनवीडिया ने आरएक्सटी के साथ चैट लॉन्च किया है, एक एआई चैटबॉट जो आपके पीसी पर काम करता है और चैटजीपीटी और अन्य जैसी सुविधाएं प्रदान करता है! आपको बस एक एनवीडिया आरटीएक्स जीपीयू की आवश्यकता है, और आप एनवीडिया के नए एआई चैटबॉट का उपयोग शुरू करने के लिए पूरी तरह तैयार हैं।

आरटीएक्स के साथ एनवीडिया चैट क्या है?

आरटीएक्स के साथ एनवीडिया चैट एक एआई सॉफ्टवेयर है जो आपको अपने कंप्यूटर पर स्थानीय रूप से एक बड़ा भाषा मॉडल (एलएलएम) चलाने की सुविधा देता है। इसलिए, चैटजीपीटी जैसे एआई चैटबॉट का उपयोग करने के लिए ऑनलाइन जाने के बजाय, आप जब चाहें ऑफ़लाइन आरटीएक्स के साथ चैट का उपयोग कर सकते हैं।

आरटीएक्स के साथ चैट अन्य ऑनलाइन एआई चैटबॉट्स के बराबर तेज प्रदर्शन और गुणवत्ता प्रतिक्रिया प्रदान करने के लिए टेन्सोरआरटी-एलएलएम, आरटीएक्स एक्सेलेरेशन और एक क्वांटाइज्ड मिस्ट्रल 7-बी एलएलएम का उपयोग करता है। यह पुनर्प्राप्ति-संवर्धित पीढ़ी (आरएजी) भी प्रदान करता है, जिससे चैटबॉट को आपकी फ़ाइलों को पढ़ने और आपके द्वारा प्रदान किए गए डेटा के आधार पर अनुकूलित उत्तर सक्षम करने की अनुमति मिलती है। यह आपको अधिक व्यक्तिगत अनुभव प्रदान करने के लिए चैटबॉट को अनुकूलित करने की अनुमति देता है।

यदि आप आरटीएक्स के साथ एनवीडिया चैट को आज़माना चाहते हैं, तो इसे अपने कंप्यूटर पर डाउनलोड, इंस्टॉल और कॉन्फ़िगर करने का तरीका यहां बताया गया है।

आरटीएक्स के साथ चैट को कैसे डाउनलोड और इंस्टॉल करें

एनवीडिया ने आपके कंप्यूटर पर स्थानीय रूप से एलएलएम चलाना बहुत आसान बना दिया है। आरटीएक्स के साथ चैट चलाने के लिए, आपको केवल ऐप डाउनलोड और इंस्टॉल करना होगा, जैसे आप किसी अन्य सॉफ़्टवेयर के साथ करेंगे। हालाँकि, चैट विद आरटीएक्स को स्थापित करने और ठीक से उपयोग करने के लिए कुछ न्यूनतम विनिर्देश आवश्यकताएँ हैं।

आरटीएक्स 30-सीरीज़ या 40-सीरीज़ जीपीयू 16 जीबी रैम 100 जीबी फ्री मेमोरी स्पेस विंडोज 11

यदि आपका पीसी न्यूनतम सिस्टम आवश्यकता को पूरा करता है, तो आप आगे बढ़ सकते हैं और ऐप इंस्टॉल कर सकते हैं।

चरण 1: RTX ज़िप फ़ाइल के साथ चैट डाउनलोड करें। डाउनलोड करें: RTX के साथ चैट करें (निःशुल्क—35 जीबी डाउनलोड)

चरण 2: राइट-क्लिक करके और 7ज़िप जैसे फ़ाइल संग्रह टूल का चयन करके ज़िप फ़ाइल निकालें या फ़ाइल पर डबल-क्लिक करें और सभी निकालें का चयन करें। चरण 3: निकाले गए फ़ोल्डर को खोलें और setup.exe पर डबल-क्लिक करें। ऑनस्क्रीन निर्देशों का पालन करें और कस्टम इंस्टॉलेशन प्रक्रिया के दौरान सभी बॉक्स चेक करें। नेक्स्ट हिट करने के बाद, इंस्टॉलर एलएलएम और सभी निर्भरताएं डाउनलोड और इंस्टॉल करेगा।

आरटीएक्स इंस्टॉलेशन के साथ चैट को समाप्त होने में कुछ समय लगेगा क्योंकि यह बड़ी मात्रा में डेटा डाउनलोड और इंस्टॉल करता है। इंस्टॉलेशन प्रक्रिया के बाद, बंद करें दबाएं, और आपका काम हो गया। अब, आपके लिए ऐप को आज़माने का समय आ गया है।

आरटीएक्स के साथ एनवीडिया चैट का उपयोग कैसे करें

हालांकि आप एक नियमित ऑनलाइन एआई चैटबॉट की तरह आरटीएक्स के साथ चैट का उपयोग कर सकते हैं, मैं दृढ़ता से सुझाव देता हूं कि आप इसकी आरएजी कार्यक्षमता की जांच करें, जो आपको इसके आउटपुट को अनुकूलित करने में सक्षम बनाता है। जिन फ़ाइलों तक आप पहुँच देते हैं।

चरण 1: RAG फ़ोल्डर बनाएं

RTX के साथ चैट पर RAG का उपयोग शुरू करने के लिए, उन फ़ाइलों को संग्रहीत करने के लिए एक नया फ़ोल्डर बनाएं जिन्हें आप AI से विश्लेषण कराना चाहते हैं।

निर्माण के बाद, अपनी डेटा फ़ाइलों को फ़ोल्डर में रखें। आपके द्वारा संग्रहीत डेटा कई विषयों और फ़ाइल प्रकारों को कवर कर सकता है, जैसे दस्तावेज़, पीडीएफ़, टेक्स्ट और वीडियो। हालाँकि, आप इस फ़ोल्डर में रखी गई फ़ाइलों की संख्या को सीमित करना चाह सकते हैं ताकि प्रदर्शन प्रभावित न हो। अधिक डेटा के माध्यम से खोज करने का मतलब है कि आरटीएक्स के साथ चैट विशिष्ट प्रश्नों के लिए प्रतिक्रिया देने में अधिक समय लेगा (लेकिन यह हार्डवेयर पर भी निर्भर है)।

अब आपका डेटाबेस तैयार है, आप आरटीएक्स के साथ चैट सेट कर सकते हैं और अपने प्रश्नों और प्रश्नों का उत्तर देने के लिए इसका उपयोग शुरू कर सकते हैं।

चरण 2: वातावरण सेट करें

आरटीएक्स के साथ चैट खोलें। यह नीचे दी गई छवि की तरह दिखना चाहिए।

डेटासेट के अंतर्गत, सुनिश्चित करें कि फ़ोल्डर पथ विकल्प चुना गया है। अब नीचे दिए गए संपादन आइकन (पेन आइकन) पर क्लिक करें और उस फ़ोल्डर का चयन करें जिसमें वे सभी फ़ाइलें हैं जिन्हें आप चैट विद आरटीएक्स को पढ़ना चाहते हैं। यदि अन्य विकल्प उपलब्ध हैं तो आप एआई मॉडल को भी बदल सकते हैं (लेखन के समय, केवल मिस्ट्रल 7बी उपलब्ध है)।

अब आप आरटीएक्स के साथ चैट का उपयोग करने के लिए तैयार हैं।

चरण 3: आरटीएक्स के साथ चैट से अपने प्रश्न पूछें!

आरटीएक्स के साथ चैट को क्वेरी करने के कई तरीके हैं। पहला इसे नियमित एआई चैटबॉट की तरह उपयोग करना है। मैंने स्थानीय एलएलएम का उपयोग करने के लाभों के बारे में आरटीएक्स से चैट से पूछा और इसके उत्तर से संतुष्ट था। यह बहुत अधिक गहन नहीं था, लेकिन पर्याप्त सटीक था।

लेकिन चूंकि आरटीएक्स के साथ चैट आरएजी में सक्षम है, आप इसे व्यक्तिगत एआई सहायक के रूप में भी उपयोग कर सकते हैं।

ऊपर, मैंने अपने शेड्यूल के बारे में पूछने के लिए चैट विद आरटीएक्स का उपयोग किया है। डेटा एक पीडीएफ फ़ाइल से आया है जिसमें मेरा शेड्यूल, कैलेंडर, ईवेंट, कार्य इत्यादि शामिल हैं। इस मामले में, आरटीएक्स के साथ चैट ने डेटा से सही कैलेंडर डेटा खींच लिया है; जब तक अन्य ऐप्स के साथ एकीकरण न हो जाए, तब तक आपको इस तरह की सुविधाओं को ठीक से काम करने के लिए अपनी डेटा फ़ाइलों और कैलेंडर तिथियों को अपडेट रखना होगा।

ऐसे कई तरीके हैं जिनसे आप अपने लाभ के लिए आरटीएक्स के आरएजी के साथ चैट का उपयोग कर सकते हैं। उदाहरण के लिए, आप इसका उपयोग कानूनी कागजात पढ़ने और सारांश देने, आपके द्वारा विकसित किए जा रहे प्रोग्राम के लिए प्रासंगिक कोड उत्पन्न करने, उस वीडियो के बारे में बुलेटेड हाइलाइट्स प्राप्त करने के लिए कर सकते हैं जिसे आप देखने में बहुत व्यस्त हैं, और भी बहुत कुछ!

चरण 4: बोनस सुविधा

अपने स्थानीय डेटा फ़ोल्डर के अलावा, आप YouTube वीडियो का विश्लेषण करने के लिए RTX के साथ चैट का उपयोग कर सकते हैं। ऐसा करने के लिए, डेटासेट के अंतर्गत, फ़ोल्डर पथ को YouTube URL में बदलें।

जिस यूट्यूब यूआरएल का आप विश्लेषण करना चाहते हैं उसे कॉपी करें और ड्रॉप-डाउन मेनू के नीचे पेस्ट करें। फिर पूछो!

आरटीएक्स के यूट्यूब वीडियो विश्लेषण के साथ चैट बहुत अच्छा था और सटीक जानकारी प्रदान करता था, इसलिए यह अनुसंधान, त्वरित विश्लेषण और बहुत कुछ के लिए उपयोगी हो सकता है।

क्या आरटीएक्स के साथ एनवीडिया की चैट अच्छी है?

चैटजीपीटी आरएजी कार्यक्षमता प्रदान करता है। कुछ स्थानीय AI चैटबॉट्स की सिस्टम आवश्यकताएँ काफी कम हैं। तो, क्या आरटीएक्स के साथ एनवीडिया चैट उपयोग करने लायक है?

उत्तर है, हाँ! प्रतिस्पर्धा के बावजूद आरटीएक्स के साथ चैट का उपयोग करना उचित है।

आरटीएक्स के साथ एनवीडिया चैट का उपयोग करने का सबसे बड़ा विक्रय बिंदु आपकी फ़ाइलों को तीसरे पक्ष के सर्वर पर भेजे बिना आरएजी का उपयोग करने की क्षमता है। ऑनलाइन सेवाओं के माध्यम से जीपीटी को अनुकूलित करने से आपका डेटा उजागर हो सकता है। लेकिन चूंकि चैट विद आरटीएक्स स्थानीय रूप से और बिना इंटरनेट कनेक्शन के चलता है, इसलिए चैट विद आरटीएक्स पर आरएजी का उपयोग यह सुनिश्चित करता है कि आपका संवेदनशील डेटा सुरक्षित है और केवल आपके पीसी पर ही पहुंच योग्य है।

मिस्ट्रल 7बी पर चलने वाले अन्य स्थानीय रूप से चलने वाले एआई चैटबॉट के लिए, आरटीएक्स के साथ चैट बेहतर और तेज प्रदर्शन करता है। यद्यपि प्रदर्शन में वृद्धि का एक बड़ा हिस्सा उच्च-स्तरीय जीपीयू का उपयोग करने से आता है, एनवीडिया टेन्सोरआरटी-एलएलएम और आरटीएक्स त्वरण के उपयोग ने चैट-अनुकूलित एलएलएम चलाने के अन्य तरीकों की तुलना में आरटीएक्स के साथ चैट पर मिस्ट्रल 7बी को तेजी से चलाया।

यह ध्यान देने योग्य है कि वर्तमान में हम जिस चैट विद आरटीएक्स संस्करण का उपयोग कर रहे हैं वह एक डेमो है। आरटीएक्स के साथ चैट के बाद के रिलीज संभवतः अधिक अनुकूलित हो जाएंगे और प्रदर्शन को बढ़ावा देंगे।

यदि मेरे पास आरटीएक्स 30 या 40 सीरीज जीपीयू नहीं है तो क्या होगा?

आरटीएक्स के साथ चैट इंटरनेट कनेक्शन की आवश्यकता के बिना स्थानीय स्तर पर एलएलएम चलाने का एक आसान, तेज़ और सुरक्षित तरीका है। यदि आप भी एलएलएम या स्थानीय चलाने में रुचि रखते हैं, लेकिन आपके पास आरटीएक्स 30 या 40 सीरीज जीपीयू नहीं है, तो आप स्थानीय स्तर पर एलएलएम चलाने के अन्य तरीके आजमा सकते हैं। सबसे लोकप्रिय में से दो GPT4ALL और Text Gen WebUI होंगे। यदि आप स्थानीय स्तर पर एलएलएम चलाने का प्लग-एंड-प्ले अनुभव चाहते हैं तो GPT4ALL आज़माएं। लेकिन यदि आप तकनीकी रूप से थोड़ा अधिक इच्छुक हैं, तो टेक्स्ट जेन वेबयूआई के माध्यम से एलएलएम चलाने से बेहतर फाइन-ट्यूनिंग और लचीलापन मिलेगा।