इंटरनेट पर किसी GPT/AI चैटबॉट को एक्सेस करने के बजाय उसे अपने कंप्यूटर पर चलाने के कई फायदे हैं। हम दिखाएंगे कि आप ऐसा क्यों करना चाहते हैं, और विंडोज़ पर इसे स्थापित करने का सबसे आसान तरीका क्या है।

आप अपना खुद का स्थानीय एआई चैटबॉट क्यों चाहते हैं?

जबकि चैटजीपीटी जैसे ऑनलाइन एआई चैटबॉट भारी मात्रा में प्रशिक्षण डेटा और नवीनतम जानकारी तक पहुंच के साथ प्रमुख हैं, ऐसे कुछ कारण हैं जिनसे आप अपने विंडोज कंप्यूटर पर अपना स्वयं का स्थानीय चैटबॉट चलाना चाह सकते हैं।

अपने स्वयं के एआई टूल को स्थानीय रूप से चलाना मुफ़्त है, और ऑनलाइन टूल के प्रतिबंध के बिना आता है: कोई सेंसरशिप नहीं है, और आप जो भी मशीन-लर्निंग मॉडल लोड कर सकते हैं, उनकी प्रतिक्रियाओं और व्यवहार को अनुकूलित कर सकते हैं, और कोई भी संकेत प्रदान कर सकते हैं, सब कुछ बिना किसी प्रतिबंध के (और पूरी गोपनीयता के साथ)। यह यह समझने का भी एक अच्छा तरीका है कि आधुनिक बड़े भाषा मॉडल (एलएलएम) एआई उपकरण हुड के नीचे कैसे काम करते हैं, खासकर यदि आप एआई या तकनीकी उद्योग में जाना चाहते हैं।

आप किसी भी चीज़ के लिए मॉडल पा सकते हैं, काल्पनिक चरित्र इंटरैक्शन से लेकर प्रोग्रामिंग, सामान्य ज्ञान और कई अन्य उपयोग के मामले जिन्हें अधिक सामान्य ऑनलाइन मॉडल कवर नहीं कर सकते हैं।

विंडोज पर अपना खुद का स्थानीय जीपीटी चैटबॉट कैसे होस्ट करें

यह ट्यूटोरियल टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर का उपयोग करेगा, जो बड़े भाषा मॉडल के लिए एक ओपन-सोर्स इंटरफ़ेस है, जो इंस्टॉल करना आसान बनाता है और एलएलएम का उपयोग करना।

टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर डॉकर का उपयोग करके टेक्स्ट-जेनरेशन-वेब-यूआई प्रोजेक्ट को बंडल करता है, जो उन सभी जटिल निर्भरताओं को स्थापित करने और प्रबंधित करने की आवश्यकता को हटा देता है जिनकी स्थानीय एआई टूल्स को आमतौर पर सब कुछ संग्रहीत करके आवश्यकता होती है। आपके सिस्टम के लिए एक अलग कंटेनर। अपने स्थानीय चैटबॉट को चलाने के लिए आपको केवल एक विंडोज़ पीसी की आवश्यकता है जो लिनक्स (डब्ल्यूएसएल) के लिए विंडोज़ सबसिस्टम का उपयोग करके डॉकर को चलाने का समर्थन करता है। अधिकतम अनुकूलता के लिए आपको एक नवीनतम GPU की भी आवश्यकता होगी, आदर्श रूप से NVIDIA का।

चरण 1: डॉकर और विंडोज टर्मिनल ऐप इंस्टॉल करें

डॉकर कंटेनर वर्चुअल मशीनों के समान हैं, जिसमें उनमें एक संपूर्ण रनिंग सिस्टम होता है, लेकिन वे बहुत अधिक हल्के होते हैं, और अनुप्रयोगों को वितरित करने के लिए एकदम सही होते हैं। और उनकी सभी आवश्यकताएं एक एकल, स्थापित करने में आसान बंडल में। डॉकर में टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर चलाने के लिए, अपने विंडोज सिस्टम पर डॉकर डाउनलोड और इंस्टॉल करें।

डॉकर विंडोज़ पर दो तरीकों में से एक में चल सकता है: डब्ल्यूएसएल या हाइपर-वी मोड। अधिकांश उपयोगकर्ताओं के लिए WSL की अनुशंसा की जाती है, इसलिए आपको डॉकर स्थापित करने से पहले इसे सक्षम करने की आवश्यकता हो सकती है।

विंडोज टर्मिनल ऐप इंस्टॉल करने की भी सिफारिश की गई है, क्योंकि यह डब्लूएसएल, पावरशेल और विंडोज कमांड लाइन के लिए एक सुविधाजनक इंटरफ़ेस प्रदान करता है।

चरण 2: टेक्स्ट जेनरेशन वेब यूआई गिटहब रिपॉजिटरी डाउनलोड करें

टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर डाउनलोड करने के लिए, इसके गिटहब पेज पर जाएं। आप हरे "कोड" बटन पर क्लिक करके और फिर ड्रॉप-डाउन मेनू से "डाउनलोड ज़िप" पर क्लिक करके एक ".zip" फ़ाइल डाउनलोड कर सकते हैं जिसमें आपकी ज़रूरत की सभी फ़ाइलें शामिल हैं।

नीचे दिया गया स्क्रीनशॉट आपको दिखाता है कि GitHub पेज पर इसे कहां पाया जाए।

डाउनलोड की गई ज़िप फ़ाइल को उसके अपने फ़ोल्डर में निकालें, और फिर अनज़िप की गई फ़ाइलों वाले फ़ोल्डर को खोलें। इस फ़ोल्डर की सामग्री के बारे में बहुत अधिक चिंता न करें: यह आपके एआई चैटबॉट के लिए सभी गतिशील भाग हैं, लेकिन डॉकर आपके लिए सब कुछ सेट करने का ध्यान रखेगा।

चरण 3: टेक्स्ट जेनरेशन वेब यूआई लॉन्च करें

टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर लॉन्च करने से पहले, आपको यह सुनिश्चित करना होगा कि यह आपके पीसी हार्डवेयर के लिए कॉन्फ़िगर किया गया है। आपके हार्डवेयर से मेल खाने वाले वैरिएंट को निर्दिष्ट करने के लिए docker-compose.yml फ़ाइल को संपादित करें: डिफ़ॉल्ट-एनवीडिया या डिफ़ॉल्ट-सीपीयू (यदि आपके पास संगत जीपीयू नहीं है)।

फिर, अभी भी डाउनलोड की गई और निकाली गई फ़ाइलों वाले फ़ोल्डर में, एक खाली जगह पर राइट-क्लिक करें और निर्देशिका को एक नए में खोलने के लिए "टर्मिनल में खोलें" पर क्लिक करें पॉवरशेल विंडो.

टर्मिनल विंडो में निम्नलिखित डॉकर कमांड टाइप करने से पहले सुनिश्चित करें कि डॉकर डेस्कटॉप चल रहा है:

docker compose up -d

यह कमांड निम्नलिखित कार्य करेगा:

• डॉकर कंपोज़ को निष्पादित करता है, वह प्रोग्राम जो डॉकर अनुप्रयोगों को प्रबंधित करता है
• अप कमांड का उपयोग करके कंटेनर प्रारंभ करें
• पृष्ठभूमि में कंटेनर चलाता है (जिसे अलग मोड कहा जाता है, जो -डी द्वारा निर्दिष्ट होता है) ब्रैड मॉर्टन / हाउ-टू गीक

  यदि आपने पहले यह कमांड नहीं चलाया है और एप्लिकेशन को डाउनलोड करने की आवश्यकता है (खींचते हुए), आपको जाकर एक कप चाय बनानी पड़ सकती है, क्योंकि इसमें थोड़ा समय लग सकता है। एक बार जब कमांड सफलतापूर्वक पूरा हो जाए, तो आप देखेंगे कि टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर डॉकर कंटेनर बनाया और शुरू किया गया है।

  ब्रैड मॉर्टन / हाउ-टू गीक

  रनिंग कंटेनर डॉकर डेस्कटॉप में भी दिखाई देगा, जहां आप इसे रोक सकते हैं, शुरू कर सकते हैं और प्रबंधित कर सकते हैं।

  ब्रैड मॉर्टन / हाउ-टू गीक

  चरण 4: ओपनएआई से जीपीटी-2 मॉडल स्थापित करें

  एक बार टेक्स्ट-जेनरेशन-वेब-यूआई-डॉकर डॉकर में चालू हो जाए, आप अपने ब्राउज़र के एड्रेस बार में पता http://localhost:7860 टाइप करके इसे एक्सेस कर सकते हैं। लोकलहोस्ट वह पता है जिसका उपयोग आपका कंप्यूटर उन सेवाओं तक पहुंचने के लिए करता है जो वह स्वयं चला रहा है, जिनमें से प्रत्येक को एक अद्वितीय पोर्ट नंबर सौंपा गया है (इस मामले में 7860)। आप डॉकर डेस्कटॉप में इसे खोलकर देख सकते हैं कि एक चालू डॉकर कंटेनर ने लोकलहोस्ट पर कौन से पोर्ट उपलब्ध कराए हैं।

  जब आप इंटरनेट पर चैटजीपीटी का उपयोग करते हैं तो यह जीपीटी का पुराना संस्करण है। नतीजतन, यह उतना स्मार्ट या सहज नहीं होगा जितना आप उम्मीद कर सकते हैं, लेकिन यह अनुकूलन योग्य और निजी है।

  वेब इंटरफ़ेस में मॉडल टैब पर जाएं और "डाउनलोड मॉडल या लोरा" बॉक्स में openai-community/gpt2 दर्ज करें, और फिर डाउनलोड बटन पर क्लिक करें। इसमें कुछ मिनट लग सकते हैं.

  ब्रैड मॉर्टन / हाउ-टू गीक

  ऊपर बाईं ओर रिफ्रेश आइकन पर क्लिक करें, फिर आसन्न मॉडल ड्रॉप-डाउन मेनू से नए डाउनलोड किए गए openai-community/gpt2 का चयन करें। अंत में, "लोड" बटन पर क्लिक करें, और कुछ मिनट तक प्रतीक्षा करें जब तक आपको सफलता संदेश न दिखाई दे।

  ब्रैड मॉर्टन / हाउ-टू गीक

  यह मॉडल लीक से हटकर काम करता है, और इसके लिए किसी साइनअप की आवश्यकता नहीं होती है। जैसे ही आप एआई में आते हैं और विभिन्न मॉडलों और एआई टूल के साथ प्रयोग करना चाहते हैं, आप हगिंगफेस पर और अधिक जानकारी पा सकते हैं।

  चरण 5: अपने कस्टम जीपीटी एआई चैटबॉट का उपयोग शुरू करें

  यह उन एआई चैटबॉट्स की तरह नहीं है जिनका आप ऑनलाइन उपयोग करते थे, जो पहले से ही सामान्य उपयोग के लिए सेट किए गए हैं जो कवर करते हैं बहुत सारी स्थितियाँ. आपको मॉडल के साथ बातचीत करने से पहले उसे यह बताना होगा कि उसे कैसे व्यवहार करना है, अन्यथा इसका आउटपुट थोड़ा... अस्थिर होगा।

  ब्रैड मॉर्टन / हाउ-टू गीक

  हू बॉय, हालांकि इसका सही उत्तर मिल गया है, इस एआई चैटबॉट को थोड़ी फाइन-ट्यूनिंग की जरूरत है।

  वहाँ है आप बहुत कुछ बदल सकते हैं, और यह पहली बार में थोड़ा अजीब हो सकता है, लेकिन अभ्यास और अनुभव के साथ, आप एक चैटबॉट बना सकते हैं जो आपके उपयोग के लिए विशिष्ट है, और जो आपके डेटा को आपके कंप्यूटर पर 100% रखता है, जो बहुत अच्छा है व्यवसाय और अन्य गोपनीय उपयोग-मामलों के लिए। अपने स्थानीय GPT चैटबॉट को कॉन्फ़िगर और प्रशिक्षित करने का तरीका जानने के लिए, HuggingFace पर टेक्स्ट-जेनरेशन-वेब-यूआई दस्तावेज़ और OpenAI GP2 दस्तावेज़ देखें।

  यदि आप अपने विंडोज पीसी से एआई का उपयोग करके छवियां उत्पन्न करना चाहते हैं, तो आप आसान और अधिक तत्काल परिणाम प्राप्त करने के लिए फूकस का उपयोग कर सकते हैं।