यदि आप एलएलएम के लिए भुगतान नहीं करना चाहते हैं या अपना डेटा सुरक्षित रखना चाहते हैं, तो आप लोकलगिप्ट सेट करना चाहिए । यह आपको इस बात पर पूर्ण नियंत्रण रखने की अनुमति देता है कि एआई कैसे डेटा संचालित करता है और प्रक्रिया करता है। यह भी गोपनीयता सुनिश्चित करता है क्योंकि सभी डेटा बाहरी सर्वर पर भेजे जाने के बजाय आपके स्थानीय प्रणाली पर रहता है।
Windows PC पर स्थानीय GPT सेट करें
LocalGPT एक ओपन-सोर्स टूल है जो प्रेरित है विशेषण करना , निजी उपयोग के लिए उपयोगकर्ता उपकरणों पर स्थानीय रूप से बड़ी भाषा मॉडल (LLM) चलाने के लिए डिज़ाइन किया गया है। Privategpt के विपरीत, जो पूरी तरह से CPU निष्पादन पर निर्भर करता है, LocalGPT बेहतर प्रदर्शन और कम विलंबता के लिए GPU के माध्यम से हार्डवेयर त्वरण का समर्थन करता है। GPT-4ALL मॉडल और Llamaembeddings के बजाय, जो बहुत भारी हैं, LocalGPT VICUNA-7B LLM और इंस्ट्रक्शनमेडिंग का उपयोग करता है। यह ब्लेंडरबोट और विजार्डलएम -7 बी जैसे मॉडल के साथ काम करता है जो हमें विशिष्ट आवश्यकताओं के आधार पर मॉडल को स्वैप करने की अनुमति देता है। पूरी पाइपलाइन स्थानीय रूप से संचालित होती है, बाहरी एपीआई रिलायंस के बिना उन्नत एनएलपी क्षमताओं को वितरित करते हुए डेटा गोपनीयता सुनिश्चित करती है, जिससे यह स्थानीय रूप से संचालित एआई मोड के लिए एक आदर्श उम्मीदवार बन जाता है।
इस गाइड में, हम विंडोज पर स्थानीय जीपीटी स्थापित करेंगे। आप नीचे दिए गए चरणों का पालन कर सकते हैं।
- डाउनलोड और मिनीकोनडा इंस्टॉल करें
- LocalGPT रिपॉजिटरी स्थापित करें
- निर्भरताएं स्थापित करें
- LOCALGPT चलाएं
आइए हम उन पर विस्तार से चर्चा करें।
1] डाउनलोड करें और मिनीकॉन्डा इंस्टॉल करें
मिनिकोंडा कॉन्डा पैकेज मैनेजर का एक हल्का वितरण है, जिसे पायथन वातावरण को जल्दी से स्थापित करने के लिए डिज़ाइन किया गया है। यह केवल आवश्यक चीजें प्रदान करता है, जिससे उपयोगकर्ताओं को आवश्यकतानुसार विशिष्ट पैकेज जोड़कर अपने इंस्टॉलेशन को अनुकूलित करने की अनुमति मिलती है। इसे डाउनलोड करने के लिए, anaconda.com पर जाएं, नीचे स्क्रॉल करें, जाएं मिनिकोंडा इंस्टॉलर, और फिर इसे विंडोज के लिए डाउनलोड करें क्योंकि यह गाइड विंडोज के लिए है।
अब, इंस्टॉलर को चलाएं और इंस्टॉलेशन प्रक्रिया को पूरा करने के लिए ऑन-स्क्रीन निर्देशों का पालन करें, हालांकि, सुनिश्चित करें कि जब आप पर हों उन्नत स्थापना विकल्प, सभी बक्से पर टिक करें, और अंत में, स्थापना को पूरा करें।
यह जांचने के लिए कि यह स्थापित है या नहीं, खोजें 'एनाकोंडा प्रॉम्प्ट' स्टार्ट मेनू में और सीएलआई खोलें। अब, आप चला सकते हैं कॉन्डा सूची बस यह पुष्टि करने के लिए कि यह स्थापित है।
2] LOCALGPT रिपॉजिटरी स्थापित करें
अब, हमें LOCALGPT रिपॉजिटरी को स्थापित करने की आवश्यकता है, जिसे शीघ्र इंजीनियर द्वारा GitHub पर होस्ट किया गया है। हम इसे वहां से प्राप्त कर सकते हैं। ऐसा करने के लिए, नेविगेट करें github.com । आप LocalGPT के बारे में अधिक जानने के लिए पृष्ठ के माध्यम से जा सकते हैं और इसे स्थापित करने के लिए, आपको क्लिक करने की आवश्यकता है कोड> डाउनलोड ज़िप। एक बार ज़िप फ़ाइल डाउनलोड हो जाने के बाद, पर जाएं डाउनलोड करना फ़ोल्डर, जिप फ़ाइल पर राइट-क्लिक करें, एक्सट्रैक्ट का चयन करें, एक स्थान सेट करें जहां आप फ़ाइल को निकालना चाहते हैं और प्रक्रिया को पूरा करना चाहते हैं। निकाले गए फ़ोल्डर को खोलें, इसके अंदर, आप एक फ़ोल्डर नामक होंगे LOCALGPT-MAIN। बस सादगी के लिए, हम डेस्कटॉप पर फ़ोल्डर को चिपका रहे हैं और इसका नामकरण कर रहे हैं “LGPT”.
3] निर्भरता स्थापित करें
अब हमें एक आभासी वातावरण बनाने की आवश्यकता है जहां हम सभी निर्भरताएं स्थापित करने जा रहे हैं। ऐसा करने के लिए, खोलें 'एनाकोंडा प्रॉम्प्ट' स्टार्ट मेनू से और निम्नलिखित कमांड चलाएं।
Xbox एक शेयर स्क्रीनशॉट2CFB4750BB978F59D04E5E57A5A5A12F63FB3D49AD4FBFF7D7D7D32BBAE386125618D2C265332F95E5
नोट: अपनी पसंद के किसी भी नाम के साथ चर 'पर्यावरण_नाम' को बदलें।
यदि यह आपको कोई पैकेज डाउनलोड करने के लिए कहता है, तो कृपया अपनी सहमति दें और आगे बढ़ें।
अब, हमें उस पैकेज को स्थापित करने की आवश्यकता है जिसे हमने पहले निकाले गए थे। ऐसा करने के लिए, आपको पहले निम्नलिखित कमांड का उपयोग करके निर्देशिका में नेविगेट करने की आवश्यकता है।
DE4C2403F07398EC9A9E93A51F6A3F2BAAAA9D437cd LGPT
एक -एक करके सभी घटकों को स्थापित करने के बजाय, हम एक ही बार में उन सभी को स्थापित करने के लिए निम्न कमांड का उपयोग कर सकते हैं।
pip install -r requirements.txt
आप दो त्रुटियों का सामना कर सकते हैं।
- आयात मशाल modulenotfounderror: दौड़ना PIP स्थापित मशाल टार्चविजन टॉरचैडियो और फिर उपरोक्त कमांड चलाएं।
- Microsoft C ++ की आवश्यकता है: उल्लिखित URL पर क्लिक करें, और क्लिक करके विजुअल स्टूडियो डाउनलोड करें बिल्ड टूल डाउनलोड करें, एक बार विजुअल स्टूडियो खुला हो जाने के बाद, आपको उन उपकरणों से गुजरना होगा जो आपके पास नहीं हैं और उन्हें डाउनलोड करते हैं।
समस्या को हल करने के बाद, इंस्टॉलर कमांड को फिर से चलाएं, और एक बार स्थापित होने के बाद, अगले चरण पर जाएं।
4] LOCALGPT चलाएं
सबसे पहले, आपको पायथन अंतर्ग्रहण को चलाने की आवश्यकता है, जिसका अर्थ है स्रोत दस्तावेजों से डेटा आयात करना, अपने दस्तावेजों को संसाधित करना, और वेक्टर डेटाबेस (क्रोमा डीबी) में उनके एम्बेडिंग को संग्रहीत करना। ऐसा करने के लिए, आपको निम्नलिखित कमांड को निष्पादित करने की आवश्यकता है।
C624B1317D0F1E1E039E589470A37258333E9604हम अनुशंसा करते हैं कि आप टास्क मैनेजर का उपयोग करके सीपीयू उपयोग पर नज़र रखें।
अब, ए CCESS CONSTANTS.PY फ़ाइल को अपने LocalGPT निर्देशिका के भीतर। अपनी लाइन में एक टिप्पणी जोड़कर लामा 3 मॉडल को अक्षम करें, और अपनी लाइन से टिप्पणी को हटाकर लामा 2 मॉडल (7 बी पैरामीटर) को सक्रिय करें।
एक बार हो जाने के बाद, आपको निम्नलिखित कमांड का उपयोग करके LocalGPT को चलाने की आवश्यकता है।
6F24C36D244F83536211405B74849B2E2FB584Fयदि आप यह बताते हुए एक त्रुटि का सामना करते हैं कॉल गायब है, भागो PIP कॉल-CPP-PYTHON स्थापित करें।
उम्मीद है, आप इस गाइड की मदद से स्थानीय रूप से अपने कंप्यूटर पर LocalGPT चला पाएंगे।
पढ़ना: शोध के लिए कैसे perplexity ai का उपयोग करें
Windows पर Privategtt कैसे स्थापित करें?
Windows पर निजीकरण स्थापित करने के लिए, पहले, Python और Conda जैसे एक पैकेज प्रबंधक को स्थापित करें। फिर, Privategpt रिपॉजिटरी को क्लोन करें और एक आभासी वातावरण स्थापित करें। फिर आपको कविता या पीआईपी का उपयोग करके निर्भरता स्थापित करनी होगी। एक संगत भाषा मॉडल डाउनलोड करें। अंत में, आपको पर्यावरण चर को कॉन्फ़िगर करना होगा, दस्तावेज़ों को निगलना होगा, और स्थानीय स्तर पर अपने डेटा को क्वेरी करना शुरू करने के लिए एप्लिकेशन चलाना होगा।
पढ़ना: विंडोज 11 पर स्थानीय रूप से डीपसेक कैसे चलाएं
Windows पर WSL कैसे सेटअप करें?
को विंडोज पर WSL सेट करें , व्यवस्थापक और चलाने के रूप में पावरशेल खोलें wsl -install । यह WSL को सक्षम करता है, लिनक्स कर्नेल को स्थापित करता है, और डिफ़ॉल्ट के रूप में WSL 2 सेट करता है। अपने कंप्यूटर को पुनरारंभ करें, फिर स्थापित करने के लिए एक लिनक्स वितरण चुनें। वितरण लॉन्च करें, एक उपयोगकर्ता नाम और पासवर्ड सेट करें, और आप विंडोज पर लिनक्स का उपयोग करने के लिए तैयार हैं।
यह भी पढ़ें: GPT4ALL का उपयोग करके कंप्यूटर पर स्थानीय रूप से CHATGPT क्लोन चलाएं ।
आउटलुक उपनाम ईमेल