लैंगचेन आर्टिफिशियल इंटेलिजेंस का उपयोग करके बड़े भाषा मॉडल बनाने की एक रूपरेखा है ताकि यह पाठ उत्पन्न कर सके और मनुष्यों के साथ बातचीत कर सके। एसिंकियो वह लाइब्रेरी है जिसका उपयोग एक ही कमांड या क्वेरी का उपयोग करके एलएलएम जैसे मॉडल को कई बार कॉल करने के लिए किया जा सकता है। यह पाठ को कुशलतापूर्वक उत्पन्न करने के लिए हमारे एलएलएम मॉडल के काम करने की गति को भी बढ़ावा देता है।
यह आलेख दर्शाता है कि लैंगचेन में 'एसिन्सियो' लाइब्रेरी का उपयोग कैसे करें।
लैंगचेन में 'एसिंसिओ' लाइब्रेरी का उपयोग/निष्पादन कैसे करें?
Async API का उपयोग LLM के लिए समर्थन के रूप में किया जा सकता है, इसलिएlangChain में asyncio लाइब्रेरी का उपयोग करने के लिए, बस इस गाइड का पालन करें:
पूर्वापेक्षाएँ स्थापित करें
एलएलएम को समवर्ती रूप से कॉल करने के लिए लैंगचेन में एसिंकियो लाइब्रेरी का उपयोग शुरू करने के लिए लैंगचेन मॉड्यूल स्थापित करें:
रंज स्थापित करना लैंगचैन
OpenAIEmbeddings का उपयोग करके LLM बनाने के लिए OpenAI मॉड्यूल की भी आवश्यकता होती है:
रंज स्थापित करना openai
इंस्टॉलेशन के बाद, बस निम्नलिखित कोड का उपयोग करके OpenAI API कुंजी को कॉन्फ़िगर करें:
हमें आयात करेंगेटपास आयात करें
ओएस.पर्यावरण [ 'OPENAI_API_KEY' ] = गेटपास.गेटपास ( 'ओपनएआई एपीआई कुंजी:' )
एलएलएम बनाने के लिए एसिंकियो का उपयोग करना
एलएलएम का समर्थन करने के लिए एसिंकियो लाइब्रेरी का उपयोग किया जा सकता है क्योंकि लैंगचेन में निम्नलिखित कोड इसका उपयोग करता है:
आयात समयएसिंसियो आयात करें
#इसका उपयोग करने के लिए लैंगचेन से एसिंकियो लाइब्रेरी आयात करना
langchan.llms से OpenAI आयात करें
#सीरियल जनरेशन का टाइमस्टैम्प प्राप्त करने के लिए फ़ंक्शन को परिभाषित करें
def generate_serially ( ) :
एलएलएम = ओपनएआई ( तापमान = 0.9 )
के लिए _ में श्रेणी ( 5 ) :
सम्मान = एलएलएम.जेनरेट ( [ 'आप क्या कर रहे हो?' ] )
छपाई ( सम्मान पीढ़ियों [ 0 ] [ 0 ] ।मूलपाठ )
#सिंक्रोनस जेनरेशन का टाइमस्टैम्प प्राप्त करने के लिए फ़ंक्शन को परिभाषित करें
async def async_generate ( एलएलएम ) :
सम्मान = प्रतीक्षा एलएलएम.जेनरेट ( [ 'आप क्या कर रहे हो?' ] )
छपाई ( सम्मान पीढ़ियों [ 0 ] [ 0 ] ।मूलपाठ )
# समवर्ती डेटा उत्पन्न करने का टाइमस्टैम्प प्राप्त करने के लिए फ़ंक्शन को परिभाषित करें
async def generate_concurrently ( ) :
एलएलएम = ओपनएआई ( तापमान = 0.9 )
कार्य = [ async_generate ( एलएलएम ) के लिए _ में श्रेणी ( 10 ) ]
asyncio.gather का इंतजार करें ( * कार्य )
#समवर्ती आउटपुट प्राप्त करने के लिए asyncio का उपयोग करके परिणामी आउटपुट को कॉन्फ़िगर करें
s = समय.perf_counter ( )
जेनरेट_समवर्ती रूप से प्रतीक्षा करें ( )
बीता हुआ = समय.perf_counter ( ) - एस
छपाई ( '\033[1 मी' + एफ 'समवर्ती को {elapsed:0.2f} सेकंड में निष्पादित किया गया।' + '\033[0मी' )
#क्रमिक आउटपुट प्राप्त करने के लिए परिणामी आउटपुट के लिए टाइमस्टैम्प कॉन्फ़िगर करें
s = समय.perf_counter ( )
generate_serially ( )
बीता हुआ = समय.perf_counter ( ) - एस
छपाई ( '\033[1 मी' + एफ 'सीरियल {elapsed:0.2f} सेकंड में निष्पादित हुआ।' + '\033[0मी' )
उपरोक्त कोड दो अलग-अलग कार्यों का उपयोग करके पाठ उत्पन्न करने के लिए समय मापने के लिए एसिंकियो लाइब्रेरी का उपयोग करता है generate_serially() और generate_concurrently() :
उत्पादन
निम्नलिखित स्क्रीनशॉट प्रदर्शित करता है कि दोनों कार्यों के लिए समय जटिलता और समवर्ती पाठ पीढ़ी की समय जटिलता धारावाहिक पाठ पीढ़ी से बेहतर है:
यह लैंगचेन में एलएलएम बनाने के लिए 'एसिंसियो' लाइब्रेरी का उपयोग करने के बारे में है।
निष्कर्ष
लैंगचेन में एसिंकियो लाइब्रेरी का उपयोग करने के लिए, प्रक्रिया शुरू करने के लिए बस लैंगचेन और ओपनएआई मॉड्यूल स्थापित करें। पिछली बातचीत से सीखने के लिए चैटबॉट बनाने के लिए एलएलएम मॉडल बनाते समय एसिंक एपीआई मददगार हो सकता है। इस गाइड में लैंगचेन फ्रेमवर्क का उपयोग करके एलएलएम का समर्थन करने के लिए एसिंकियो लाइब्रेरी का उपयोग करने की प्रक्रिया को समझाया गया है।