త్వరిత రూపురేఖలు
ఈ పోస్ట్ క్రింది విభాగాలను కలిగి ఉంది:
- LangChainలో Async API ఏజెంట్‌ను ఎలా ఉపయోగించాలి
- విధానం 1: సీరియల్ ఎగ్జిక్యూషన్‌ని ఉపయోగించడం
- విధానం 2: ఏకకాల అమలును ఉపయోగించడం
- ముగింపు
LangChainలో Async API ఏజెంట్‌ను ఎలా ఉపయోగించాలి?
చాట్ మోడల్‌లు ప్రాంప్ట్ యొక్క నిర్మాణం, దాని సంక్లిష్టతలను అర్థం చేసుకోవడం, సమాచారాన్ని సంగ్రహించడం మరియు మరెన్నో వంటి అనేక పనులను ఏకకాలంలో నిర్వహిస్తాయి. LangChainలో Async API ఏజెంట్‌ని ఉపయోగించడం వలన వినియోగదారు ఒకేసారి బహుళ ప్రశ్నలకు సమాధానమివ్వగల సమర్థవంతమైన చాట్ మోడల్‌లను రూపొందించడానికి అనుమతిస్తుంది. LangChainలో Async API ఏజెంట్‌ని ఉపయోగించే విధానాన్ని తెలుసుకోవడానికి, ఈ గైడ్‌ని అనుసరించండి:
దశ 1: ఫ్రేమ్‌వర్క్‌లను ఇన్స్టాల్ చేయడం
అన్నింటిలో మొదటిది, పైథాన్ ప్యాకేజీ మేనేజర్ నుండి దాని డిపెండెన్సీలను పొందడానికి LangChain ఫ్రేమ్‌వర్క్‌ను ఇన్స్టాల్ చేయండి:
పిప్ ఇన్స్టాల్ లాంగ్‌చెయిన్
ఆ తర్వాత, llm వంటి భాషా నమూనాను రూపొందించడానికి OpenAI మాడ్యూల్‌ను ఇన్స్టాల్ చేయండి మరియు దాని వాతావరణాన్ని సెట్ చేయండి:
pip ఇన్స్టాల్ openai
దశ 2: OpenAI పర్యావరణం
మాడ్యూల్స్ యొక్క సంస్థాపన తర్వాత తదుపరి దశ పర్యావరణాన్ని ఏర్పాటు చేయడం OpenAI యొక్క API కీని ఉపయోగించడం మరియు సెర్పర్ API Google నుండి డేటా కోసం శోధించడానికి:
దిగుమతి మీరు
దిగుమతి getpass
మీరు . సుమారు [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API కీ:' )
మీరు . సుమారు [ 'SERPER_API_KEY' ] = getpass . getpass ( 'సర్పర్ API కీ:' )
దశ 3: లైబ్రరీలను దిగుమతి చేసుకోవడం
ఇప్పుడు పర్యావరణం సెట్ చేయబడింది, లాంగ్చైన్ డిపెండెన్సీలను ఉపయోగించి అసిన్సియో మరియు ఇతర లైబ్రరీల వంటి అవసరమైన లైబ్రరీలను దిగుమతి చేయండి:
నుండి లాంగ్చైన్. ఏజెంట్లు దిగుమతి ప్రారంభించు_ఏజెంట్ , లోడ్_టూల్స్దిగుమతి సమయం
దిగుమతి అసిన్సియో
నుండి లాంగ్చైన్. ఏజెంట్లు దిగుమతి ఏజెంట్ రకం
నుండి లాంగ్చైన్. llms దిగుమతి OpenAI
నుండి లాంగ్చైన్. కాల్‌బ్యాక్‌లు . stdout దిగుమతి StdOutCallbackHandler
నుండి లాంగ్చైన్. కాల్‌బ్యాక్‌లు . ట్రేసర్లు దిగుమతి లాంగ్‌చైన్‌ట్రేసర్
నుండి aiohttp దిగుమతి క్లయింట్ సెషన్
దశ 4: సెటప్ ప్రశ్నలు
వివిధ డొమైన్‌లు లేదా ఇంటర్నెట్‌లో శోధించగల అంశాలకు సంబంధించిన బహుళ ప్రశ్నలను కలిగి ఉన్న ప్రశ్న డేటాసెట్‌ను సెట్ చేయండి (Google):
ప్రశ్నలు = ['2021లో U.S. ఓపెన్ ఛాంపియన్‌షిప్ విజేత ఎవరు' ,
'ఒలివియా వైల్డ్ బాయ్‌ఫ్రెండ్ వయస్సు ఎంత' ,
'ఫార్ములా 1 ప్రపంచ టైటిల్ విజేత ఎవరు' ,
'2021లో US ఓపెన్ మహిళల ఫైనల్‌ను ఎవరు గెలుచుకున్నారు' ,
'బియోన్స్ భర్త ఎవరు మరియు అతని వయస్సు ఎంత' ,
]
విధానం 1: సీరియల్ ఎగ్జిక్యూషన్‌ని ఉపయోగించడం
అన్ని దశలు పూర్తయిన తర్వాత, సీరియల్ ఎగ్జిక్యూషన్‌ని ఉపయోగించి అన్ని సమాధానాలను పొందడానికి ప్రశ్నలను అమలు చేయండి. దీని అర్థం ఒక సమయంలో ఒక ప్రశ్న అమలు చేయబడుతుంది/ప్రదర్శించబడుతుంది మరియు ఈ ప్రశ్నలను అమలు చేయడానికి పట్టే పూర్తి సమయాన్ని కూడా అందిస్తుంది:
llm = OpenAI ( ఉష్ణోగ్రత = 0 )ఉపకరణాలు = లోడ్_టూల్స్ ( [ 'గూగుల్-హెడర్' , 'llm-గణితం' ] , llm = llm )
ఏజెంట్ = ప్రారంభించు_ఏజెంట్ (
ఉపకరణాలు , llm , ఏజెంట్ = ఏజెంట్ రకం. ZERO_SHOT_REACT_DESCRIPTION , మాటలతో కూడిన = నిజమే
)
లు = సమయం . perf_counter ( )
#పూర్తి ప్రక్రియ కోసం ఉపయోగించిన సమయాన్ని పొందడానికి టైమ్ కౌంటర్‌ని కాన్ఫిగర్ చేస్తోంది
కోసం q లో ప్రశ్నలు:
ఏజెంట్. పరుగు ( q )
గడిచిపోయింది = సమయం . perf_counter ( ) - ఎస్
సమాధానాలను పొందడానికి ఏజెంట్ ఉపయోగించిన మొత్తం సమయాన్ని #ముద్రించండి
ముద్రణ ( f 'సీరియల్ {elapsed:0.2f} సెకన్లలో అమలు చేయబడింది.' )
అవుట్‌పుట్
కింది స్క్రీన్‌షాట్ ప్రతి ప్రశ్నకు ప్రత్యేక గొలుసులో సమాధానం ఇవ్వబడిందని మరియు మొదటి గొలుసు పూర్తయిన తర్వాత రెండవ గొలుసు సక్రియంగా మారుతుందని ప్రదర్శిస్తుంది. సీరియల్ ఎగ్జిక్యూషన్ అన్ని సమాధానాలను ఒక్కొక్కటిగా పొందడానికి ఎక్కువ సమయం పడుతుంది:
విధానం 2: ఏకకాలిక అమలును ఉపయోగించడం
ఏకకాల అమలు పద్ధతి అన్ని ప్రశ్నలను తీసుకుంటుంది మరియు వాటి సమాధానాలను ఏకకాలంలో పొందుతుంది.
llm = OpenAI ( ఉష్ణోగ్రత = 0 )ఉపకరణాలు = లోడ్_టూల్స్ ( [ 'గూగుల్-హెడర్' , 'llm-math' ] , llm = llm )
#ఏకకాలంలో సమాధానాలను పొందడానికి పై సాధనాలను ఉపయోగించి కాన్ఫిగరింగ్ ఏజెంట్
ఏజెంట్ = ప్రారంభించు_ఏజెంట్ (
ఉపకరణాలు , llm , ఏజెంట్ = ఏజెంట్ రకం. ZERO_SHOT_REACT_DESCRIPTION , మాటలతో కూడిన = నిజమే
)
#పూర్తి ప్రక్రియ కోసం ఉపయోగించిన సమయాన్ని పొందడానికి టైమ్ కౌంటర్‌ని కాన్ఫిగర్ చేస్తోంది
లు = సమయం . perf_counter ( )
పనులు = [ ఏజెంట్. వ్యాధి ( q ) కోసం q లో ప్రశ్నలు ]
అసిన్సియో కోసం వేచి ఉండండి. సేకరించండి ( *పనులు )
గడిచిపోయింది = సమయం . perf_counter ( ) - ఎస్
సమాధానాలను పొందడానికి ఏజెంట్ ఉపయోగించిన మొత్తం సమయాన్ని #ముద్రించండి
ముద్రణ ( f 'ఏకకరెంట్ {elapsed:0.2f} సెకన్లలో అమలు చేయబడింది' )
అవుట్‌పుట్
ఏకకాలిక అమలు మొత్తం డేటాను ఒకే సమయంలో సంగ్రహిస్తుంది మరియు సీరియల్ ఎగ్జిక్యూషన్ కంటే తక్కువ సమయం పడుతుంది:
LangChainలో Async API ఏజెంట్‌ని ఉపయోగించడం గురించి అంతే.
ముగింపు
LangChainలో Async API ఏజెంట్‌ను ఉపయోగించడానికి, asyncio లైబ్రరీని పొందడానికి లైబ్రరీలను వాటి డిపెండెన్సీల నుండి దిగుమతి చేసుకోవడానికి మాడ్యూల్‌లను ఇన్స్టాల్ చేయండి. ఆ తర్వాత, వారి సంబంధిత ఖాతాలకు సైన్ ఇన్ చేయడం ద్వారా OpenAI మరియు Serper API కీలను ఉపయోగించి పర్యావరణాలను సెటప్ చేయండి. విభిన్న అంశాలకు సంబంధించిన ప్రశ్నల సెట్‌ను కాన్ఫిగర్ చేయండి మరియు వాటి అమలు సమయాన్ని పొందడానికి గొలుసులను వరుసగా మరియు ఏకకాలంలో అమలు చేయండి. ఈ గైడ్ LangChainలో Async API ఏజెంట్‌ని ఉపయోగించే ప్రక్రియను వివరించింది.