ఈ గైడ్ LangChainలో సంభాషణ టోకెన్ బఫర్ను ఉపయోగించే విధానాన్ని వివరిస్తుంది.
LangChainలో సంభాషణ టోకెన్ బఫర్ను ఎలా ఉపయోగించాలి?
ది సంభాషణ టోకెన్బఫర్ మెమరీ బఫర్ మెమరీలో ఇటీవలి సందేశాలను నిల్వ చేయడానికి LangChain ఫ్రేమ్వర్క్ నుండి లైబ్రరీని దిగుమతి చేసుకోవచ్చు. బఫర్లో నిల్వ చేయబడిన సందేశాల సంఖ్యను పరిమితం చేయడానికి టోకెన్లను కాన్ఫిగర్ చేయవచ్చు మరియు మునుపటి సందేశాలు స్వయంచాలకంగా ఫ్లష్ చేయబడతాయి.
LangChainలో సంభాషణ టోకెన్ బఫర్ని ఉపయోగించే ప్రక్రియను తెలుసుకోవడానికి, క్రింది గైడ్ని ఉపయోగించండి:
దశ 1: మాడ్యూల్లను ఇన్స్టాల్ చేయండి
మొదట, పిప్ ఆదేశాన్ని ఉపయోగించి అవసరమైన అన్ని మాడ్యూళ్ళను కలిగి ఉన్న LangChain ఫ్రేమ్వర్క్ను ఇన్స్టాల్ చేయండి:
పిప్ ఇన్స్టాల్ లాంగ్చెయిన్
ఇప్పుడు, OpenAI() పద్ధతిని ఉపయోగించి LLMలు మరియు గొలుసులను నిర్మించడానికి OpenAI మాడ్యూల్ను ఇన్స్టాల్ చేయండి:
pip ఇన్స్టాల్ openai
మాడ్యూల్లను ఇన్స్టాల్ చేసిన తర్వాత, OpenAI యొక్క API కీని ఉపయోగించండి పర్యావరణాన్ని ఏర్పాటు చేయండి os మరియు getpass లైబ్రరీలను ఉపయోగించడం:
దిగుమతి మీరుదిగుమతి getpass
మీరు . సుమారు [ 'OPENAI_API_KEY' ] = getpass . getpass ( 'OpenAI API కీ:' )
దశ 2: సంభాషణ టోకెన్ బఫర్ మెమరీని ఉపయోగించడం
దిగుమతి చేసుకున్న తర్వాత OpenAI() పద్ధతిని ఉపయోగించి LLMలను రూపొందించండి సంభాషణ టోకెన్బఫర్ మెమరీ LangChain ఫ్రేమ్వర్క్ నుండి లైబ్రరీ:
నుండి లాంగ్చైన్. జ్ఞాపకశక్తి దిగుమతి సంభాషణ టోకెన్బఫర్ మెమరీనుండి లాంగ్చైన్. llms దిగుమతి OpenAI
llm = OpenAI ( )
టోకెన్ను సెట్ చేయడానికి మెమరీని కాన్ఫిగర్ చేయండి, ఇది పాత సందేశాలను ఫ్లష్ చేస్తుంది మరియు వాటిని బఫర్ మెమరీలో నిల్వ చేస్తుంది. ఆ తర్వాత, సంభాషణ నుండి సందేశాలను నిల్వ చేయండి మరియు వాటిని సందర్భానుసారంగా ఉపయోగించడం కోసం ఇటీవలి వాటిని పొందండి:
జ్ఞాపకశక్తి = సంభాషణ టోకెన్బఫర్ మెమరీ ( llm = llm , గరిష్ట_టోకెన్_పరిమితి = 10 )జ్ఞాపకశక్తి. సేవ్_సందర్భం ( { 'ఇన్పుట్' : 'హలో' } , { 'అవుట్పుట్' : 'నువ్వు ఎలా ఉన్నావు' } )
జ్ఞాపకశక్తి. సేవ్_సందర్భం ( { 'ఇన్పుట్' : 'నేను బాగున్నాను నీ సంగతేంటి' } , { 'అవుట్పుట్' : 'చాలా కాదు' } )
load_memory_variables() పద్ధతిని ఉపయోగించి బఫర్ మెమరీలో నిల్వ చేయబడిన డేటాను పొందడానికి మెమరీని అమలు చేయండి:
జ్ఞాపకశక్తి. load_memory_variables ( { } )
దశ 3: చైన్లో సంభాషణ టోకెన్ బఫర్ మెమరీని ఉపయోగించడం
కాన్ఫిగర్ చేయడం ద్వారా గొలుసులను నిర్మించండి సంభాషణ చైన్() సంభాషణ టోకెన్ బఫర్ మెమరీని ఉపయోగించడానికి బహుళ వాదనలతో కూడిన పద్ధతి:
నుండి లాంగ్చైన్. గొలుసులు దిగుమతి సంభాషణ చైన్సారాంశంతో_సంభాషణ = సంభాషణ చైన్ (
llm = llm ,
జ్ఞాపకశక్తి = సంభాషణ టోకెన్బఫర్ మెమరీ ( llm = OpenAI ( ) , గరిష్ట_టోకెన్_పరిమితి = 60 ) ,
మాటలతో కూడిన = నిజమే ,
)
సారాంశంతో_సంభాషణ. అంచనా వేయండి ( ఇన్పుట్ = 'బాబూ ఏంటి సంగతి?' )
ఇప్పుడు, సహజ భాషలో వ్రాసిన ప్రాంప్ట్లను ఉపయోగించి ప్రశ్నలను అడగడం ద్వారా సంభాషణను కొనసాగించండి:
సారాంశంతో_సంభాషణ. అంచనా వేయండి ( ఇన్పుట్ = 'ఇప్పుడే NLP ప్రాజెక్ట్లో పని చేస్తున్నాను' )
టోకెన్ల సంఖ్యను ఉపయోగించి బఫర్ మెమరీలో నిల్వ చేయబడిన డేటా నుండి అవుట్పుట్ను పొందండి:
సారాంశంతో_సంభాషణ. అంచనా వేయండి ( ఇన్పుట్ = 'ఎల్ఎల్ఎంల రూపకల్పనపై పని చేస్తున్నాను' )
మునుపటి సందేశాలు క్రమం తప్పకుండా ఫ్లష్ అవుతున్నందున బఫర్ ప్రతి కొత్త ఇన్పుట్తో అప్డేట్ అవుతూనే ఉంటుంది:
సారాంశంతో_సంభాషణ. అంచనా వేయండి (ఇన్పుట్ = 'LangChainని ఉపయోగిస్తున్న LLM! మీరు దాని గురించి విన్నారా'
)
లాంగ్చెయిన్లో సంభాషణ టోకెన్ బఫర్ని ఉపయోగించడం గురించి అంతే.
ముగింపు
LangChainలో సంభాషణ టోకెన్ బఫర్ను ఉపయోగించడానికి, OpenAI ఖాతా నుండి API కీని ఉపయోగించి పర్యావరణాన్ని సెటప్ చేయడానికి మాడ్యూల్లను ఇన్స్టాల్ చేయండి. ఆ తర్వాత, బఫర్లో సంభాషణను నిల్వ చేయడానికి LangChain మాడ్యూల్ని ఉపయోగించి ConversationTokenBufferMemory లైబ్రరీని దిగుమతి చేయండి. చాట్లోని ప్రతి కొత్త సందేశంతో పాత సందేశాలను ఫ్లష్ చేయడానికి బఫర్ మెమరీని గొలుసులో ఉపయోగించవచ్చు. ఈ పోస్ట్ LangChainలో సంభాషణ టోకెన్ బఫర్ మెమరీని ఉపయోగించడం గురించి వివరించింది.