Hvordan bruke Output Parser i LangChain?

Hvordan Bruke Output Parser I Langchain



LangChain er rammeverket som inneholder alle avhengigheter og biblioteker for å bygge modeller som kan generere utdata i form av tekst. Utdatateksten er trukket ut eller generert på naturlige språk slik at mennesker kan forstå og kommunisere enkelt. Utdataene bør imidlertid være i et riktig format og god, strukturert informasjon kan gi omfattende kunnskap til brukeren.

Dette innlegget illustrerer metoden for å bruke utdataparserfunksjonene og -klassene gjennom LangChain-rammeverket.

Hvordan bruke utdataparseren gjennom LangChain?

Utdataparserne er utdataene og klassene som kan bidra til å få strukturert utdata fra modellen. For å lære prosessen med å bruke utdataparserne i LangChain, gå ganske enkelt gjennom de oppførte trinnene:







Trinn 1: Installer moduler
Start først prosessen med å bruke utdataparserne ved å installere LangChain-modulen med dens avhengigheter for å gå gjennom prosessen:



pip installere langkjede



Etter det, installer OpenAI-modulen for å bruke bibliotekene som OpenAI og ChatOpenAI:





pip installere openai

Sett nå opp miljø for OpenAI ved å bruke API-nøkkelen fra OpenAI-kontoen:



importere oss
importere getpass

os.miljø [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )

Trinn 2: Importer biblioteker
Det neste trinnet er å importere biblioteker fra LangChain for å bruke utdataparserne i rammeverket:

fra langchain.prompts importer PromptTemplate
fra langchain.prompts importer HumanMessagePromptTemplate
fra pydantic import Field
fra langchain.prompts importer ChatPromptTemplate
fra langchain.output_parsers importer PydanticOutputParser
fra pydantic import BaseModel
fra pydantic import validator
fra langchain.chat_models importer ChatOpenAI
fra langchain.llms importerer OpenAI
fra å skrive importliste

Trinn 3: Bygg datastruktur
Å bygge strukturen til utdataene er den viktige anvendelsen av utdataparserne i store språkmodeller. Før du kommer til datastrukturen til modellene, er det nødvendig å definere navnet på modellen vi bruker for å få det strukturerte resultatet fra utdataparsere:

modellnavn = 'text-davinci-003'
temperatur = 0,0
modell = OpenAI ( modell navn =modellnavn, temperatur = temperatur )

Bruk nå Joke-klassen som inneholder BaseModel for å konfigurere strukturen til utdataene for å hente vitsen fra modellen. Etter det kan brukeren enkelt legge til tilpasset valideringslogikk med pydantic-klassen som kan be brukeren om å sette en bedre utformet spørring/forespørsel:

klasse vits ( BaseModel ) :
oppsett: str = Felt ( beskrivelse = 'søk for å vise en vits' )
punchline: str = Felt ( beskrivelse = 'svar på spørsmål med en vits' )
#Logisk validering for spørringen ettersom modellen trenger for å forstå den riktig
@ validator ( 'oppsett' )
def question_ends_with_question_mark ( cls, felt ) :
hvis felt [ - 1 ] ! = '?' :
heve ValueError ( 'Dårlig utformet spørsmål!' )
komme tilbake felt

Trinn 4: Angi ledetekstmal
Konfigurer parservariabelen som inneholder PydanticOutputParser()-metoden som inneholder parameterne:

parser = PydanticOutputParser ( pydantisk_objekt =Spøk )

Etter å ha konfigurert parseren, definerer du bare ledetekstvariabelen ved å bruke PromptTemplate()-metoden med strukturen til spørringen/prompten:

prompt = PromptTemplate (
mal = 'Svar på brukerspørsmålet. \n {format_instructions} \n {spørsmål} \n ' ,
input_variables = [ 'spørsmål' ] ,
partielle_variabler = { 'format_instructions' : parser.get_format_instructions ( ) }
)

Trinn 5: Test utdataparseren
Etter å ha konfigurert alle kravene, opprett en variabel som er tilordnet ved hjelp av en spørring og kall deretter format_prompt()-metoden:

joke_query = 'Fortell meg en vits'
_input = prompt.format_prompt ( spørsmål =spøk_spørring )

Kall nå modell()-funksjonen for å definere utdatavariabelen:

utgang = modell ( _input.to_string ( ) )

Fullfør testprosessen ved å kalle parser()-metoden med utdatavariabelen som parameter:

parser.parse ( produksjon )

Det handler om prosessen med å bruke utdataparseren i LangChain.

Konklusjon

For å bruke utdataparseren i LangChain, installer modulene og sett opp OpenAI-miljøet ved å bruke API-nøkkelen. Definer deretter modellen og konfigurer deretter datastrukturen til utdataene med logisk validering av spørringen fra brukeren. Når datastrukturen er konfigurert, setter du bare ledetekstmalen, og tester deretter utdataparseren for å få resultatet fra modellen. Denne veiledningen har illustrert prosessen med å bruke utdataparseren i LangChain-rammeverket.