Dette innlegget illustrerer metoden for å bruke utdataparserfunksjonene og -klassene gjennom LangChain-rammeverket.
Hvordan bruke utdataparseren gjennom LangChain?
Utdataparserne er utdataene og klassene som kan bidra til å få strukturert utdata fra modellen. For å lære prosessen med å bruke utdataparserne i LangChain, gå ganske enkelt gjennom de oppførte trinnene:
Trinn 1: Installer moduler
Start først prosessen med å bruke utdataparserne ved å installere LangChain-modulen med dens avhengigheter for å gå gjennom prosessen:
pip installere langkjede
Etter det, installer OpenAI-modulen for å bruke bibliotekene som OpenAI og ChatOpenAI:
pip installere openai
Sett nå opp miljø for OpenAI ved å bruke API-nøkkelen fra OpenAI-kontoen:
importere oss
importere getpass
os.miljø [ 'OPENAI_API_KEY' ] = getpass.getpass ( 'OpenAI API Key:' )
Trinn 2: Importer biblioteker
Det neste trinnet er å importere biblioteker fra LangChain for å bruke utdataparserne i rammeverket:
fra langchain.prompts importer HumanMessagePromptTemplate
fra pydantic import Field
fra langchain.prompts importer ChatPromptTemplate
fra langchain.output_parsers importer PydanticOutputParser
fra pydantic import BaseModel
fra pydantic import validator
fra langchain.chat_models importer ChatOpenAI
fra langchain.llms importerer OpenAI
fra å skrive importliste
Trinn 3: Bygg datastruktur
Å bygge strukturen til utdataene er den viktige anvendelsen av utdataparserne i store språkmodeller. Før du kommer til datastrukturen til modellene, er det nødvendig å definere navnet på modellen vi bruker for å få det strukturerte resultatet fra utdataparsere:
temperatur = 0,0
modell = OpenAI ( modell navn =modellnavn, temperatur = temperatur )
Bruk nå Joke-klassen som inneholder BaseModel for å konfigurere strukturen til utdataene for å hente vitsen fra modellen. Etter det kan brukeren enkelt legge til tilpasset valideringslogikk med pydantic-klassen som kan be brukeren om å sette en bedre utformet spørring/forespørsel:
klasse vits ( BaseModel ) :oppsett: str = Felt ( beskrivelse = 'søk for å vise en vits' )
punchline: str = Felt ( beskrivelse = 'svar på spørsmål med en vits' )
#Logisk validering for spørringen ettersom modellen trenger for å forstå den riktig
@ validator ( 'oppsett' )
def question_ends_with_question_mark ( cls, felt ) :
hvis felt [ - 1 ] ! = '?' :
heve ValueError ( 'Dårlig utformet spørsmål!' )
komme tilbake felt
Trinn 4: Angi ledetekstmal
Konfigurer parservariabelen som inneholder PydanticOutputParser()-metoden som inneholder parameterne:
Etter å ha konfigurert parseren, definerer du bare ledetekstvariabelen ved å bruke PromptTemplate()-metoden med strukturen til spørringen/prompten:
prompt = PromptTemplate (mal = 'Svar på brukerspørsmålet. \n {format_instructions} \n {spørsmål} \n ' ,
input_variables = [ 'spørsmål' ] ,
partielle_variabler = { 'format_instructions' : parser.get_format_instructions ( ) }
)
Trinn 5: Test utdataparseren
Etter å ha konfigurert alle kravene, opprett en variabel som er tilordnet ved hjelp av en spørring og kall deretter format_prompt()-metoden:
_input = prompt.format_prompt ( spørsmål =spøk_spørring )
Kall nå modell()-funksjonen for å definere utdatavariabelen:
utgang = modell ( _input.to_string ( ) )Fullfør testprosessen ved å kalle parser()-metoden med utdatavariabelen som parameter:
parser.parse ( produksjon )
Det handler om prosessen med å bruke utdataparseren i LangChain.
Konklusjon
For å bruke utdataparseren i LangChain, installer modulene og sett opp OpenAI-miljøet ved å bruke API-nøkkelen. Definer deretter modellen og konfigurer deretter datastrukturen til utdataene med logisk validering av spørringen fra brukeren. Når datastrukturen er konfigurert, setter du bare ledetekstmalen, og tester deretter utdataparseren for å få resultatet fra modellen. Denne veiledningen har illustrert prosessen med å bruke utdataparseren i LangChain-rammeverket.