老铁们，今天我们来聊聊如何在解析错误发生时进行重试。解析错误在处理复杂输出时是常见的问题，尤其当输出不仅格式不对，还不完整时。我们会通过一个例子来深入说明如何使用 RetryOutputParser 在遇到解析错误时更好地处理它。
技术背景介绍
在使用自然语言处理模型生成内容时，我们经常需要对输出进行解析。解析过程可能因输出不完整或者格式错误而失败。为了处理这类问题，Langchain 提供了一些工具，比如 PydanticOutputParser 和 OutputFixingParser。但是，有时候这些工具无法处理所有问题。
原理深度解析
OutputFixingParser 可以用于简单的格式修复，但当输出内容不完整时，它可能不知道如何处理。为了解决这个问题，Langchain 提供了 RetryOutputParser。通过在重试过程中使用完整的提示和原始输出，它能生成一个更完整的结果。
实战代码演示
先来看一下一个基本的解析例子：
from langchain.output_parsers import OutputFixingParser
from langchain_core.output_parsers import PydanticOutputParser
from langchain_core.prompts import PromptTemplate
from langchain_core.pydantic_v1 import BaseModel, Field
from langchain_openai import ChatOpenAI, OpenAI
class Action(BaseModel):
action: str = Field(description="action to take")
action_input: str = Field(description="input to the action")
parser = PydanticOutputParser(pydantic_object=Action)
template = """Based on the user question, provide an Action and Action Input for what step should be taken.
{format_instructions}
Question: {query}
Response:"""
prompt = PromptTemplate(
template="Answer the user query.\n{format_instructions}\n{query}\n",
input_variables=["query"],
partial_variables={"format_instructions": parser.get_format_instructions()},
)
prompt_value = prompt.format_prompt(query="who is leo di caprios gf?")
bad_response = '{"action": "search"}'
try:
parser.parse(bad_response)
except Exception as e:
print(f"Error: {e}")
在这里，我们尝试解析一个不完整的 bad_response，自然会抛出解析错误。接着，让我们使用 RetryOutputParser 来进行重试：
from langchain.output_parsers import RetryOutputParser
retry_parser = RetryOutputParser.from_llm(parser=parser, llm=OpenAI(temperature=0))
action = retry_parser.parse_with_prompt(bad_response, prompt_value)
print(action)
RetryOutputParser 在收到不完整的输出后，可以利用提示和原有的输出来生成更完整的响应。
优化建议分享
如果你在项目中经常遇到类似解析问题，建议使用 RetryOutputParser 来增强系统的健壮性。并且，可以通过自定义链将 RetryOutputParser 与其他模型结合使用，以实现更复杂的逻辑：
from langchain_core.runnables import RunnableLambda, RunnableParallel
completion_chain = prompt | OpenAI(temperature=0)
main_chain = RunnableParallel(
completion=completion_chain, prompt_value=prompt
) | RunnableLambda(lambda x: retry_parser.parse_with_prompt(**x))
result = main_chain.invoke({"query": "who is leo di caprios gf?"})
print(result)
补充说明和总结
通过上面的例子，我们看到了如何在解析错误时使用 RetryOutputParser 进行重试。RetryOutputParser 结合了 LLM 的力量，通过提示重新生成更完整的输出，解决了 OutputFixingParser 无法处理的问题。这样一来，解析过程可以说是相当丝滑。
今天的技术分享就到这里，希望对大家有帮助。开发过程中遇到问题也可以在评论区交流~
—END—