使用 LlamaIndex 构建代理式RAG(1)-Router Engine
输入“/”快速插入内容
使用 LlamaIndex 构建代理式RAG(1)-Router Engine
使用 LlamaIndex 构建代理式RAG(1)-Router Engine
2024年8月20日修改
作者：lucas大叔
本系列根据 DeepLearning.AI 的《Building Agentic RAG with Llamaindex》教程整理而得。在传统的 RAG 方法中，开发者需要编写显式的程序来检索信息以供输入到 LLM上下文中。在本系列课程中，将引入一项重要的变革，即构建具备检索信息工具的 RAG Agent。这样 Agent 就能够自主决定获取哪些信息，并且能够利用多步推理来回答更复杂的问题。
具体来说，你将学习以下内容：
•
Routing：agent将使用决策来将请求路由到多个工具。
•
Tool Use：创建接口让agent能够选择使用哪个工具（函数调用），并生成正确的参数。
•
Multi-step reasoning with tool use：利用 LLM 进行多步推理，同时在整个过程中保持记忆。
本节展示基于Routing的单文档常规问答和摘要问答。
配置
导入Open API KEY
代码块
from helper import get_openai_api_key
OPENAI_API_KEY = get_openai_api_key()
导入nest_asyncio模块，解决 Python 中异步编程库 asyncio 在嵌套调用时可能出现的问题的。在某些情况下，当在已经在事件循环中运行的情况下，再次尝试启动事件循环会引发异常。 nest_asyncio 库提供了一个解决方案，允许在已经运行事件循环的情况下重新应用一个新的事件循环。
具体来说， nest_asyncio.apply() 的作用是在当前的事件循环上下文中应用一个新的 asyncio 事件循环。这样做的主要目的是为了允许在 Jupyter notebook 等环境中嵌套使用 asyncio。
代码块
import nest_asyncio
nest_asyncio.apply()
加载数据
本示例以MetaGPT论文为样例文档。
代码块
from llama_index.core import SimpleDirectoryReader
# load documents
documents = SimpleDirectoryReader(input_files=["metagpt.pdf"]).load_data()
定义LLM和embedding模型
定义Setting对象，此处使用gpt-3.5-turbo和text-embedding-ada-002。
代码块
from llama_index.core.node_parser import SentenceSplitter
splitter = SentenceSplitter(chunk_size=1024)
nodes = splitter.get_nodes_from_documents(documents)
from llama_index.core import Settings
from llama_index.llms.openai import OpenAI
from llama_index.embeddings.openai import OpenAIEmbedding
Settings.llm = OpenAI(model="gpt-3.5-turbo")
Settings.embed_model = OpenAIEmbedding(model="text-embedding-ada-002")
定义Summary Index和Vector Index