PAI-RAG

开源 Agentic RAG 框架，让智能检索像呼吸一样简单

无需 ML 专家，5 分钟构建企业级 Agentic RAG 应用

为什么选择 PAI-RAG？

PAI-RAG 是基于阿里云 PAI 平台的开源 Agentic RAG 框架，专注于企业级复杂知识处理与智能问答场景。它不仅是一个 RAG 系统，更是一个融合了知识库管理、多模态理解、ReAct 智能体、MCP 工具生态的一站式解决方案。

能力	传统 RAG	PAI-RAG
知识库管理	单文件上传，切片固定	并发上传 + 动态切片 + 元数据过滤
文档解析	仅文本	20+ 格式：PDF / Office / 图片 / 视频
检索策略	向量检索	向量 + 全文 + 混合检索 + Rerank
多模态	不支持	图片理解 + 视频解析 + 图文混合回复
复杂任务	简单问答	ReAct 智能体 + 任务规划 + 并行工具调用
实时信息	静态知识库	联网搜索（阿里云 IQS / Tavily）
工具生态	有限插件	MCP 深度集成（客户端 + 服务端）
数据分析	不支持	代码沙箱 + Text-to-SQL
企业能力	高定制成本	多租户 + RBAC + 可观测 + 开箱即用

核心特性

1. 企业级知识库管理

20+ 文档格式：PDF、DOCX、PPTX、Excel、CSV、Markdown、HTML、JSONL、图片、视频等
智能切片策略：句子级、Token 级、段落级、Markdown 感知、版面感知等多种策略，按知识库独立配置
三大检索模式：向量检索、全文检索、混合检索（向量 + BM25），配合 Reranker 精排
元数据过滤：支持标签、时间、来源等多维度复合条件过滤，最深 5 层嵌套
Chunk 级管理：可视化查看、编辑、激活/停用单个知识片段
FAQ 模式：Excel 直接导入为问答对，适配客服等场景
异步处理：基于 Celery + Redis 的后台任务队列，大批量文件上传不阻塞

2. 多模态内容理解

文档图片自动提取：从 PDF/DOCX/PPTX 中提取图片，通过多模态大模型生成描述并索引
图片问答：直接上传图片到知识库或作为对话附件，AI 自动理解图片内容
视频解析：支持 MP4/AVI/MOV 等视频格式，自动提取关键帧并生成描述
图文混合生成：回答中自动嵌入相关图片，生成更丰富直观的结果

3. Agentic RAG 智能体

ReAct 框架：思考-行动-观察循环，支持并行工具调用，最大 20 步推理
思维链支持：原生支持 Qwen3、DeepSeek-R1 等思考模型，分离推理过程与最终回答
任务规划：自动拆解复杂多步骤任务（如"对比 2023 年财报与行业趋势"）
流式输出：SSE 实时推送，工具调用过程透明可见

4. MCP 生态集成

MCP 客户端：接入任意外部 MCP 服务器（SSE/stdio），即时扩展工具能力
MCP 服务端：将知识库检索暴露为 MCP 工具，供外部 AI Agent 调用
即插即用：通过 Web UI 或 API 动态添加/移除 MCP 服务器

5. 丰富的内置工具

工具	说明
知识库检索	对配置的知识库进行 RAG 检索
联网搜索	阿里云 IQS / Tavily 实时搜索
网页浏览	访问并解析指定 URL 内容
代码沙箱	云端 Python 沙箱，支持数据分析和图表生成
Text-to-SQL	自然语言查询 MySQL/PostgreSQL 数据库
附件解析	读取分析上传的文件附件
思考推理	结构化的反思与推理
任务规划	复杂任务的分解与规划

6. 企业级能力

多租户架构：所有资源按 tenant_id 隔离，适合 SaaS 多租户部署
RBAC 权限控制：用户-角色-文档三级权限，精确到 Chunk 级别的访问控制
内容安全：集成阿里云内容安全（Green），自动审查输入输出
可观测性：OpenTelemetry 全链路追踪，支持 OTLP/HTTP 和 OTLP/gRPC
OpenAI 兼容 API：/v1/chat/completions 标准接口，可直接对接现有应用

架构总览

┌──────────────────────────────────────────────────────────┐
│                    Web UI (Next.js)                       │
├──────────────────────────────────────────────────────────┤
│                  FastAPI Backend                          │
│  ┌─────────┐  ┌──────────┐  ┌──────────┐  ┌──────────┐  │
│  │Chat API │  │ RAG API  │  │Config API│  │ MCP API  │  │
│  │(OpenAI) │  │(Retrieval│  │(管理接口)│  │(工具服务)│  │
│  └────┬────┘  └────┬─────┘  └──────────┘  └──────────┘  │
│       │            │                                      │
│  ┌────▼────────────▼─────────────────────────────────┐   │
│  │              ReAct Agent Engine                     │   │
│  │  ┌────┐ ┌────┐ ┌────┐ ┌─────┐ ┌───┐ ┌──────────┐ │   │
│  │  │ KB │ │搜索│ │代码│ │T2SQL│ │MCP│ │附件/多模态│ │   │
│  │  └──┬─┘ └──┬─┘ └──┬─┘ └──┬──┘ └─┬─┘ └────┬─────┘ │   │
│  └─────┼──────┼──────┼─────┼─────┼────────┼─────────┘   │
├────────┼──────┼──────┼─────┼─────┼────────┼─────────────┤
│  ┌─────▼──┐ ┌─▼──┐ ┌▼───┐ ┌▼──┐ ┌▼────┐ ┌▼────────┐   │
│  │VectorDB│ │IQS/│ │云沙│ │DB │ │外部  │ │文件存储  │   │
│  │7种后端 │ │搜索│ │ 箱 │ │   │ │MCP  │ │Local/OSS│   │
│  └────────┘ └────┘ └────┘ └───┘ └─────┘ └─────────┘   │
└──────────────────────────────────────────────────────────┘

支持的向量数据库

后端	类型	向量检索	全文检索	混合检索
Chroma (本地)	嵌入式	✅	❌	❌
Milvus	云/自建	✅	✅	✅
Elasticsearch	云/自建	✅	✅	✅
PostgreSQL (pgvector)	云/自建	✅	✅	✅
Hologres	阿里云	✅	❌	❌
OpenSearch	阿里云	✅	❌	❌
Tablestore	阿里云	✅	❌	❌

支持的 LLM

通过 OpenAI 兼容接口，支持接入任意大语言模型：

通义千问（DashScope）：Qwen-Max / Qwen-Plus / Qwen-Turbo / Qwen-VL 等
OpenAI：GPT-4o / GPT-4 / GPT-3.5 等
开源自部署：通过 vLLM / Ollama 等部署的任意模型
思考模型：原生支持 Qwen3、DeepSeek-R1 等思维链模型

快速开始

Docker 部署（推荐）

git clone https://github.com/aigc-apps/PAI-RAG.git
cd PAI-RAG/docker
cp .env.example .env
# 编辑 .env 配置你的参数
docker compose up -d

启动后访问 http://localhost:8680 即可使用。

本地开发

# 创建 Python 3.11 环境
conda create -n pai-rag python=3.11 && conda activate pai-rag

# 安装依赖
pip install poetry && poetry install

# 配置环境变量
cp .env.example .env

# 启动服务（需要先启动 Redis）
./scripts/start.sh --dev

阿里云 EAS 部署

参考 EAS 部署指南，一键部署到阿里云 PAI-EAS。

环境变量配置

变量	说明	默认值
`DB_TYPE`	元数据库类型：`sqlite` / `postgresql` / `mysql`	`sqlite`
`FILE_STORE_TYPE`	文件存储：`local` / `oss`	`local`
`VECTOR_DB_TYPE`	向量库：`local` / `milvus` / `elasticsearch` / `postgresql` / `hologres` / `opensearch` / `tablestore`	`local`
`REDIS_HOST`	Redis 地址	`localhost`
`USE_CUDA`	是否启用 GPU 加速	`false`
`MAX_RECURSION_STEPS`	Agent 最大推理步数	`20`
`ENABLE_MINERU`	启用 MinerU 高级 PDF 解析	`false`

完整配置请参考环境变量文档。

API 文档

PAI-RAG 提供 OpenAI 兼容的标准 API：

# Chat Completions（流式）
curl http://localhost:8682/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "your-model",
    "messages": [{"role": "user", "content": "你好"}],
    "stream": true
  }'

接口	说明	文档
`POST /v1/chat/completions`	对话补全（OpenAI 兼容）	Chat API
`POST /v1/retrieval`	知识库检索（Dify 兼容）	Retrieval API
`POST /v1/embeddings`	文本向量化	-
`GET/POST /v1/knowledgebases`	知识库管理	KB API
`POST /v1/mcp/*`	MCP 工具服务	-

深入使用

项目部署

模型配置

功能指南

Agentic RAG 使用指南（任务规划 / 联网搜索 / MCP 工具调用）
多模态问答（知识库图片理解 + 附件上传）
多模态附件示例
代码沙箱（数据分析 / 图表生成）
权限控制（RBAC 文档级权限）

API 参考

项目结构

PAI-RAG/
├── backend/                 # FastAPI 后端
│   ├── api/v1/              # REST API 路由
│   ├── agent/               # ReAct 智能体引擎
│   ├── tools/               # 内置工具（检索/搜索/代码/SQL/附件等）
│   ├── rag/                 # RAG 管线（切片/向量化/重排序）
│   ├── common/              # 通用组件（LLM 客户端/向量库连接器）
│   ├── service/             # 业务逻辑层
│   ├── evaluation/          # RAG 评估框架
│   └── extensions/          # 扩展（内容安全/链路追踪）
├── frontend/                # Next.js Web UI
├── integrations/
│   └── pairag-file/         # 文件解析库（20+ 格式）
├── docker/                  # Docker Compose 部署
├── docs/                    # 文档
└── alembic/                 # 数据库迁移

联系我们

PAI-RAG 官方钉钉群号：27370042974

Version	Changes	Urgency	Date
v0.4.3	## What's Changed * Support English ui * Add simple react agent * Support streamable http mcp server Full Changelog: https://github.com/aigc-apps/PAI-RAG/compare/v0.4.2-20260128...v0.4.3	Low	2/11/2026
v0.4.2-20260128	## What's Changed * Add rag trace by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/803 * Add rerank span operation name by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/804 * Fix mcp contract and request-id by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/806 * Fix kb mcp api by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/807 * Refine rag trace span name by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/808 * add file parsing and FAQ by @Ceceliachen	Low	1/28/2026
v0.4.2-20251230	1. Refine knowledgebases: metadata filtering, add knowledgebase mcp server 2. Upgrade code tool ## What's Changed * Update new docker version by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/756 * add DashScope reranker by @Ceceliachenen in https://github.com/aigc-apps/PAI-RAG/pull/758 * fix code tool by @Ceceliachenen in https://github.com/aigc-apps/PAI-RAG/pull/757 * Add new pdf parser by @moria97 in https://github.com/aigc-apps/PAI-RAG/pull/760 * add retrieval reranker config	Low	12/30/2025
v0.4.1-20251107	## ✨ New Feature Code Tool Added: Enables data analysis directly on spreadsheet files (e.g., .xlsx, .csv), empowering users to explore and process structured data programmatically. ## 🛠️ Improvements Enhanced QA for Attachments: Improved accuracy and responsiveness when performing question-answering over uploaded documents (e.g., images, excel). ## 🐞 Bug Fixes Fixed a hang issue in evaluation jobs, improving system reliability. Resolved special unicode character handling when persist	Low	11/7/2025
v0.4.0-20251024	🚀 Introducing Agentic RAG! We’re excited to announce the release of Agentic RAG — a next-generation, autonomous RAG system designed to tackle complex reasoning tasks while ensuring enterprise-grade control and extensibility. ✨ Key Highlights: 🧠 Agentic Task Planning Dynamically decompose and execute multi-step reasoning workflows to handle complex, real-world queries. 📁 Advanced Knowledge Base Management Fine-grained file-level access control, secure permissioning, and full lifecy	Low	10/27/2025
v0.3.5-20251024	Bugfixes on v0.3.4 - Fix multimodal file parsing error - Fix internal image link error - Add streaming canceled error handling - Add correlation-id in log	Low	10/27/2025
v0.3.4-20250612	1. Separate prompts for websearch/ knowledgebase 2. UI refinement.	Low	6/16/2025
v0.3.2-20250410	1. Fix excel upload error 2. Fix knowledge base limit 3. Fix elastic search timeout	Low	4/10/2025
r-v0.2.0-2-20250219	# 更新概述以下为本次版本更新的主要内容，包括每项功能和修复的概述，感谢所有贡献者的辛勤工作。 # 主要更改 - 压缩问题描述：添加了对中文提示的支持，提升了问题描述的简洁性。 - 修复 Poetry 配置：优化了项目的 Poetry 配置。 - 支持 Web 検索意图：增强了对 Web 搜索的意图支持。 - 新增阿里云搜索功能：集成了阿里云搜索服务。 - 优化历史记录功能：对历史记录的管理进行了优化。 - 优化提示模板：改进了提示模板的结构和内容。 - 修复多项问题：进行了一系列问题修复，提升稳定性。 - 修复查询变换及意图检测问题：解决了查询转换中的问题，并移除了意图检测功能。 - 修复 V1 聊天系统提示：更新和修正了聊天功能的系统提示。 - 升级阿里云访问密钥及响应解析：改进了阿里云的访问密钥管理和响应解析。 - 优化聊天记录存储：改进了聊天记录的存储机制。由 @moria97 提交。 - 修复 Markdown 树结构问题：解决了 Markdown 树的弹出问题。 - 将转换后的查询添加到查询字符串：增加了将转换后的查询附加到查询字符串的功	Low	2/19/2025
v0.2.0-20250212	## 新功能 - 文档处理增强 - 增加了 PDF 和图像的 OCR 选项，提升了对不同文档类型的支持。 - 添加了 Markdown 树解析器，优化了文档的结构化处理。 - 向量存储扩展 - 引入了 Tablestore 和 Dashvector 向量存储，增强了数据检索和管理能力。 - 搜索功能升级 - 支持 Deepseek 和 Quark 搜索，扩大了搜索的覆盖范围和精确度。 - 多语言支持 - 添加了英文版的提示模板，提升了多语言用户的使用体验。 ## 主要改进 - 架构与性能优化 - 将 Ray 任务替换为 actors，提高了系统的并发处理能力和性能。 - 对 Personal/xi/nl2sql 模块进行了模块化重构，增强了代码的可维护性和扩展性。 - 用户界面优化 - 优化了参考文献的展示界面，提升了用户的浏览体验。 - 改进了聊天页面的功能，修复了相关的显示与交互问题。 - 解析器更新 - 更新了 SQL 解析器和 Markdown 解析器，增强了对复杂语法的支持和解析准确性。 #	Low	2/12/2025
v1.0.0-20241206	🎉 New features: - 📸 Multi-Modal QA: Experience enhanced image processing and inference capabilities. Our platform now supports responses with images for a more engaging user experience. - 🤖 Agentic RAG: Enjoy seamless function-calling and intelligent query routing, optimizing the processing and retrieval of information. - 🗃️ Database Chat: Effortlessly analyze your data using our advanced text-to-SQL interface, making it easier to derive insights from your database. - 📄 Enhanced D	Low	12/6/2024
v0.1.0-20240802	- Add OpenSearch, PostgreSQL vector db. - Add function-call support - Add ```.jsonl``` file support - Bug fixes	Low	8/5/2024

PAI-RAG

Description

README

PAI-RAG

开源 Agentic RAG 框架，让智能检索像呼吸一样简单

为什么选择 PAI-RAG？

核心特性

1. 企业级知识库管理

2. 多模态内容理解

3. Agentic RAG 智能体

4. MCP 生态集成

5. 丰富的内置工具

6. 企业级能力

架构总览

支持的向量数据库

支持的 LLM

快速开始

Docker 部署（推荐）

本地开发

阿里云 EAS 部署

环境变量配置

API 文档

深入使用

项目部署

模型配置

功能指南

API 参考

项目结构

联系我们

Release History

Dependencies & License Audit

Similar Packages

More in Frameworks