阿里云基于本地知识库构建RAG应用 | 架构与场景

RAG（检索增强生成，Retrieval-Augmented Generation）是一种结合了检索和生成技术的框架，旨在通过外部知识库的检索来增强大语言模型（LLM）的生成能力。

其核心架构包括两个主要部分：

检索模块：利用高效的向量检索引擎（如Faiss、Milvus、Elasticsearch等）从外部知识库中提取与用户输入相关的信息。

生成模块：将检索到的相关信息作为上下文输入给大语言模型，生成更精准、更具针对性的回答。

如上所示，本地知识库RAG应用架构图，管理员可将业务数据上传到本地检索型数据库中，当用户提问业务问题的时候，本地知识库将用户的问题以及与问题相关联的知识，合并成信息增强的提示词Prompt以及问题，提交到云端的大模型服务，云端的大模型服务根据用户提交的信息加强学习以及推理，得出准确的回答，返回给前端提问题的用户

如上所示，从阿里云中，下载本地知识库RAG应用的本地服务器端软件，其运行环境是python，访问界面是web的形式

如上所示，配置本地环境变量，访问本地知识库RAG应用的web页面，上传业务数据，即可实现知识库的构建

基于本地知识库构建RAG应用_大模型服务平台百炼(Model Studio)-阿里云帮助中心