RAG 知识库应用部署

RAG 服务安装与配置

# 1. 从文档中心下载RAG服务安装包
# aid-rag_1.0.0_arm64.deb
# 2. 安装RAG服务
dpkg -i aid-rag_1.0.0_arm64.deb
# 3. 登录开发者账号
aidllm login
# 4. 查看可用知识库
aidllm remote-list rag
# 5. 下载指定知识库（如tesla使用手册）
aidllm pull rag tesla
# 6. 查看本地已下载知识库
aidllm list rag

启动 RAG 服务

# 启动大模型API服务（必须先启动）
aidllm start api -m Qwen2.5-VL-3B-392x392-8625
# 启动RAG服务，指定知识库
aidllm start rag -n tesla
# 验证RAG服务状态
aidllm status rag

访问 RAG Demo

浏览器输入：http://<A8625_IP>:51104/，即可访问 RAG 对话界面，输入问题即可获得基于知识库的精准回答。