RAG 知识库应用部署

RAG 服务安装与配置

# 在线安装RAG服务，密码：aidlux
sudo aidllm install rag
# 登录开发者账号
aidllm login
# 查看可用知识库
aidllm remote-list rag
# 下载指定知识库（如tesla使用手册）
aidllm pull rag tesla
# 查看本地已下载知识库
aidllm list rag

启动 RAG 服务

# 启动大模型API服务（必须先启动）,如已启动，则跳过此步骤
aidllm start api -m qwen2.5-vl-3b-instruct-392x392-qnn2.36-w4a16-qcs8550
# 启动RAG服务，指定知识库
aidllm start rag -n tesla
# 验证RAG服务状态
aidllm status rag

启动 UI 服务

# 下载UI，密码：aidlux
sudo aidllm install ui
# 启动UI
aidllm start ui
# 验证UI服务状态
aidllm status ui

访问 RAG Demo

浏览器输入：http://<A8550MA1_IP>:51104/，即可访问 RAG 对话界面，输入问题即可获得基于知识库的精准回答。