ModelFarm Skill 安装与使用

简介

ModelFarm skill 是面向 AI Agent 的任务技能说明，用于辅助 Agent 完成 APLUX ModelFarm 相关工作，包括模型查询、模型下载、板端部署、示例运行和问题排查。

本文不限定具体 Agent 实现。Codex、Claude Code、自研 Agent 或其他支持 skill / prompt / workflow 扩展机制的工具，都可以参考本文组织 ModelFarm 相关能力。其中 Codex 仅作为安装路径和使用方式的示例。

该 skill 适用于以下场景：

• 查询 ModelFarm 模型是否支持指定芯片、精度或后端版本
• 通过 mms 在 APLUX 板端登录、搜索和下载模型
• 在 QCS6490、QCS8550、QCS8625、IQ8、IQ9 等平台运行模型示例
• 使用 AidLite 运行 CV 模型示例
• 使用 AidGen 运行 LLM / VLM 本地推理示例
• 使用 AidGenSE 运行 OpenAI 兼容 HTTP API 服务
• 使用 AidVoice 运行 ASR / TTS 文件示例

安装方式

ModelFarm skill 仓库地址：

https://github.com/aplux-ai/model-farm-skill

将仓库克隆到本地后，复制到目标 Agent 的 skills 目录。

git clone https://github.com/aplux-ai/model-farm-skill.git
mkdir -p <agent-skills-dir>
cp -r model-farm-skill <agent-skills-dir>/model-farm

以 Codex 为例：

git clone https://github.com/aplux-ai/model-farm-skill.git
mkdir -p ~/.codex/skills
cp -r model-farm-skill ~/.codex/skills/model-farm

Codex 安装后的目录结构示例：

~/.codex/skills/
└── model-farm/
    ├── SKILL.md
    └── references/

其中：

• SKILL.md：skill 的入口说明，定义触发范围、流程和全局规则
• references/：不同任务类型的详细操作说明，例如模型下载、AidGen 运行、AidVoice 运行等

检查安装

安装完成后，确认 SKILL.md 存在。

通用检查方式：

ls <agent-skills-dir>/model-farm/SKILL.md

以 Codex 为例：

ls ~/.codex/skills/model-farm/SKILL.md

如果能够看到该文件，说明 skill 文件已经放置到正确位置。

在 Agent 中发起与 ModelFarm 相关的任务时，可以直接提到 ModelFarm、model-farm skill、mms、AidGen、AidGenSE、AidVoice 等关键词。支持自动技能匹配的 Agent 可以根据任务内容加载该 skill；不支持自动匹配的 Agent 可以将 SKILL.md 作为系统提示、工具说明或工作流说明导入。

使用方式

安装完成后，在 Agent 对话中直接说明希望完成的 ModelFarm 任务即可。可以按下面几类方式提问。

1. 查询模型

查询模型是否可用，或是否支持指定芯片、精度、后端版本。

帮我查一下 ModelFarm 上 Qwen3-4B 是否支持 QCS8550

查询 Qwen2.5-VL-3B 在 ModelFarm 的 qnn2.36 支持情况

2. 下载模型

下载指定模型资源到板端或本地目录。

使用 ModelFarm skill 帮我下载 Qwen3-4B 的 QCS8550 qnn2.36 模型

使用 ModelFarm skill 下载 Qwen2.5-VL-3B 的 QCS8550 w4a16 模型

3. 运行 LLM / VLM 示例

运行大语言模型或图文多模态模型的板端示例。

用 ModelFarm skill 在 QCS8550 上跑 Qwen3-4B 本地聊天示例

帮我用 ModelFarm skill 在板端运行 Qwen2.5-VL-3B 图文对话示例

4. 启动 API 服务

启动 OpenAI 兼容 HTTP API 服务或 Web UI。

用 ModelFarm skill 启动 Qwen3-4B 的 OpenAI 兼容接口服务

帮我在板端启动 Qwen3-4B 的 /v1/chat/completions 服务

5. 运行语音示例

运行 ASR 语音识别或 TTS 语音合成示例。

使用 ModelFarm skill 在板端运行 SenseVoiceSmall ASR 文件识别示例

使用 ModelFarm skill 测试 MeloTTS 文本转语音示例

板端连接要求

涉及板端执行时，需要提供设备 IP、用户名和密码。

如果只提供 IP，通常默认使用 Rhino-Pi 账号：

用户名：aidlux
密码：aidlux

常用工作目录：

BOARD_WORKDIR="${BOARD_WORKDIR:-$HOME}"
AIDLLM_DIR="$BOARD_WORKDIR/aidllm"
AIDMLM_DIR="$BOARD_WORKDIR/aidmlm"
AIDVOICE_DIR="$BOARD_WORKDIR/aidvoice"

使用注意事项

• ModelFarm 模型目录、包名、芯片支持和性能数据可能变化，应优先使用实时查询结果
• 不要在未确认的情况下假设模型支持某个芯片、精度或 QNN 版本
• 下载模型后应先查看解压后的 README、脚本和配置文件，再执行运行命令
• LLM / VLM 本地部署默认走 AidGen
• OpenAI 兼容 HTTP 服务相关需求才使用 AidGenSE
• CV 模型示例通常走 AidLite
• ASR / TTS 文件示例通常走 AidVoice
• 运行 mms get、aidllm pull api 等长耗时命令时，应持续关注下载进度