Skip to content

MMS 使用 & 提前获取预览版块模型

使用 mms 需要 Model Farm 账号登录,请访问 Model Farm 账号注册

系统依赖配置

配置 AidLux 依赖源

bash
# 下载正确的公钥
sudo wget -O- https://archive.aidlux.com/ubuntu24/public.key | gpg --dearmor | sudo tee /etc/apt/trusted.gpg.d/private-aidlux.gpg > /dev/null

# 编辑源文件
sudo vim /etc/apt/sources.list.d/private-aidlux.list

#在源文件中填入AidLux 提供的私钥
deb [arch=arm64 signed-by=/etc/apt/trusted.gpg.d/private-aidlux.gpg] https://archive.aidlux.com/ubuntu24 noble main

#  更新缓存
sudo apt update

更新完成后,可以通过如下命令获取到AidLux 官方的SDK 依赖

bash
sudo apt list | grep aid | grep unknown
bash
# 安装软件
# 必须先安装的,系统不自带
sudo apt install python3 python3-pip libopencv-dev python3-opencv  net-tools
# 安装 aidlite 之前必须安装的
sudo apt install aidlux-aistack-base aidrtcm

# 安装 aidlite 及依赖 
sudo apt install aid-lms aidlms-sdk aidlite-sdk cmake
sudo apt-get install libfmt-dev nlohmann-json3-dev
sudo apt install aidlite-*

# 支持DSP
sudo apt-get install qcom-fastrpc1
sudo apt-get install qcom-fastrpc-dev

# 安装 aidgen-sdk
sudo apt install aidgen-sdk

# 安装 mms 服务
sudo apt install aid-mms

# 支持 GPU
sudo add-apt-repository ppa:ubuntu-qcom-iot/qcom-noble-ppa
sudo apt install qcom-adreno-cl1
sudo ln -s /usr/lib/aarch64-linux-gnu/libOpenCL.so.1 /usr/lib/aarch64-linux-gnu/libOpenCL.so

安装完成后检查系统 /usr/local/share 新增 aidliteaidgen 目录

设备授权

获取设备 SN 码

bash
cat  /sys/devices/soc0/serial_number

获取授权文件

提供SN号给阿加犀技术人员,生成设备指定 License 文件,放入路径 /etc/opt/aidlux/license/AidLuxLics

MMS 使用

MMS 是针对阿加犀开发板用户提供的组件,可以通过命令行方式登录到 Model Farm 并且查询和下载模型文件,具体流程如下:

  1. 登录
bash
mms login

# Enter your username: 
# Enter your password:

# 输入正确的账号密码后会提示
# Login successfully.
  1. 模型查询
bash
# 列出所有模型
mms list

# 根据模型名查找模型
mms list yolo
Model        Precision  Chipset           Backend
-----        ---------  -------           -------
YOLO-NAS-l   FP16       Qualcomm QCS8550  QNN2.29
YOLO-NAS-l   INT8       Qualcomm QCS6490  QNN2.29
YOLO-NAS-l   INT8       Qualcomm QCS8550  QNN2.29
YOLO-NAS-l   W8A16      Qualcomm QCS6490  QNN2.29
YOLO-NAS-l   W8A16      Qualcomm QCS8550  QNN2.29
YOLO-NAS-m   FP16       Qualcomm QCS8550  QNN2.29
YOLO-NAS-m   INT8       Qualcomm QCS6490  QNN2.29
YOLO-NAS-m   INT8       Qualcomm QCS8550  QNN2.29
  1. 模型下载
bash
# -m: 模型名称
# -p:模型精度
# -c: 芯片
# -b: qnn版本
# 下载 yolov6l 模型,数据精度为 INT8, 针对 QCS8550 芯片平台优化,推理框架为 QNN2.23 
mms get -m yolov6l -p int8 -c qcs8550 -b qnn2.23


Downloading model from https://aiot.aidlux.com to directory: /var/opt/modelfarm_models

Downloading [yolov6l_qcs8550_qnn2.23_int8_aidlite.zip] ... done! [40.45MB in 375ms; 81.51MB/s]

Download complete!

获取预览版块模型资源

模型广场的预览板块模型不支持网页下载,开发者可以在阿加犀的板卡上,通过 mms 命令下载预览板块模型。以获取 MobileClip2-S3 为例子

  1. 通过 mms 登录
bash
mms login

# Enter your username: 
# Enter your password:

# 输入正确的账号密码后会提示
# Login successfully.
  1. 查询模型
bash
mms list mobileclip # 支持关键字搜索

# 会看到如下输出
Model           Precision  Chipset           Backend
-----           ---------  -------           -------
MobileClip-S2   FP16       Qualcomm QCS8550  QNN2.31
MobileClip2-S3  FP16       Qualcomm QCS8550  QNN2.36
  1. 下载 MobileClip2-S3
bash
# -m: 模型名称
# -p:模型精度
# -c: 芯片
# -b: qnn版本
mms get -m MobileClip2-S3 -p fp16 -c qcs8550 -b qnn2.36

# 模型资源会默认下载到 /var/opt/modelfarm_models