阿加犀在线 AI 工具链
模型广场 (Model Farm)
模型广场是阿加犀官方模型资源平台,提供 400 + 针对高通平台优化的 AI 模型,包含实测性能基准与开箱即用的示例代码。
核心功能
- 查询指定模型在 A8625MY1 上的推理性能(耗时、精度、内存占用)
- 下载适配 QNN 后端的优化模型文件(支持 INT4/INT8/FP16 精度)
- 获取对应模型的 Python/C++ 推理示例代码
- 参考模型适配优化步骤,迁移自定义微调模型
标准使用流程(以 YOLOv5s 为例)
- 访问模型广场:https://aiot.aidlux.com/zh/model-farm
- 筛选芯片平台:QCS8625,模型类型:目标检测
- 找到YOLOv5s-INT8-QNN236模型,查看性能基准
- 登录开发者账号,下载模型文件与代码包
- 上传到 A8625MY1 并解压
- 安装依赖:
bash
pip install opencv-python numpy- 运行测试脚本:
bash
cd model_farm_yolov5s/python
LD_PRELOAD=/usr/lib/libstdc++.so.6.0.30 python3 run_test.py \
--model ../models/yolov5s_qcs8625_w8a8.qnn236.bin \
--imgs bus.jpg \
--invoke_nums 10AIMO 模型优化平台
AIMO (AI Model Optimizer) 是基于 Web 的零代码模型转换与优化平台,支持将主流框架模型转换为高通 QNN 格式,并自动进行量化与性能优化。
核心特性
- 支持 ONNX、PyTorch、TensorFlow、PaddlePaddle 等主流框架
- 内置高通平台专属算子库,大幅提升模型转换成功率
- 支持自动量化与自定义量化,平衡精度与性能
- 生成可直接在 A8625MY1 上运行的优化模型与示例代码
标准转换流程(以 YOLOv8s 为例)
- 访问 AIMO 平台:https://aimo.aidlux.com
- 上传源模型文件(如yolov8s.onnx)
- 选择目标平台:QCS8625,目标框架:QNN2.36
- 使用 Netron 工具查看模型结构,填写输入输出节点名称
- 设置量化参数:选择INT8量化,上传校准数据集(可选)
- 提交转换任务,等待完成后下载优化模型包
- 上传到 A8625MY1,使用 AidLite SDK 加载运行
AI Creator 可视化训练平台
AI Creator 是集数据标注、模型训练、远程部署于一体的一站式 AI 开发平台,专为边缘端应用优化。
核心功能
- 支持像素级标注:目标检测、语义分割、关键点检测、OCR、分类
- 预置六大算法模块,支持多模块串行组合(如定位 + 分割 + 分类)
- 自动调优训练参数,无需专业 AI 知识即可训练模型
- 训练完成后自动转换为 A8625MY1 适配的 QNN 模型
- 支持一键远程部署到连接的 A8625 设备