技术敲黑板 | 小白适用！新一代量化转换工具链使用教程

量化转换工具，本来是为了让模型跑得更快，可折腾起来那叫一个费劲。按照文档一步步敲命令、改代码，稍不留神满屏报错，小白用户看着就头皮发麻。正是为了解决这个痛点，新一代量化转换工具链诞生了——一个带着清爽UI界面的工具，从量化到转换，最快五分钟就能搞定。不仅如此，它还集成了数据标注和模型训练功能，哪怕对深度学习只是刚刚入门，也能快速上手。

下面就把整套操作流程掰开了揉碎了讲清楚，跟着一步步来就行。

<iframe data-vidtype="2" data-mpvid="wxv_3411133847625416705" data-cover="http%3A%2F%2Fmmbiz.qpic.cn%2Fmmbiz_jpg%2FCQBkvB0lKmmYMOoqC1gP3TEKWFFVjs5IG3q5HRkuiaDoyMYz9JsiahVIWDDw92bNSmfKG7YIkDT9PqkribFLMAcIg%2F0%3Fwx_fmt%3Djpeg" allowfullscreen="" frameborder="0" data-ratio="2.1" data-w="2268" src="https://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&action=mpvideo&auto=0&vid=wxv_3411133847625416705"></iframe>

请严格按照以下顺序操作：

（一）docker 下载安装

• #在打开Docker Desktop后，打开PowerShell，输入以下命令，若没有报错信息，说明docker能够正常使用docker image list

（二）镜像下载与容器创建

1、Windows

下载镜像并创建启动容器（可选择运行exe程序或运行脚本，exe程序点击文末阅读原文获取，请确保C盘下至少有8G磁盘空间用于下载临时文件）。

注意：启动程序或运行脚本前请确保步骤1.1已完成，需要打开Docker并且可正常使用，否则程序会运行失败。

Powershell脚本

//获取镜像 （7G左右的压缩包）Invoke-WebRequest -Uri ftp://vrftp.horizon.ai/AIoT/convert_toolchain_1.0.tar.gz -OutFile convert_toolchain_1.0.tar.gz
//文件校验（eae49600ddc78572e9aecdac425553ed） Get-FileHash -Path convert_toolchain_1.0.tar.gz -Algorithm MD5
//加载镜像（会比较久） docker load -i convert_toolchain_1.0.tar.gz
//创建并启动容器 docker run --name convert_toolchain_v1 -p 8080:5000 -p 8081:5001 -it --entrypoint="/usr/local/bin/start_convert_toolchain.sh" convert_toolchain:v1.0 
//启动容器 docker start convert_toolchain_v1
//关闭容器 docker stop convert_toolchain_v1

2、Linux

shell脚本

##确保docker能够正常使用，输入后打印类似信息（Docker version 24.0.7, build afdd53b） docker --version
##下载镜像（md5sum：eae49600ddc78572e9aecdac425553ed） wget -c ftp://vrftp.horizon.ai/AIoT/convert_toolchain_1.0.tar.gz
##加载docker镜像 docker load -i convert_toolchain_1.0.tar.gz（在convert_toolchain_.tar.gz的存放路径下执行，此步骤时间较长，请耐心等待）
##创建并启动容器（容器未创建） docker run --name convert_toolchain_v1 -p 8080:5000 -p 8081:5001 -it --entrypoint="/usr/local/bin/start_convert_toolchain.sh" convert_toolchain:v1.0 
##启动容器（容器已创建） docker start convert_toolchain_v1
##关闭容器 docker stop convert_toolchain_v1

（三）启动量化转换工具链

打开Docker Desktop，选择Containers，运行容器（convert_toolchain_v1）即可，关闭同理。

若没有Docker界面，可在终端运行以下命令。

//启动容器 docker start convert_toolchain_v1
//关闭容器 docker stop convert_toolchain_v1

启动容器之后打开浏览器访问http://localhost:8081，即可使用量化转换工具链。

接下来就可以体验新一代的量化转换工具链了。量化转换过程只有三步，分别是模型选择，模型量化以及模型推理，简单易上手。

（一）模型选择

设置已有模型，然后仅需要选择模型类型（目前支持Resnet18(赛道检测)与YOLOv5s两种模型），配置模型大小以及格式，并提供模型文件和校准图片。

操作流程及页面如下：

（二）模型量化

设置量化转换参数，一键即可完成模型量化转换，同时提供默认的量化转换参数，可直接使用！一键转换功能包括：模型检查->校准数据准备->模型编译。

（三）模型推理

上传图片检验模型量化的效果，并提供模型下载功能。再也不用手动修改代码了！

①模型检测：使用指定模型进行推理，并把推理结果输出到页面；
②下载bin模型：将bin模型下载到本地，bin文件可部署到RDK X3上用于推理；
③下载所有模型：将量化过程中生成所有的模型下载到本地（包括onnx和bin）；
④清除所有缓存文件：将之前包括本次上传的文件以及量化过程中产生的文件全部清除，避免占用过多的内存。

二、没有模型

（一）数据标注

该工具提供数据标注功能，可通过点击页面的数据标注平台跳转，也可在浏览器访问http://localhost:8080/。本标注功能基于Label Studio开源项目开发，支持各类形式的标注，同时支持Resnet18(赛道检测)、YOLOv5的数据集格式导出，导出数据集可直接用于训练！

1、创建项目

2、项目配置

①配置项目名称，项目描述等；

②导入图片数据；

③选择任务类型（赛道检测任务选择KeyPoint Labeling，yolov5选择Object Detection with Bounding Boxes）；

④选择任务类型之后，将原来的label清除，Add labe names配置标注信息，配置完成之后点击保存。

3、数据标注

①数据类型选择为img，可以看到每张图片；

②点击Label All Tasks后进入标注页面，若点击后出现Before you can annotate the data, set up labeling configuration，说明创建任务的时候没有进行labeling setup，此时点击Go to setup进行设置；

③点击Browse Templates后选择任务类型以及配置标注信息；

④点击race_center标签后标注，标注完成后需点击提交按钮。

4、导出数据集

所有数据标注完成之后，点击导出按钮，选择格式（赛道检测选择Resnet18 Race，障碍物检测选择YOLOV5），导出后的数据集可直接用于训练过程。

也可自行使用熟悉的标注工具进行标注，但注意最后用于训练的数据集有一定的格式要求！

（二）模型训练

该工具还提供模型训练的功能！首先，在模型选择阶段设置没有模型，然后选择模型类型，配置模型参数与训练参数后即可进行模型训练，右侧黑框会实时打印相关log。目前仅支持使用CPU进行训练，虽然速度慢，但用起来非常简单！不过也鼓励大家自己搭建环境使用GPU训练。

操作流程及页面如下：

（三）模型量化+模型推理

模型训练完成后，其余步骤与已有模型的操作相同，具体请参考模型量化与模型推理。