mtcnn的输入是图像金字塔,会有多个尺度的图片输入pnet,如果对pnet进行int8量化,那需要保存几个calibrationTable呢?是只生成一个,还是和图像金字塔的层数相同?谢谢!
-
sigma |
mtcnn int8量化时pnet生成几个calibrationTable?
-
sigma |
量化时发现一个现象,如果量化RNet检测准确度下降很多,只量化PNet和ONet准确度下降的不多,很奇怪
-
sigma |
-
sigma |
@金天 是的,但是现在有两个问题不是很明白
- mtcnn三个小网络是分别生成三个校验表,还是这三个网络只生成一个校验表?
- 对pnet来说,因为是全巻积网络,而且建立了图像金字塔,它的输入尺寸是不固定的,但是Calibrator的编写中网络的输入是resize后的,那对pnet来说它生成的校验表的个数是否和金字塔的层数有关呢?谢谢
-
刘看山 |
tensorrt量化部署?
得先写calibration tool吧,具体标定方式也得根据你的数据集来。后面有时间出一个量化教程