-
-
-
sigma
@金天 是的,但是现在有两个问题不是很明白
- mtcnn三个小网络是分别生成三个校验表,还是这三个网络只生成一个校验表?
- 对pnet来说,因为是全巻积网络,而且建立了图像金字塔,它的输入尺寸是不固定的,但是Calibrator的编写中网络的输入是resize后的,那对pnet来说它生成的校验表的个数是否和金字塔的层数有关呢?谢谢
-
sigma
mtcnn的输入是图像金字塔,会有多个尺度的图片输入pnet,如果对pnet进行int8量化,那需要保存几个calibrationTable呢?是只生成一个,还是和图像金字塔的层数相同?谢谢!
-
-
sigma
我看了tensorrt的int8量化原理,使用的是训练后量化方案,对weights直接使用线性量化,但我查到不训练直接量化的方式对小模型的精度损失非常大,mtcnn就是使用的三个小模型,我的显卡不支持int8也没有验证,请问tensorrt对mtcnn的int8量化会产生较大的精度损失吗?效率提升会有多少呢,谢谢