TDA4VM: 量化模型推理结果和onnx推理结果存在一个系数差
Part Number:TDA4VM 使用的sdk 0701,官方文档里对量化的描述比较模糊,量化过程发生在 tidlModelImport工具对模型进行转换的过程中吗? 我对转换后的int8模型调用PC_dsp_test_dl_algo....
Part Number:TDA4VM 使用的sdk 0701,官方文档里对量化的描述比较模糊,量化过程发生在 tidlModelImport工具对模型进行转换的过程中吗? 我对转换后的int8模型调用PC_dsp_test_dl_algo....
Part Number:TDA4VM 问题1:使用pytorch1.5训练SSD+MobileNetV2检测模型,在SDK7.3上量化(numParamBits=8,numFeatureBits=8),模型量化精度损失很大,平均每个类别15...
Part Number:TDA4VM 环境:使用pytorch1.5训练YOLO检测模型,使用SDK7.3版本进行量化 量化脚本: modelType = 2numParamBits = 8numFeatureBits = 8quantiz...