TI中文支持网
TI专业的中文技术问题搜集分享网站

关于VLFFT计算精度问题,和MATLAB对比,谢谢

TI工程师,您好!

      我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:

1)发现结果不完全一样,精度误差较大

2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?

3)是什么原因造成的?是乘法运算?float精度不够?

谢谢!

Adam Yao94020:

我理解应该是数据表示字长的影响,DSP中的浮点处理一般是float(单精度浮点),而matlab默认使用的是double(双精度浮点),

这两个可以表示的数据精度是不一样的。

赞(0)
未经允许不得转载:TI中文支持网 » 关于VLFFT计算精度问题,和MATLAB对比,谢谢
分享到: 更多 (0)