TI中文支持网
TI专业的中文技术问题搜集分享网站

请问28377d外扩sram 存储float数据错误如何解决?

定义在片上的数组存储float的数据没错误精度很高 但是一旦把数组放外扩sram精度下降很多 请问什么原因

 比如我定义2个float的数a1=1.0001 a2=2.0002 相乘放片上定义的float数组 b1[0]=a1*a2,的到数据是2.0004007

定义在外扩sram的float数组 C1[0]=a1*a2,的到数据是2.00390625 

Green Deng:

抱歉我这边没有外扩sram的实验条件没办法实测。请问有测试过其他数据相乘吗?得到的精度差距也很大吗?

赞(0)
未经允许不得转载:TI中文支持网 » 请问28377d外扩sram 存储float数据错误如何解决?
分享到: 更多 (0)