问个double计算精度的问题# Computation - 科学计算
p*e
1 楼
我在用c++程序和matlab比较,发现c++的double精度是按照小数点后16位有效数字来算
的,
这样总体有效数字就是17位。而matlab是总体有效数字16位。
这样的结果是时间长了两者的计算结果会有差别,而我希望能得到完全一致的结果,该
如何解决呢?
的,
这样总体有效数字就是17位。而matlab是总体有效数字16位。
这样的结果是时间长了两者的计算结果会有差别,而我希望能得到完全一致的结果,该
如何解决呢?