求教: Matlab 最大能够精确支持多大的整数?# Computation - 科学计算
k*y
1 楼
2^300 或者 2^500有没有可能?2^1000哪?
我的数字格式: 1010101111111111010101
完全是二进制的形式。
在我的PC机上: P4 1.5G 512M WindowsXP pro
Matlab 6.5
发现到了2^300时,矩阵里面存储的已经不是精确的数字了。就是由于科学计数法
最右边的小位上面的数字都变成0了。
想知道是否有办法让Matlab能够精确的表示这些数字。
尝试过用bin2dec,但是好像Matlab最高只支持2^52,请问大侠们有什么好的建议?
我的数字格式: 1010101111111111010101
完全是二进制的形式。
在我的PC机上: P4 1.5G 512M WindowsXP pro
Matlab 6.5
发现到了2^300时,矩阵里面存储的已经不是精确的数字了。就是由于科学计数法
最右边的小位上面的数字都变成0了。
想知道是否有办法让Matlab能够精确的表示这些数字。
尝试过用bin2dec,但是好像Matlab最高只支持2^52,请问大侠们有什么好的建议?