请问怎么知道双精度和单精度实数的数值范围# Computation - 科学计算
g*s
1 楼
在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
数据范围有什么计算公式吗?
先谢了!
数据范围有什么计算公式吗?
先谢了!
C*S
2 楼
2^32-1 for nosign integer, if signed, half of this.
到
【在 g******s 的大作中提到】
: 在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
: 数据范围有什么计算公式吗?
: 先谢了!
到
【在 g******s 的大作中提到】
: 在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
: 数据范围有什么计算公式吗?
: 先谢了!
z*q
3 楼
there should be a limits.h file, you can find all the ranges from it.
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
g*s
4 楼
多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
C*S
5 楼
2^8-1, 2^16-1, 2^32-1, 2^64-1
【在 g******s 的大作中提到】
: 多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
: ( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 g******s 的大作中提到】
: 多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
: ( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
g*s
6 楼
thanks a lot!
【在 C***S 的大作中提到】
: 2^8-1, 2^16-1, 2^32-1, 2^64-1
【在 C***S 的大作中提到】
: 2^8-1, 2^16-1, 2^32-1, 2^64-1
相关阅读
请教 LS-DYNA 3D 的 Penetration 和 Remeshing[转载] Where to download SAS?Trial version?急：如何写能生成任意分布的随机数的程序？[转载] Matlab helpFortran 90 for linux老是看到GSL，不知道是什么？干什么用的？在EXCEL中,如何利用两个列得到第三列, 比如, 求列A+B =C询问elaticity equation的参考资料Question about overloading in fortran90c++ random number generator一个matrix问题解ODE的六阶精度Runge-Kutta法Numerical low-rankness of Hilbert matrix问一个关于genetic algorithm 的问题问一个FORTRAn的问题！请教vc里调用matlab的函数有人做ANASYS的热应力分析么[转载] Re: added ccmmaple 9 introduction请问如何计算连续系统的李亚普诺夫条件指数？