请问怎么知道双精度和单精度实数的数值范围# Computation - 科学计算
g*s
1 楼
在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
数据范围有什么计算公式吗?
先谢了!
数据范围有什么计算公式吗?
先谢了!
C*S
2 楼
2^32-1 for nosign integer, if signed, half of this.
到
【在 g******s 的大作中提到】
: 在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
: 数据范围有什么计算公式吗?
: 先谢了!
到
【在 g******s 的大作中提到】
: 在fortran语言中,单精度实数是4-byte(字节?),为什么整型也是4-byte呢?从byte位数到
: 数据范围有什么计算公式吗?
: 先谢了!
z*q
3 楼
there should be a limits.h file, you can find all the ranges from it.
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
g*s
4 楼
多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 C***S 的大作中提到】
: 2^32-1 for nosign integer, if signed, half of this.
:
: 到
C*S
5 楼
2^8-1, 2^16-1, 2^32-1, 2^64-1
【在 g******s 的大作中提到】
: 多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
: ( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
【在 g******s 的大作中提到】
: 多谢! 但是fortran90中整型4种,kind=1,2,4,8,分别对应1,2,4,8 byte integer,
: ( http://www.ifw-dresden.de/~ulrike/intel/lim_kind.htm ) 他们有什么区别呢?
g*s
6 楼
thanks a lot!
【在 C***S 的大作中提到】
: 2^8-1, 2^16-1, 2^32-1, 2^64-1
【在 C***S 的大作中提到】
: 2^8-1, 2^16-1, 2^32-1, 2^64-1
相关阅读
请教一维搜索问题急死了，word file 打不开.请问各位如何fix这个问题。在线等！谢谢！请问怎么让matlab能在没装matlab的高性能计算机上运行?excel采集数据做出的曲线，怎么找出PEAK点，谢谢！！！Gaussian Lineshape？numerical analysis的课程对于找工作有用吗？求拍：完全异步的方程组求解算法问个不该问的，matlab盗版用起来有问题吗？help: optimization with stochastic programming (转载)学search engine哪种语言最有用？Mathematical biology询问一个Matlab在C#调用的问题请问矩阵或数组的索引非整数的问题，比如a(1:3.5:20)CS 女 PHD 职业道路规划？请教IT前辈idb problem请问一个卷积的问题Please rec an undergraduate textbook for "Numerical Analysis"How to install 32 bit app in 64 bit system? (转载)今天发现Matlab R2006版在laptop和desktop上结果不同请教一个matlab问题 谢谢what is the compiler options for the routine "ssyev"