c*u
2 楼
这个是round half to even吧。
D*a
4 楼
是因为数字存储方式吧
> (0.1+0.05) - 0.15
[1] 2.775558e-17
> (0.1+0.05) - 0.15
[1] 2.775558e-17
K*n
10 楼
无论如何,(0.1+0.05)>0.15 是处这一点还是很令人震惊的
这泥马还玩儿不玩儿了。以前不知道,原来R君是这样的人啊。太过分了!
这泥马还玩儿不玩儿了。以前不知道,原来R君是这样的人啊。太过分了!
j*e
15 楼
你学一下system programming (用C) 就知道怎么回事了。所有language都这样。计
算机是二进制的,都是非连续的。
有些语言用class来存储大的数字,貌似PL-SQL就有。
最后还是看你对精度的要求,要求高的话就不要用float和double.
算机是二进制的,都是非连续的。
有些语言用class来存储大的数字,貌似PL-SQL就有。
最后还是看你对精度的要求,要求高的话就不要用float和double.
K*n
16 楼
果然如此啊! 今次又学到了数值计算的要领 machine epsilon
echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
wtf
python -c "print 0.15+0.05 > 0.15"
True
不过这是为什么?
python -c "print (0.10*10+0.05*10 == 0.15*10)"
True
echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
wtf
【在 s******s 的大作中提到】
: 这个很正常啊。大多数程序都是这样的,除非你调用特别的方法。
: 浮点数二进制当然不是正好的,不仅是R,你试一下最基本的bash awk
: 也一样,不值得大吃一惊
echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
wtf
python -c "print 0.15+0.05 > 0.15"
True
不过这是为什么?
python -c "print (0.10*10+0.05*10 == 0.15*10)"
True
echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
wtf
【在 s******s 的大作中提到】
: 这个很正常啊。大多数程序都是这样的,除非你调用特别的方法。
: 浮点数二进制当然不是正好的,不仅是R,你试一下最基本的bash awk
: 也一样,不值得大吃一惊
G*G
17 楼
不知道。按道理
0.05*10=0.5仍然是浮点数
【在 K****n 的大作中提到】
: 果然如此啊! 今次又学到了数值计算的要领 machine epsilon
: echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
: wtf
: python -c "print 0.15+0.05 > 0.15"
: True
: 不过这是为什么?
: python -c "print (0.10*10+0.05*10 == 0.15*10)"
: True
: echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
: wtf
0.05*10=0.5仍然是浮点数
【在 K****n 的大作中提到】
: 果然如此啊! 今次又学到了数值计算的要领 machine epsilon
: echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
: wtf
: python -c "print 0.15+0.05 > 0.15"
: True
: 不过这是为什么?
: python -c "print (0.10*10+0.05*10 == 0.15*10)"
: True
: echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
: wtf
d*k
21 楼
mark一下,准备开始用R的人
相关阅读
个性化医疗 vs. 癌症方舟子又一重大胜利需要做大量多肽多抗,请推荐一家美国靠谱的公司我给马工丢脸了 (转载)高通量NGS测序是不是一个好的职业方向Biology/Biomedical相关QQ交流合作群【electroporation】关于electroporation protein到Gram-positive bacteria问个关于Prion领域发文章的事Paper help请推荐画分子模型的软件睾丸较小的男性是“更好”的父亲? (转载)[转]什么样的学术导师是好导师?求审稿Fe-55 10u Ci 是否有危险性?要注意什么?东岸有哪些测转录组的公司?有木有童鞋 用过 EZ DNA Methylation-Direct Kit?【paper help】Future Microbiology如何拿到lymphogenesis and myelogenesis 相关的基因anyone try lentiviral particles from santa cruz?美国生物技术公司征求中国抗体生产商合作开发高附加值产品 (转载)