c*u
2 楼
这个是round half to even吧。
D*a
4 楼
是因为数字存储方式吧
> (0.1+0.05) - 0.15
[1] 2.775558e-17
> (0.1+0.05) - 0.15
[1] 2.775558e-17
K*n
10 楼
无论如何,(0.1+0.05)>0.15 是处这一点还是很令人震惊的
这泥马还玩儿不玩儿了。以前不知道,原来R君是这样的人啊。太过分了!
这泥马还玩儿不玩儿了。以前不知道,原来R君是这样的人啊。太过分了!
j*e
15 楼
你学一下system programming (用C) 就知道怎么回事了。所有language都这样。计
算机是二进制的,都是非连续的。
有些语言用class来存储大的数字,貌似PL-SQL就有。
最后还是看你对精度的要求,要求高的话就不要用float和double.
算机是二进制的,都是非连续的。
有些语言用class来存储大的数字,貌似PL-SQL就有。
最后还是看你对精度的要求,要求高的话就不要用float和double.
K*n
16 楼
果然如此啊! 今次又学到了数值计算的要领 machine epsilon
echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
wtf
python -c "print 0.15+0.05 > 0.15"
True
不过这是为什么?
python -c "print (0.10*10+0.05*10 == 0.15*10)"
True
echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
wtf
【在 s******s 的大作中提到】
: 这个很正常啊。大多数程序都是这样的,除非你调用特别的方法。
: 浮点数二进制当然不是正好的,不仅是R,你试一下最基本的bash awk
: 也一样,不值得大吃一惊
echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
wtf
python -c "print 0.15+0.05 > 0.15"
True
不过这是为什么?
python -c "print (0.10*10+0.05*10 == 0.15*10)"
True
echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
wtf
【在 s******s 的大作中提到】
: 这个很正常啊。大多数程序都是这样的,除非你调用特别的方法。
: 浮点数二进制当然不是正好的,不仅是R,你试一下最基本的bash awk
: 也一样,不值得大吃一惊
G*G
17 楼
不知道。按道理
0.05*10=0.5仍然是浮点数
【在 K****n 的大作中提到】
: 果然如此啊! 今次又学到了数值计算的要领 machine epsilon
: echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
: wtf
: python -c "print 0.15+0.05 > 0.15"
: True
: 不过这是为什么?
: python -c "print (0.10*10+0.05*10 == 0.15*10)"
: True
: echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
: wtf
0.05*10=0.5仍然是浮点数
【在 K****n 的大作中提到】
: 果然如此啊! 今次又学到了数值计算的要领 machine epsilon
: echo ""|awk '{if(0.10+0.05 > 0.15){print "wtf"}}'
: wtf
: python -c "print 0.15+0.05 > 0.15"
: True
: 不过这是为什么?
: python -c "print (0.10*10+0.05*10 == 0.15*10)"
: True
: echo ""|awk '{if(0.10*10+0.05*10 == 0.15*10){print "wtf"}}'
: wtf
d*k
21 楼
mark一下,准备开始用R的人
相关阅读
paper help判断人体内是否产生某极低含量物质,如果测不到 (转载)paper help猴子都能克隆,人还会远吗?学生物化学让我睿智Help on download a paper求教:就这样被大鱼吃掉吗? (转载)Re: 这样算抄袭吗?!有可能用FACS分选bioluminescent cell吗?求review机会,肿瘤标志物,肿瘤基因组分析方向请教大家,大家实验室都用什么型号/牌子的UV成像仪照DNA胶?resubmitted回去已经十几天了李晗冰:再这么玩下去,中国的科研就真没戏了我问一个不好Google的问题我前老板那里急招博士后武大再次回应千人举报cs phd还值得读完吗怀念读博士的日子细胞学的学者请给孩子看个基因检测结果请教qPCR cycle 的问题