Redian新闻
>
老板:再用 float 算金额,损失从工资里扣!

老板:再用 float 算金额,损失从工资里扣!

公众号新闻


公司最近在做交易系统,交易系统肯定是要和钱打交道的,和钱有关,很多人顺手就用float存储了,但是使用float存储金额做的计算是近似计算。老板:用float做计算造成公司损失的钱都往你工资里扣

错可以犯,但要扣工资是不可能滴。还是需要思考一下为什么不能用float

为什么不能使用float存储金额

首先看个例子:FloatTest.java

public class FloatTest {
    public static void main(String[] args) {
        float f1 = 6.6f;
        float f2 = 1.3f;
        System.out.println(f1 + f2);
    }
}

结果:7.8999996 和自己口算的值竟然不一样

计算机只认识0和1,所有类型的计算首先会转化为二进制的计算

从计算机二进制角度计算 6.6 + 1.3 的过程

float底层存储

计算是由CPU来完成的,CPU表示浮点数由三部分组成 分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位

二进制的转化

对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。

整数部分的计算:6转化为二进制
除以2结果小数部分
630
311
101

所以6最终的二进制为110

小数部分的计算

将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2,再取整数部分,以此往复循环

0.6转化为二进制
乘以2整数部分小数部分
1.210.2
0.400.4
0.800.8
1.610.6
1.210.2

...进入循环,循环体为1001 所以0.6转化为二进制为0.10011001... 6.6转化为二进制为110.10011001...

规约化

通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2

指数偏移值

指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127 6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001,

拼接6.6

6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一起即 01000000110100110011001100110011 到这里已经大致可以知道float为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前23位。double造成精度损失的原因也是如此

求和

原来如此

不能使用float那用什么类型存储金额?

  • 使用int 数据库存储的是金额的分值,显示的时候在转化为元

  • 使用decimal mysql中decimal存储类型的使用

  • 微信搜索公众号:架构师指南,回复:架构师 领取资料 。

    column_name  decimal(P,D);

    D:代表小数点后的位数 P:有效数字数的精度,小数点也算一位 测试例子 数据表的创建:

    CREATE TABLE `test_decimal` (
      `id` int(11NOT NULL,
      `amount` decimal(10,2NOT NULL
    ENGINE=InnoDB DEFAULT CHARSET=utf8mb4

    对应的DAO层代码:TestDecimalDao.java

    /**
     * @description dao层
     */

    @Repository
    public interface TestDecimalDao {
        @Select("select * from test_decimal where id = #{id}")
        TestDecimal getTestDecimal(int id);
    }

    测试类:TestDecimalDaoTest.java

    /**
     * @description 测试类
     */

    public class TestDecimalDaoTest extends BaseTest {
        @Resource
        private TestDecimalDao testDecimalDao;

        @Test
        public void test() {
            TestDecimal testDecimal1 =   testDecimalDao.getTestDecimal(1);
            TestDecimal testDecimal2 =   testDecimalDao.getTestDecimal(2);
            BigDecimal result =   testDecimal1.getAmount().add(testDecimal2.getAmount());
            System.out.println(result.floatValue());
        }
    }

    说明:jdbcType为decimal转化为javaType为BigDecimal 测试结果:

    是符合预期的7.9

使用decimal存储类型的缺点

  • 占用存储空间。浮点类型在存储同样范围的值时,通常比decimal使用更少的空间
  • 使用decimal计算效率不高

因为使用decimal时间和空间开销较大,选用int作为数据库存储格式比较合适,可以同时避免浮点存储计算的不精确和decimal的缺点。对于存储数值较大或者保留小数较多的数字,数据库存储结构可以选择bigint,可以同时避免浮点存储计算不精准和DECIMAL精度计算代价高的问题

来源:juejin.cn/post/6844903732497350663

PS:如果觉得我的分享不错,欢迎大家随手点赞、在看。

 关注公众号:Java后端编程,回复下面关键字 


要Java学习完整路线,回复  路线 

缺Java入门视频,回复 视频 

要Java面试经验,回复  面试 

缺Java项目,回复: 项目 

进Java粉丝群: 加群 


PS:如果觉得我的分享不错,欢迎大家随手点赞、在看。

(完)




加我"微信获取一份 最新Java面试题资料

请备注:666不然不通过~


最近好文


1、再见了 Shiro!

2、无意中发现了一位清华妹子的资料库!

3、Spring Boot + Gzip 压缩超大 JSON 对象,传输大小减少一半!

4、牢记这16个SpringBoot 扩展接口,写出更加漂亮的代码

5、聊聊大厂都怎么防止重复下单?



最近面试BAT,整理一份面试资料Java面试BAT通关手册,覆盖了Java核心技术、JVM、Java并发、SSM、微服务、数据库、数据结构等等。
获取方式:关注公众号并回复 java 领取,更多内容陆续奉上。
明天见(。・ω・。)ノ♡

微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
刚刚!澳媒曝光:ATO被骗,损失$46亿!银行追踪客户收到大额汇款!与TikTok有关第八章 现代社会的诞生 (4)99岁查理·芒格去世:他一生财富,都藏在这5项投资里治安太差,损失惨重!Coles祭出“警用装备”,看到这个别见怪!米其林之家,从工厂到餐饮业者的打卡圣地沙漠奥莱奢侈品店遭入室盗窃,12人“扫荡”不到两分钟,损失达$10万华人遭殃!阿凯迪亚豪宅遭洗劫,连木门都被撬走!南加自行车店被洗劫,损失万元4华女为拿身份翻脸不认人! “举报”老板:我们是被迫的! 身份到手 老板被囚了3年|又有3华女“做按摩”被捕加州女子南海岸中心买名牌包后遭尾随!家被洗劫一空,损失超$10万别惹怒程序员?国美APP弹窗辱骂自己老板:拖欠工资!冤大头!多伦多华人夫妇还贷被TD坑惨!汇票未按时折现,损失全自负?华人苦不堪言,家中遭遇六次暴力洗劫,损失近百万!哭诉该怎么办?前期是老板给你发工资,中期是能力给你发工资,后期是品德给你发工资!一场做不完的糊涂梦倒霉!加拿大一家三口因为这个原因被拒绝登机,损失了$7000多!从工厂货到客单价上千,传统音响工厂也能做出小红书高端爆款Does China’s fear of floating exceed its fear of deflation?涿州书库淹水,损失大到濒临崩溃,老板却说“不想给别人添麻烦”警惕犯罪团伙!女子买名牌包后遭尾随,家当被洗劫一空,损失超$10万加拿大华人妹子组队跨国去看霉霉,结果却被这家般空公司坑了,损失惨重!华人傻眼了!600万的房子,1个月被窃6次,损失近百万!“32岁女子因情绪不佳,在朋友租借房中纵火死亡”,损失谁来赔?黄金还能火多久?从工程师跨界到基金经理,东方基金房建威最新发声老钱:这完全是人祸,这就是屠杀!枯井你用过这种微信头像吗?有人用完被骗子盯上,损失上百万小说:兰欣与乌茶 26女子在朋友的租借房中纵火身亡,损失谁来赔南加最古老犹太人公墓遭破坏,损失超30万美元滴滴“崩了”12小时 损失4亿成交额,竟有大V提前半个月预测到了澳华人区多家店铺遭盗抢,损失高达$6.5万!多名嫌犯被捕强制征收长期护理税!直接工资里扣小红书共享收藏夹:从工具切入熟人社交一次突围IPO案例!研发投入远高于研发费用金额,如何解释合理性?“用女友的语气和老板说话...”老板:我们之间是不是有点暧昧了!
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。