Redian新闻
>
老板,用float存储金额为什么要扣我工资

老板,用float存储金额为什么要扣我工资

公众号新闻

为什么不能使用float存储金额

首先看个例子:FloatTest.java

public class FloatTest {
    public static void main(String[] args) {
        float f1 = 6.6f;
        float f2 = 1.3f;
        System.out.println(f1 + f2);
    }
}

结果:7.8999996 和自己口算的值竟然不一样

计算机只认识0和1,所有类型的计算首先会转化为二进制的计算

从计算机二进制角度计算 6.6 + 1.3 的过程

float底层存储

计算是由CPU来完成的,CPU表示浮点数由三部分组成 分为三个部分,符号位(sign),指数部分(exponent)和有效部分(fraction, mantissa)。其中float总共占用32位,符号位,指数部分,有效部分各占1位,8位,23位

二进制的转化

对于实数,转化为二进制分为两部分,第一部分整数部分,第二部分是小数部分。整数部分计算二进制大家都很熟悉。

整数部分的计算:6转化为二进制

所以6最终的二进制为110

小数部分的计算

将小数乘以2,取整数部分作为二进制的值,然后再将小数乘以2,再取整数部分,以此往复循环

0.6转化为二进制

...进入循环,循环体为1001 所以0.6转化为二进制为0.10011001... 6.6转化为二进制为110.10011001...

规约化

通过规约化将小数转为规约形式,类似科学计数法,就是保证小数点前面有一个有效数字。在二进制里面,就是保证整数位是一个1。110.10011001规约化为:1.1010011001*2^2

指数偏移值

指数偏移值 = 固定值 + 规约化的指数值 固定值=2^(e-1)-1,其中的e为存储指数部分的比特位数,前面提到的float为8位。所以float中规定化值为127 6.6的二进制值规约化以后为1.1010011001*2^2,指数是2,所以偏移值就是127+2=129,转换为二进制就是10000001,

拼接6.6

6.6为正数,符号位为0,指数部分为偏移值的二进制10000001,有效部分为规约形式的小数部分,取小数的前23位即10100110011001100110011,最后拼接到一起即 01000000110100110011001100110011 到这里已经大致可以知道float为什么不精确了,首先在存储的时候就会造成精度损失了,在这里小数部分的二进制是循环的,但是仍然只能取前23位。double造成精度损失的原因也是如此

不能使用float那用什么类型存储金额?

  • 使用int。数据库存储的是金额的分值,显示的时候在转化为元
  • 使用decimal。mysql中decimal存储类型的使用
column_name  decimal(P,D);

D:代表小数点后的位数 P:有效数字数的精度,小数点也算一位。

测试例子:数据表的创建:

CREATE TABLE `test_decimal` (
  `id` int(11) NOT NULL,
  `amount` decimal(10,2) NOT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4

对应的DAO层代码:TestDecimalDao.java

/**
 * @description dao层
 *
 * @author JoyHe
 * @date 2018/11/05
 * @version 1.0
 */
@Repository
public interface TestDecimalDao {
    @Select("select * from test_decimal where id = #{id}")
    TestDecimal getTestDecimal(int id);
}

测试类:TestDecimalDaoTest.java

/**
 * @description 测试类

 *
 * @author JoyHe
 * @date 2018/11/05
 * @version 1.0
 */
public class TestDecimalDaoTest extends BaseTest {
    @Resource
    private TestDecimalDao testDecimalDao;

    @Test
    public void test() {
        TestDecimal testDecimal1 =   testDecimalDao.getTestDecimal(1);
        TestDecimal testDecimal2 =   testDecimalDao.getTestDecimal(2);
        BigDecimal result =   testDecimal1.getAmount().add(testDecimal2.getAmount());
        System.out.println(result.floatValue());
    }
}

说明:jdbcType为decimal转化为javaType为BigDecimal

测试结果:

是符合预期的7.9

使用decimal存储类型的缺点

  • 占用存储空间。浮点类型在存储同样范围的值时,通常比decimal使用更少的空间
  • 使用decimal计算效率不高

因为使用decimal时间和空间开销较大,选用int作为数据库存储格式比较合适,可以同时避免浮点存储计算的不精确和decimal的缺点。对于存储数值较大或者保留小数较多的数字,数据库存储结构可以选择bigint,可以同时避免浮点存储计算不精准和DECIMAL精度计算代价高的问题。

链接:https://juejin.cn/post/6844903732497350663#heading-6

(版权归原作者所有,侵删)


微信扫码关注该文公众号作者

戳这里提交新闻线索和高质量文章给我们。
相关阅读
苦主出现了?美军用F22战机击落的气球,可能是他们的......YOLOv8来啦 | 详细解读YOLOv8的改进模块!YOLOv5官方出品YOLOv8,必卷!教你看懂美国的工资单,为什么你的工资和实际收入差这么多?乌鲁木齐中路一声吼,吼出时代最强音深度好文|商学院私藏面试常用Framework,帮你省掉百万学费!129亿元!国家大基金二期入股长江存储,长江存储增资至1052.70亿元澳洲知名中餐厅出事!压榨员工工资,伪造工资记录,华人老板跑路了...特拉华州内穆尔庄园(Nemours Estate),天然画布为什么要参加夏令营?为什么国际生尤其建议去特朗普税表公开 2020纳税金额为$0! 他回应: 我自豪我成功!乔伊斯的这句“love loves to love love”,到底啥意思?加州通胀救济金,取现要扣手续费Hilton将在全球范围用F&B Credit取代免费早餐?波士顿年薪$10万实际只值4.6万?难怪我工资刚到手就“飞”了 ……特朗普税表公开「2020纳税金额为$0」他回应:我自豪我成功!FastTrack Universität 2023莱比锡大学公立语言项目招生简章FICA 代表什么?这是您为联邦工资税缴纳的金额。为拯救童年回忆,开发者决定采用古法编程:用Flash高清重制了一款游戏ChatGPT火了,我工作快没了前期是老板给你发工资,中期是能力给你发工资,后期是品德给你发工资Tacotron2、GST、Glow-TTS、Flow-TTS…你都掌握了吗?一文总结语音合成必备经典模型(二)So long, flowers. The London Plane将于平安夜永久关门下流校长摸进女宿被女学生棍棒围殴打到求饶影片曝光“你为什么要碰她?我们做错了什么?”又是一年体检时我一个员工,凭什么要替老板思考?理性思维能力和健康长寿成正比为什么适用于Python的TensorFlow正在缓慢消亡拖欠工资、拒付加班费!打工妹子怒告老板,亚裔餐厅活该被罚165万HA InfluxDB 作为 Prometheus 的后端存储BP三星/英特尔存储2T SSD 749元;UT长江存储2T SSD 999元刚刚!美国国会公布特朗普6年税表!2020年纳税金额为$0!白纸运动和颜色革命男子告白遭拒后恼羞成怒,起诉女神索赔300万:她耽误我工作!??
logo
联系我们隐私协议©2024 redian.news
Redian新闻
Redian.news刊载任何文章,不代表同意其说法或描述,仅为提供更多信息,也不构成任何建议。文章信息的合法性及真实性由其作者负责,与Redian.news及其运营公司无关。欢迎投稿,如发现稿件侵权,或作者不愿在本网发表文章,请版权拥有者通知本网处理。