postgresql和mysql数据库中使用sum聚合函数查询,结果出现不确定的小数 - Go语言中文社区

postgresql和mysql数据库中使用sum聚合函数查询,结果出现不确定的小数


今天在项目开发时,遇到了像下图这样的问题:

 

  查询结果会随机出现长串小数,页面显示不正常,但数据库直接查询单条数据结果是正常的。
  后来发现,是数据库中的数据字段类型使用错误导致的。库中此字段类型是real,使用sum函数后就会出现很长的小数

解决办法:
      个人使用的是Postgresql数据库,将字段类型修改为decimal或者numeric,比如decimal(10,3)或者numeric(10,3),均可。
使用round函数保留几位小数。

另一个解决办法:

      如果不需要那么准确,也可以直接把查出的数据四舍五入转成BigDecimal,例子如下:

new BigDecimal(servScore).setScale(1,BigDecimal.ROUND_HALF_UP).doubleValue()

原因解释:
     其原因是浮点数的不准确本质,它们无法以准确值保存在计算机体系结构中

延申:
在MySql数据库中,也会出现这样的问题,大致的解决方式差不多。在Mysql中,可将字段类型修改为decimal或者numeric类型;
简单来说decimal,numeric属于标准数据类型,指定精度和刻度;double,float属于非标准数据类型,在DB中保存的是近似值,而Decimal则以字符串的形式保存数值。需要精确存储数值,会采用标准数据类型,不会使精度丢失,比如银行账户里的金额。

版权声明:本文来源CSDN,感谢博主原创文章,遵循 CC 4.0 by-sa 版权协议,转载请附上原文出处链接和本声明。
原文链接:https://blog.csdn.net/Super_King_/article/details/127853173
站方申明:本站部分内容来自社区用户分享,若涉及侵权,请联系站方删除。
  • 发表于 2023-01-03 21:42:38
  • 阅读 ( 318 )
  • 分类:数据库

0 条评论

请先 登录 后评论

官方社群

GO教程

猜你喜欢