什么公司需要网站建设,国内专门做旅游攻略的网站,网站编辑应该怎么做,在线股票交易网站开发在工作中#xff0c;我需要比较一系列数据#xff0c;一方数据精度为两位小数,而另一方精度为三位小数。我需要将三位小数四舍五入成两为小数后进行比较。在操作的过程中#xff0c;问题出现了#xff0c;明明应该相等的数据却走了不等的分支。什么原因导致呢#xff1f;一…在工作中我需要比较一系列数据一方数据精度为两位小数,而另一方精度为三位小数。我需要将三位小数四舍五入成两为小数后进行比较。在操作的过程中问题出现了明明应该相等的数据却走了不等的分支。什么原因导致呢一开始我使用的是A B 这种方法计算的而浮点数在比较两个数的时候用这种方法是不精确的所以导致出错。后来我便使用了 A - B 0.009这种方法。然而令人失望的是问题还是没有解决。那么问题究竟出在哪里呢原来在四舍五入的时候。MATH.ROUND(b,2)方法,出现了问题。0.245会计算成0.24如此一来便出错了。那么怎么解决呢Math.Round(b, 2, MidpointRounding.AwayFromZero)加了一个MidpointRounding.AwayFromZero参数问题便得到了解决。转载于:https://www.cnblogs.com/ddwy/archive/2012/02/14/2350351.html
