由网友(国产小祖宗)分享简介:我正在尝试对所有表列的值求和,这些值的总和必须为1。如图中的值所示,实际值的总和是1,但它显示的是1.000000000000000000000002。我不知道哪里出了问题。我从json文件中获取值,json文件中的值也是相同的。一定是小数位数有误。如何处理这个问题。var sum = 0 var expected...
![c 中怎样使decimal类型变量保留固定小数位](https://p.xsw88.cn/allimgs/daicuo/20230903/1789.png)
我正在尝试对所有表列的值求和,这些值的总和必须为1。 如图中的值所示,实际值的总和是1,但它显示的是1.000000000000000000000002。 我不知道哪里出了问题。我从json文件中获取值,json文件中的值也是相同的。一定是小数位数有误。如何处理这个问题。
var sum = 0
var expectedSum=1
cy.get('td :nth-child(3) > input:visible').each(($el, index, $list) => {
// var result =parseFloat($el.val())
var result =$el.val()
sum=Number(sum)+Number(result)
cy.log(result)
}).then(function()
{
cy.log('allocation total:'+sum)
//assertion to check total alocation percent is 100
expect(sum).to.equal(expectedSum)
})
推荐答案
![c 中怎样使decimal类型变量保留固定小数位](https://p.xsw88.cn/allimgs/daicuo/20230903/1789.png)
检查差异是否低于某个阈值。
从日志中看,您的数字不超过3位小数,因此
expect(Math.abs(1 - sum)).to.be.below(0.001)
相关推荐
最新文章