liuyu 发表于 2022-5-17 10:14:59

数值显示问题

我在文本控件和lua脚本中限制了数值的范围，还是会出现“-1.38338e-17“等无限接近于0的极小值，这种问题有什么解决方式吗？
文本控件限制的最大值1000，最小值0.001，lua脚本中让ln在-0.001到0.001区间强制归零。
if ln<0.001 and ln>-0.001 then
    ln=0
end


If后要接end 发表于 2022-5-17 13:53:14

去掉文本控件的输入限制看看

liuyu 发表于 2022-5-19 19:19:14

If后要接end 发表于 2022-5-17 13:53
去掉文本控件的输入限制看看

今天我测试了一下，去掉文本控件的限制还是会出现这样的问题

If后要接end 发表于 2022-5-19 19:21:38

liuyu 发表于 2022-5-19 19:19
今天我测试了一下，去掉文本控件的限制还是会出现这样的问题

方便的话，发一个可以还原这个问题的最小工程给我

liuyu 发表于 2022-5-23 11:59:59

If后要接end 发表于 2022-5-19 19:21
方便的话，发一个可以还原这个问题的最小工程给我

lua脚本中第187-200行限制了数值的范围在画面2控件72输入0.08；画面2控件10输入9；
在画面2控件39输入0.09；画面2控件13输入136.9；
在画面2控件72输入0.08；画面2控件10输入257；
画面2控件11和51就会显示-1.38778e-017




liuyu 发表于 2022-5-23 13:48:14

If后要接end 发表于 2022-5-19 19:21
方便的话，发一个可以还原这个问题的最小工程给我

留个邮箱吧，不知道为啥我17兆的文件上传不了

If后要接end 发表于 2022-5-23 18:17:49

liuyu 发表于 2022-5-23 13:48
留个邮箱吧，不知道为啥我17兆的文件上传不了

已发消息
页: [1]
查看完整版本: 数值显示问题