广州大彩串口屏论坛_大彩开发者交流论坛

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 1045|回复: 6

数值显示问题

[复制链接]

2

主题

6

帖子

50

积分

注册会员

Rank: 2

积分
50
发表于 2022-5-17 10:14:59 | 显示全部楼层 |阅读模式
我在文本控件和lua脚本中限制了数值的范围,还是会出现“-1.38338e-17“等无限接近于0的极小值,这种问题有什么解决方式吗?
文本控件限制的最大值1000,最小值0.001,lua脚本中让ln在-0.001到0.001区间强制归零。
if ln<0.001 and ln>-0.001 then
    ln=0
end


回复

使用道具 举报

0

主题

390

帖子

8505

积分

论坛元老

Rank: 8Rank: 8

积分
8505
发表于 2022-5-17 13:53:14 | 显示全部楼层
去掉文本控件的输入限制看看
Easy doesn't enter into Grown-up life
成年人的生活里面没有“容易”二字
回复

使用道具 举报

2

主题

6

帖子

50

积分

注册会员

Rank: 2

积分
50
 楼主| 发表于 2022-5-19 19:19:14 | 显示全部楼层
If后要接end 发表于 2022-5-17 13:53
去掉文本控件的输入限制看看

今天我测试了一下,去掉文本控件的限制还是会出现这样的问题
回复

使用道具 举报

0

主题

390

帖子

8505

积分

论坛元老

Rank: 8Rank: 8

积分
8505
发表于 2022-5-19 19:21:38 | 显示全部楼层
liuyu 发表于 2022-5-19 19:19
今天我测试了一下,去掉文本控件的限制还是会出现这样的问题

方便的话,发一个可以还原这个问题的最小工程给我
Easy doesn't enter into Grown-up life
成年人的生活里面没有“容易”二字
回复

使用道具 举报

2

主题

6

帖子

50

积分

注册会员

Rank: 2

积分
50
 楼主| 发表于 2022-5-23 11:59:59 | 显示全部楼层
If后要接end 发表于 2022-5-19 19:21
方便的话,发一个可以还原这个问题的最小工程给我

lua脚本中第187-200行限制了数值的范围在画面2控件72输入0.08;画面2控件10输入9;
在画面2控件39输入0.09;画面2控件13输入136.9;
在画面2控件72输入0.08;画面2控件10输入257;
画面2控件11和51就会显示-1.38778e-017




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

2

主题

6

帖子

50

积分

注册会员

Rank: 2

积分
50
 楼主| 发表于 2022-5-23 13:48:14 | 显示全部楼层
If后要接end 发表于 2022-5-19 19:21
方便的话,发一个可以还原这个问题的最小工程给我

留个邮箱吧,不知道为啥我17兆的文件上传不了
回复

使用道具 举报

0

主题

390

帖子

8505

积分

论坛元老

Rank: 8Rank: 8

积分
8505
发表于 2022-5-23 18:17:49 | 显示全部楼层
liuyu 发表于 2022-5-23 13:48
留个邮箱吧,不知道为啥我17兆的文件上传不了

已发消息
Easy doesn't enter into Grown-up life
成年人的生活里面没有“容易”二字
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

QQ|Archiver|手机版|小黑屋|广州大彩串口屏论坛_大彩开发者交流论坛

GMT+8, 2022-11-29 20:24 , Processed in 0.085868 second(s), 19 queries .

Powered by Discuz! X3.4

Copyright © 2001-2020, Tencent Cloud.

快速回复 返回顶部 返回列表