文本控件

xiao · 发表于 2023-10-30 14:40:09

record4_33 = get_value(4,33)
acc_record = record4_33 * 100

record4_33是一个小数，我乘以100后acc_record一定是一个整数，但是实际提示error [string "------------------------------------
..."]:5321: number (global 'acc_record') has no integer representation。
比如record4_33是2.1的时候没问题，2.2的时候就有问题，这是什么原因呢

If后要接end · 发表于 2023-10-30 15:08:44

可以在set到文本控件之前，对acc_record 做一次取整操作，math.ceil()看看

xiao · 发表于 2023-10-30 15:32:29

If后要接end 发表于 2023-10-30 15:08
可以在set到文本控件之前，对acc_record 做一次取整操作，math.ceil()看看

我原本目的是想让文本控件显示小数，通过串口发送的需要是整数，这才乘以100得到整数发送的，很多小数都没问题，就2.2和其他几个小数有问题

If后要接end · 发表于 2023-10-30 15:39:29

xiao 发表于 2023-10-30 15:32
我原本目的是想让文本控件显示小数，通过串口发送的需要是整数，这才乘以100得到整数发送的，很多小数都 ...

串口发送前，将这个乘出来的数据，先取整，然后才赋值到发送数组

xiao · 发表于 2023-10-30 16:10:31

If后要接end 发表于 2023-10-30 15:39
串口发送前，将这个乘出来的数据，先取整，然后才赋值到发送数组

这样处理我本来是2.2，乘以100是220，取整以后变成221了

If后要接end · 发表于 2023-10-30 17:21:35

xiao 发表于 2023-10-30 16:10
这样处理我本来是2.2，乘以100是220，取整以后变成221了

那向下取整

		自动登录	找回密码
密码			立即注册