xiao 发表于 2023-10-30 14:40:09

文本控件

record4_33 = get_value(4,33)
acc_record = record4_33 * 100

record4_33是一个小数,我乘以100后acc_record一定是一个整数,但是实际提示error [string "------------------------------------
..."]:5321: number (global 'acc_record') has no integer representation。
比如record4_33是2.1的时候没问题,2.2的时候就有问题,这是什么原因呢

If后要接end 发表于 2023-10-30 15:08:44

可以在set到文本控件之前,对acc_record 做一次取整操作,math.ceil()看看

xiao 发表于 2023-10-30 15:32:29

If后要接end 发表于 2023-10-30 15:08
可以在set到文本控件之前,对acc_record 做一次取整操作,math.ceil()看看

我原本目的是想让文本控件显示小数,通过串口发送的需要是整数,这才乘以100得到整数发送的,很多小数都没问题,就2.2和其他几个小数有问题

If后要接end 发表于 2023-10-30 15:39:29

xiao 发表于 2023-10-30 15:32
我原本目的是想让文本控件显示小数,通过串口发送的需要是整数,这才乘以100得到整数发送的,很多小数都 ...

串口发送前,将这个乘出来的数据,先取整,然后才赋值到发送数组

xiao 发表于 2023-10-30 16:10:31

If后要接end 发表于 2023-10-30 15:39
串口发送前,将这个乘出来的数据,先取整,然后才赋值到发送数组

这样处理我本来是2.2,乘以100是220,取整以后变成221了

If后要接end 发表于 2023-10-30 17:21:35

xiao 发表于 2023-10-30 16:10
这样处理我本来是2.2,乘以100是220,取整以后变成221了

那向下取整
页: [1]
查看完整版本: 文本控件