使用格式化函数时,.或_控制显示的位数。如使用.,LabVIEW将其后的数字作为精度说明符,指定小数点右边的位数。如使用_,LabVIEW将其后的数字编号作为在显示格式中使用的指定有效位数。
.Precision-与浮点表示法使用时,该元素指定小数点右边的位数。如没有.,LabVIEW使用6位精度。如.为0,LabVIEW将不插入精度。与字符串参数配合使用时,.Precision指定扫描字段的最大宽度。LabVIEW截取的字符串比该长度更长。
_Significant Digits-显示舍入为指定位数的数据。LabVIEW仅为显示之目的,对数据进行舍入,并不影响原始数据。.Precision仅仅影响小数点右边的位数,_Significant Digits包括所有非空白位数。例如,
3.457有4个有效位数
0.0012有2个有效位数
123000有3个有效位数
注: 一个百分号代码中不可同时使用精度和有效位数。
使用格式化函数时,.或_控制显示的位数。如使用.,LabVIEW将其后的数字作为精度说明符,指定小数点右边的位数。如使用_,LabVIEW将其后的数字编号作为在显示格式中使用的指定有效位数。
.Precision-与浮点表示法使用时,该元素指定小数点右边的位数。如没有.,LabVIEW使用6位精度。如.为0,LabVIEW将不插入精度。与字符串参数配合使用时,.Precision指定扫描字段的最大宽度。LabVIEW截取的字符串比该长度更长。
_Significant Digits-显示舍入为指定位数的数据。LabVIEW仅为显示之目的,对数据进行舍入,并不影响原始数据。.Precision仅仅影响小数点右边的位数,_Significant Digits包括所有非空白位数。例如,
3.457有4个有效位数
0.0012有2个有效位数
123000有3个有效位数
注: 一个百分号代码中不可同时使用精度和有效位数。
举报