creo参数里如何把实数转换为保留一定小数位的字符串

yilye · 发表于 2020-8-26 23:09

本帖最后由 yilye 于 2020-8-27 20:35 编辑

IF DD>=0.995
REF=ITOS(DD*100)
ENDIF
IF DD<0.995&DD>=0.095
REF="0"+ITOS(DD*100)
ENDIF
IF DD<0.095&DD>=0.005
REF="00"+ITOS(DD*100)
ENDIF
IF DD<0.005
REF="000"
ENDIF
字符=extract(REF,1,(string_length(REF)-2))+"."+extract(REF,(string_length(REF)-1),2)

这个有点问题，不能确保每个都能四舍五入，比如 9.945=9.94，而不是9.95

yilye · 发表于 2020-8-26 23:13

可将任何小数点后面三位的数字（常用尺寸）四舍五入转化为小数点后面两位数的字符.
备料尺寸常用到.

yilye · 发表于 2020-8-27 20:30

本帖最后由 yilye 于 2020-8-29 21:51 编辑

N=2 (N为需转化的小数位数：0，1，2，3......8 ）
XX=ceil((floor((X*(10^(N+1)))/5,0))*5/(10^(N+1)),N)
IF XX>=1
XREF=ITOS(XX*10^N)
ENDIF
IF XX<1&XX>=0.1
XREF="0"+ITOS(XX*10^N)
ENDIF
IF XX<0.1&XX>=0.01
XREF="00"+ITOS(XX*10^N)
ENDIF
IF XX<0.01&XX>=0.001
XREF="000"+ITOS(XX*10^N)
ENDIF
IF XX<0.001&XX>=0.0001
XREF="0000"+ITOS(XX*10^N)
ENDIF
IF XX<0.0001&XX>=0.00001
XREF="00000"+ITOS(XX*10^N)
ENDIF
IF XX<0.00001&XX>=0.000001
XREF="000000"+ITOS(XX*10^N)
ENDIF
IF N==0
A=extract(XREF,1,(string_length(XREF)-N))+extract(XREF,(string_length(XREF)-(N-1)),N)
ELSE
A=extract(XREF,1,(string_length(XREF)-N))+"."+extract(XREF,(string_length(XREF)-(N-1)),N)
ENDIF
IF XX==0
A="0"
ENDIF

这个才能真正做到四舍五入.

zenas · 发表于 2020-8-31 17:28

感谢楼主分享！

xuez119 · 发表于 2020-8-31 17:35

yilye 发表于 2020-8-27 20:30
N=2 (N为需转化的小数位数：0，1，2，3......8 ）
XX=ceil((floor((X*(10^(N+1)))/5,0))*5/(10^(N+1)),N ...

能不能取到0.几的数

yilye · 发表于 2020-9-1 19:03

本帖最后由 yilye 于 2020-9-1 19:05 编辑

xuez119 发表于 2020-8-31 17:35
能不能取到0.几的数

当然可以，最小可以是0.000001

zenas · 发表于 2020-11-6 13:38

谢谢分享

zenas · 发表于 2020-11-27 09:51

每天学习一个钟

a70332758 · 发表于 2021-5-17 09:38

参数小数位的提取。

770959898 · 发表于 2021-10-26 19:40

chenxl423 发表于 2017-5-13 13:41
另一种方式

/*定义小数字有效数字的位数，凑整*/

有BUG，当19.99时，算出来是19.1

		自动登录	找回密码
密码			立即注册

[原创] creo参数里如何把实数转换为保留一定小数位的字符串

希望之星勋章