1、参数F16(和1=9876543210.987654321
2-2-1、1=9876543210.987650000
2-1=0.000010000
并由此产生较大的误差。
②逻辑关系
EQ、NE、GT、LT、GE、LE基本上与加/减法运算相通,需要注意其误差。
③三角函数
在三角函数运算后进行乘法\除法运算时需要引起注意。
④FIX函数
FIX函数也要同样注意其精度。
例:
N12=3=FIX[3不见得就成为2,为了预防此情况,应按照如下指定
N32+0.001]
通常,
FIX[表达式]→FIX[表达式±ε]
表达式的值为正时指定+ε,为负时指定-ε,ε应根据需要设定诸如0.1、0.01、0.001、……等)这样的值。
注意
当i=EXP[0)=1时,运算时可能会产生误差。
图1对于各运算形式的运算误差
注意:误差还会来自使用6个条件表达式(EQ、NE、GE、GT、LE、LT)
例1:IF[2]受2的误差影响,可能导致判断错误。又如IF[ABS[2]]求出两个变量之差,如果该差值不超过允许值(例子中为0.001),则可以这两变量的值相等。
例2:对一个数值进行只舍不入时,应十分小心。
2=2的结果不正好是2,而是1.99999997,此时,如果指定2],变量3=FIX[3=ROUND[报警)。
③当指定超出控制轴数时,则会出现(PS0115报警)。
⑤若自然对数的逆对数(报警)。
⑥若指数函数的运算结果溢出时,则会出现(PS0119#报警)。