浮点数有细微精度误差,浮点数比较不能直接用等号,应该两者相减之差取绝对值后,与0.01(根据精度要求不同取不同值)比较,比如例子中可为abs(data[0]-32.24)<0.01。 DolphinDB中提供了eqFloat函数方便用户。
浮点数有细微精度误差,浮点数比较不能直接用等号,应该两者相减之差取绝对值后,与0.01(根据精度要求不同取不同值)比较,比如例子中可为abs(data[0]-32.24)<0.01。 DolphinDB中提供了eqFloat函数方便用户。