awk在處理浮點(diǎn)數(shù)加減時默認(rèn)是按double-float來處理，一般的處理對精度要求沒有那么高，因此通常用awk不會踩到精度的坑，當(dāng)你對精度的要求要達(dá)到小數(shù)點(diǎn)后面6位以上時，就要注意精度的問題了。

1、精度問題舉例

小數(shù)點(diǎn)后面6位小數(shù)，輸出6位正常

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.6f\n",sum)}'
57760731.179959

輸出8位也正常

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.8f\n",sum)}'
57760731.17995900

注意，輸出9位就有誤差了

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.9f\n",sum)}'
57760731.179958999

輸出10位的誤差更大

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799589992

2、精度誤差的原因和解決方案

awk的默認(rèn)精度范圍是53bit，也就是雙精度的范圍內(nèi)，因此在做高精度數(shù)值計(jì)算時，一定要注意浮點(diǎn)數(shù)的精度要求。

要提高精度，可以通過修改PREC內(nèi)置變量來解決，參考文檔：15.4.4 Setting the Precision

$ echo 57760731.179959 | awk -M -v PREC=100 -v CONVFMT=%.30g '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799590000