用於執行給定計算的數字位數。 準確度 和精度的概念密切相關且經常被混淆。 雖然數字 的 準確度 由 中小數點右側的有效十進位制(或其他)數字位數給出,但 的精度是有效十進位制(或其他)數字的總位數。
在許多程式語言中,數值計算都以某種固定精度完成。
更多嘗試
Weisstein, Eric W. “精度。” 來自 Web 資源。 https://mathworld.tw/Precision.html