丸めと有効数字

内部計算より表示桁数が少なくなる理由を説明します。

丸めは表示上の選択であり、測定の精度とは異なります。途中計算では十分な桁数を保持し、適用される規則に従って最後に丸めてください。厳密な定義から多くの小数桁が得られても、測定器の読み取り値が持つ有効数字はそれより少ない場合があります。

重要な注意

計算は掲載された単位定義を使って端末内で行われます。表示値は丸められています。高精度または規制対象の用途では、適用される標準を確認してください。

関連する変換: 長さ, 質量と重量, 温度, デジタル容量, エネルギー, 電力.

すべてのツール ↗