インジケーターの丸めと精度

  • リリースバージョン: Washingtondc
  • 更新日 2024年02月01日
  • 読む2読むのに数分
  • インジケーターは、インジケーター [精度] に応じて、「銀行家の丸め」または数学的な丸めを使用して、結果の小数部を丸めます。

    10,000 未満のスコア

    インジケーターの [精度] が 0 の場合、インジケーターは結果を最も近い偶数の整数に丸めます。たとえば、[精度] が 0 のインジケーターが値 7 + (5 / 2) を計算した場合、結果は 10 に丸められます。ただし、式が 2 + (5 / 2) を計算した場合、インジケーターは結果を 4 に丸めます。

    インジケーターの [精度] が 0 より大きい場合、指定された精度に最も近い小数点に丸めます。たとえば、[ 精度 ] が 1 のインジケーターは、4.45 の結果を 4.5 に丸めます。

    10,000 を超えるスコア

    インジケータースコアが 10,000 を超える場合、スコアは次のように四捨五入され、単位の省略形で表示されます。
    表 : 1. 大きな数の表示
    番号 略称 例、precision=0 例、precision=1
    10,000-999,999 1000 に最も近い k 13,291 を 13 k として表示 13,291 を 13.3 k として表示
    1,000,000-999,999,999 最も近い 100 万、M 17,824,391 を 18 M として表示 17,824,391 を 17.8 M として表示
    1,000,000,000 最も近い 10 億、G 2,378,425,321 を 2 G として表示 2,378,425,321 を 2.4 G として表示
    1,000,000,000,000 最も近い兆、T 3,456,398,231,094 を 3 T として表示 3,456,398,231,094 を 3.5 T として表示
    1,000,000,000,000,000 最も近いクアドリオン、P (ペタの場合) 18,103,456,398,231,094 は 18 P として表示されます。 18,103,456,398,231,094 は 18.1 P として表示されます。
    1,000,000,000,000,000,000+ 最も近いクインティリオン、E(エクサの場合) 7,618,103,456,398,231,094 は 8 E と表示されます。 7,618,103,456,398,231,094 は 7.6 E と表示されます。
    注:
    • 10,000 未満の数値とは異なり、precision = 0 の場合、大きな数値は最も近い偶数に丸められません。
    • 単位の省略形は設定できません。

    例外

    線グラフまたは縦棒グラフにプロットされた Y 軸の値は丸められません。チャート上の値をポイントすると表示されるスコアとツールヒントは、インジケーターの [精度] に基づいて丸められます。

    注:
    式インジケーターでは、丸めは式の結果にのみ適用されます。式内の値は丸められません。