未分類

C# double の誤差を考える

準備

(なし)

デザイン

1. フォーム (Form1) にボタン (button1) を配置します。
2. フォーム (Form1) にリストボックス (listBox1) を配置します。

サンプルコード (C#)

// 名前空間の追加
// (なし)

// コード
private void button1_Click(object sender, EventArgs e)
{
  double x1 = 6.613;
  double x2 = 3.89;
  double x3 = x1 - x2;
  listBox1.Items.Add(x3.ToString("G20"));
  
  decimal y1 = (decimal)6.613;
  decimal y2 = (decimal)3.89;
  decimal y3 = y1 - y2;
  listBox1.Items.Add(y3.ToString("G20"));
}

解説

double 型の計算は必ず誤差が発生すると考えてよいです。通常は乗算や除算では誤差が発生しやすいと考えますが、このサンプルのような単純な引き算であっても内部的には誤差が発生しています。この問題の厄介なところは、この計算結果を Debug.WriteLine などで出力しても誤差見えないことです。しかし、イミディエイトウィンドを使用して、内容を出力すると、誤差が発生していることが分かります。 仮にこのままデータベース更新すると、誤差が含まれた値が格納されます。非常に小さい誤差なので、場合によっては指数表示されるかもしれません。 通常、誤差が許されない状況では、実数の計算には decimal 型を使用すると確実です。

結果

動作確認環境

Visual Studio 2015 Professional (C# 6.0)

-未分類