2012年1月6日金曜日

double型の比較にはfabsを使おう

研究でめちゃ詰まったのでメモ。

double型を扱う際、比較演算子の使い方には要注意。
if( a == b )
ではだめ。
if( fabs(a-b) < gosa )
にする。

※gosaの部分は自分で決めた誤差精度を指定すること(0.000001など)。
※math.hをincludeしておくこと。

0 件のコメント:

コメントを投稿