評価結果の確認って

| コメント(0) | トラックバック(0)

重要。

でも、検算するのがとても大変なのは多桁演算の宿命。
だから、大体正しければいい、というものでもない。

除算の評価結果を見ていて、変なことに気付いた。

検算をするとどうもおかしい。

筆算してみても、自分が間違えてる可能性もある。

Windows付属の電卓はかなりの桁数計算できるが、それと比較すると、やはりどうも多桁計算側がおかしいようだ。

ステップ実行したところ、やはりおかしいことが分かったため、ソースコードを睨むこと数分。

なんと、商として2を立てる判断が抜けていて、1以降9が無限に続くという愚かさを発見、修正。

修正結果も確認、問題解消。

本日のバグ修正

  • 商の期待値として2が含まれると誤った商を算出する除算における条件判定抜けを修正
  • 代入演算でエラーのコピー漏れがあり、除算時のゼロ割りエラー未返却を修正

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/87

コメントしちゃいなよ

    

サイトカウンタ

Total: 200,717 Hits, (Recent24Hours: 22 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2017/07/24 17:45:39 JST

このブログ記事について

このページは、ふぅみんが2010年2月 7日 02:35に書いたブログ記事です。

ひとつ前のブログ記事は「どうしましょ」です。

次のブログ記事は「ハンドルリークが仕様って・・・「SEG CLIP」」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2017年4月

 日   月   火   水   木   金   土 
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30            

埋め込みQRコード