多桁計算:やりすぎ

| コメント(0) | トラックバック(0)

パース方式考えなきゃな。
カンマくらいは大目に見てあげようとか考えつつ、本当に数万桁の計算ができるかやってみようかと。

やりすぎたか。

ロジック的には整数部小数部それぞれで2^32-1桁の計算に対応したはずなので3万桁なんて屁でもないんだけど、それを見るのは厄介。

taketa.png

#裸眼立体視しても何も出てきませんよ。とりあえず、小数点を探せ!!

フォントサイズ6にしても、メモ帳 on XGAじゃ、数値1つの確認もできない・・・

計算結果は正しいらしいので、いいんだけど。

さて、3万桁の計算を可能とするところに俺の目的はあるんだけど、出来ちゃったものは何に使えるだろうかと、少し考えてみる。

Excelで使える数値の有効桁数は表示時15桁+内部処理端数なわけだけど、これを凌駕する精度での計算が可能になるわけだ。
乗算・除算ができれば、かなり有効に使えるとは思うが、有効桁数15桁で足りないことはあまりないかも知れない。

でも、その内部処理用の端数が表示されていないことで計算がおかしく見えたりすることが無くなると考えれば、少しは利点が見えてくる。

また、科学技術計算の場合、極大値に対し、極小値を無視できない場合もある。
誤差を少なくする計算を駆使するんだけれど、それでも、桁数の不足は痛いはずだから、こういうものの利点はあると思う。

思うんだけど、具体的にどういった計算で使うべきなのって言われると痛い。
何か具体的な例を挙げておかないと、仕分け人よろしく、「必要ない」って言われちゃうしな。

自己満足で終わっちゃいけない。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/29

コメントしちゃいなよ

    

サイトカウンタ

Total: 211,632 Hits, (Recent24Hours: 0 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2022/05/28 3:20:39 JST

このブログ記事について

このページは、ふぅみんが2009年11月27日 00:09に書いたブログ記事です。

ひとつ前のブログ記事は「多桁計算:加算・減算」です。

次のブログ記事は「まずは32bitだったら動作OK」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

月別 アーカイブ

2022年2月

 日   月   火   水   木   金   土 
    1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28          

埋め込みQRコード