多桁計算処理実装中

| コメント(0) | トラックバック(0)

シェアウェア登録したのだけれど、使ってもらえてないのか、まだ売り上げが無いので、やはり追加関数で対応していきたい。

Excelで計算できる数値は10の309乗程度までの浮動小数点範囲なので、ここはひとつ、3万桁目指して計算できたら、何かうれしいことが起こることを期待しつつ実装中。
#3万桁使えるのはExcel2007以降だけど。

ネットを探すとライブラリが落ちてたりするけれど、全て自前での実装を心がけたい。
小学生レベルの10進演算方式を、実装したいと思っているのだが、これが結構難しい。
たとえば、筆算するとき、無地の紙があったら、計算を描く場所を決めるのに、大体の結果を想像して、なるべくはみ出ないように描こうとするのが、普通だと思うけど、プログラムではみ出たら、例外発生してしまうわけだから、そういう細かい処理って、結構難しかったりする。
難しいからこそ、やる価値はあるはずだ。

で、こういう複雑そうな処理を考えるのには紙に図とか数式とか描いて処理を決めていくのが楽なんだけど、こういうときにTablet PCだと、OneNoteなんかにペンで手書きできるので、PCで作業する上で非常に良い。
#あとから見て、何書いてあるか分かりにくいのは一緒だけど、媒体が一緒ってのは楽だし、紙資源も無駄にならずに済むのは、良い。

最初からこういう開発スタイルにすべきだった。
#機材があれば。

特に、配列サイズ変更時の添え字をループ中で計算するのには、配列を図で描いて、どの変数が何を表わすか、書き込んでしまうと、一発で分かるので、とても助かる。
いや、マウスで描くのもいいけどさ、ペンだと、描いてる感があるんだよね・・・
#マウスは外部機器なので、収納できるペンに比べると、いろいろね。

なんてことは、処理自体には影響を与えないけれど、とりあえず、加算・減算から確実に攻めていきたい。
有効桁3万なら、財務計算から科学技術計算まで使える・・・かどうかは処理速度次第か。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/26

コメントしちゃいなよ

    

サイトカウンタ

Total: 211,632 Hits, (Recent24Hours: 0 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2020/09/29 6:02:32 JST

このブログ記事について

このページは、ふぅみんが2009年11月24日 23:29に書いたブログ記事です。

ひとつ前のブログ記事は「Windows Mobile で Twitter 投稿」です。

次のブログ記事は「[メモ] constメンバ関数」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2020年1月

 日   月   火   水   木   金   土 
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31  

埋め込みQRコード