よさげになった

| コメント(0) | トラックバック(0)

E(10のn乗)も処理できるようになったので、なかなか使えそうなものになった。

Longest.PNG

A2セルには「=-1.23456789012345E-21+123」と、普通に計算してみた。
当たり前だが、有効桁(Excelの場合15桁らしい)丸めで無視される大きさなので、A2セルの結果は123。

A1セルのHLADD(自作関数)ではちゃんと計算できている。
HLADDなら、小数点や符号を含みながらも、3万桁超(Excel2003以前は255桁)まで対応している。
因みに、E±9999まで入力可能にしたので、本来は文字列で指定した方がよいのだが。

残念なのは、まだ加算と減算しかできないってところか。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/77

コメントしちゃいなよ

    

サイトカウンタ

Total: 201,546 Hits, (Recent24Hours: 26 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2017/08/20 1:34:22 JST

このブログ記事について

このページは、ふぅみんが2010年1月31日 01:30に書いたブログ記事です。

ひとつ前のブログ記事は「もっとよさげに」です。

次のブログ記事は「QUOカード、キタ」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2017年4月

 日   月   火   水   木   金   土 
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30            

埋め込みQRコード