よさげになった

| コメント(0) | トラックバック(0)

E(10のn乗)も処理できるようになったので、なかなか使えそうなものになった。

Longest.PNG

A2セルには「=-1.23456789012345E-21+123」と、普通に計算してみた。
当たり前だが、有効桁(Excelの場合15桁らしい)丸めで無視される大きさなので、A2セルの結果は123。

A1セルのHLADD(自作関数)ではちゃんと計算できている。
HLADDなら、小数点や符号を含みながらも、3万桁超(Excel2003以前は255桁)まで対応している。
因みに、E±9999まで入力可能にしたので、本来は文字列で指定した方がよいのだが。

残念なのは、まだ加算と減算しかできないってところか。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/77

コメントしちゃいなよ

    

サイトカウンタ

Total: 211,632 Hits, (Recent24Hours: 0 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2024/04/24 18:11:06 JST

このブログ記事について

このページは、ふぅみんが2010年1月31日 01:30に書いたブログ記事です。

ひとつ前のブログ記事は「もっとよさげに」です。

次のブログ記事は「QUOカード、キタ」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

月別 アーカイブ

2024年2月

 日   月   火   水   木   金   土 
        1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29    

埋め込みQRコード