Excel95の挙動に対応

| コメント(0) | トラックバック(0)

戸惑いだけでは先に進まない。

HLCOMP関数は-1,0,1を返すため、整数型を使っていた。
至極当然だろう。

だが、ここに落とし穴があった。

どうやら、整数型では返却値に何らかの補正が必要なため・・・・とか考えたんだけど、よく分からないまま、浮動小数点(double)型で返すようにしてみた。

すると、再現しない。

Excel内部では数値は基本doubleのようなので、doubleで返却することで無駄な補正が不要に・・・・と考えて納得することにしよう。

とにかく、数値を返したければ、doubleにするのが無難のようだ。
整数型だとExcel2003までと2007以降で非互換もあることだし。

で、実は、255文字までの数値文字列って、数値と演算すると、自動的にVALUE関数っぽいキャストによって、加減乗除比較等の演算ならできちゃうんだよね。
だから、Excel95で、HLCOMP使う意味ってあんまり無かったりする。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/134

コメントしちゃいなよ

    

サイトカウンタ

Total: 200,717 Hits, (Recent24Hours: 22 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2017/07/24 17:45:21 JST

このブログ記事について

このページは、ふぅみんが2010年3月20日 01:50に書いたブログ記事です。

ひとつ前のブログ記事は「IIS7.5で任意のHTTPヘッダーに対する要求フィルターを構成するメモ」です。

次のブログ記事は「httpsでおググられインデックスされる」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2017年4月

 日   月   火   水   木   金   土 
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30            

埋め込みQRコード