多桁平方根に負の引数・・・

| コメント(0) | トラックバック(0)

ExcelでSQRTに負数を与えると、#NUM!エラーとなるわけだが、多桁の現実装は絶対値に対して平方根を計算している。

互換関数もよさげにできたっぽい評価結果が得られてるんだけど、そろそろ公開をと考えているのだが、さて。

今回比較関数を用意したので、負数を事前に排除することもできるわけだし、#NUM!エラーを返すようにするかな。

追加で絶対値を返す関数を用意する意味も出てくるし。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/131

コメントしちゃいなよ

    

サイトカウンタ

Total: 200,019 Hits, (Recent24Hours: 36 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2017/06/28 22:51:59 JST

このブログ記事について

このページは、ふぅみんが2010年3月18日 22:42に書いたブログ記事です。

ひとつ前のブログ記事は「RJ45ループバックコネクタでLEDを光らせることができるか」です。

次のブログ記事は「Excel95の挙動に戸惑う」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2017年4月

 日   月   火   水   木   金   土 
            1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30            

埋め込みQRコード