多桁平方根に負の引数・・・

| コメント(0) | トラックバック(0)

ExcelでSQRTに負数を与えると、#NUM!エラーとなるわけだが、多桁の現実装は絶対値に対して平方根を計算している。

互換関数もよさげにできたっぽい評価結果が得られてるんだけど、そろそろ公開をと考えているのだが、さて。

今回比較関数を用意したので、負数を事前に排除することもできるわけだし、#NUM!エラーを返すようにするかな。

追加で絶対値を返す関数を用意する意味も出てくるし。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/131

コメントしちゃいなよ

    

サイトカウンタ

Total: 211,632 Hits, (Recent24Hours: 0 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2018/05/27 20:55:50 JST

このブログ記事について

このページは、ふぅみんが2010年3月18日 22:42に書いたブログ記事です。

ひとつ前のブログ記事は「RJ45ループバックコネクタでLEDを光らせることができるか」です。

次のブログ記事は「Excel95の挙動に戸惑う」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2018年3月

 日   月   火   水   木   金   土 
        1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

埋め込みQRコード