多桁平方根に負の引数・・・

| コメント(0) | トラックバック(0)

ExcelでSQRTに負数を与えると、#NUM!エラーとなるわけだが、多桁の現実装は絶対値に対して平方根を計算している。

互換関数もよさげにできたっぽい評価結果が得られてるんだけど、そろそろ公開をと考えているのだが、さて。

今回比較関数を用意したので、負数を事前に排除することもできるわけだし、#NUM!エラーを返すようにするかな。

追加で絶対値を返す関数を用意する意味も出てくるし。

トラックバック(0)

トラックバックURL: http://blog.fne.jp/mt/mt-tb.cgi/131

コメントしちゃいなよ

    

サイトカウンタ

Total: 201,736 Hits, (Recent24Hours: 39 Hits)
~ Since 2010/01 ~

埋め込みツイッター

取得失敗;;
Now: 2017/08/24 15:35:09 JST

このブログ記事について

このページは、ふぅみんが2010年3月18日 22:42に書いたブログ記事です。

ひとつ前のブログ記事は「RJ45ループバックコネクタでLEDを光らせることができるか」です。

次のブログ記事は「Excel95の挙動に戸惑う」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。

2017年8月

 日   月   火   水   木   金   土 
    1 2 3 4 5
6 7 8 9 10 11 12
13 14 15 16 17 18 19
20 21 22 23 24 25 26
27 28 29 30 31    

埋め込みQRコード