imasara2script
WSHやHTAなどのプログラムサンプルの公開用ブログ
2017年3月10日金曜日
小数点以下の桁を含む数値を一時的に整数化する
例えば「(-20.41) - (-43.3)」をJScriptで実行すると、答は「22.89」になる筈ですが実際には「22.889999999999997」という結果になります。
そういう仕様
ですが、もちろんこれでは困ります。
計算中のみ一時的に10とか100などの数字をかけて整数にして、最後に桁を元通りにすれば上記の問題を回避できます。
そのための関数を作成しました。
以下ソース
実行結果
0 件のコメント:
コメントを投稿
次の投稿
前の投稿
ホーム
登録:
コメントの投稿 (Atom)
0 件のコメント:
コメントを投稿