HSPTV!掲示板

見慣れない現象が起こっています。

簡単に言うと、ある値が 0 なのかどうか( というよりは十分小さいかどうか...？ )が簡単には分からなくなる現象です。

下のスクリプトを実行すると分かると思いますが、変数Bに代入されている数値が、見かけ上0になっているのに、
それが0かどうかをチェックしようとすると「0でない」と言われてしまいます。



mes "B = 1.0*cos(m_pi/2.0)"
B = 1.0*cos(m_pi/2.0)
mes "B = "+B+""

if B = 0.0 : mes "w"
if B = -0.0 : mes "w"

mes "嗚呼...、 2.0/B = "+str(2.0/B)+""

if double(str(B)) = 0 : mes "Bは本当は0だと思います。"


if B > 0 : mes "ですが、Bは0よりほんの少し大きいらしいです。"

H = B + 1.0 : if H = 1.0 : mes "ですが、 B+1.0 は 1.0 だそうです。";Bに何かを足すと、結果は上手く認識できる。
;が、いつもそうとは限らない。とあるモジュール内で同じ事をやったら何故かダメだった。
if B + 1.0 - 1.0 = 0.0 : mes "また、B+1.0-1.0 は 0.0 だそうです。"

mes ""

Y = 1.0*sin(m_pi/2.0)
if Y = 1.0 : mes "1.0*sin(m_pi/2.0) = 1.000000 はちゃんと分かっているそうです"


このBの値を出現させるのに苦労しました。もうひとつ、-0.000000となって同様の現象が起こっている
スクリプトがあるのですが、原因箇所が分からない上にサイズが大きすぎて載せられません。

上記現象に今、非常に困っております。
というのも、空間ベクトルを扱うための計算用モジュール群を作っていて、わりと頻繁に「理論上はキッカリ0」
な数値が現れるので、その度にこの問題にはまって計算がおかしくなって、やりきれません。
今のところ、double(str(ターゲット)) としてとりあえずifによる0判定をクリアしています。
しかしこれだと無駄な計算コストがかっています。ループするとなると遅延が無視できないのです。

何か解決法を教えていただけないでしょうか？

解決法では無いですが・・・
HSPのmes命令では小数点第七位以下は表示されません。
peek命令で変数の中身を覗いてみると表示されない部分が異なっていることがわかります。

mes "A = 0.0"
A = 0.0
mes a
repeat 8
mes " "+cnt+" Byte : "+peek(A,cnt)
loop

wait 100 : mes ""

mes "B = 1.0*cos(m_pi/2.0)"
B = 1.0*cos(m_pi/2.0)

repeat 8
mes " "+cnt+" Byte : "+peek(B,cnt)
loop

wait 100 : mes ""
mes "よって A ≠ B"

そうだったんですね。

私もついさっき気づきました。

対数をとったりしていたらどうも０より若干大きいようで。
思い返せば、m_pi がすでに完璧なπでないから 余弦をとった時点でアウトだなあと。

とにかく、納得できました。ありがとうございます。

str()よりは桁を上げて小数点以下切り捨てた方が処理は軽い

mes "B = 1.0*cos(m_pi/2.0)"

B = 1.0*cos(m_pi/2.0)
mes "B = "+strf("%.35f",B)

if int(B*1000000) = 0 :B=0.0: mes "w"

mes "嗚呼...、 2.0/B = "+str(2.0/B)+""

HSPに限らないけど基本的に浮動小数点型同士の比較にイコールを使うのはご法度

・m_piが「3.1415926535897931」(実数値)と定義されているので、2.0で割った際に計算誤差が生じている。
・そもそもmes命令だけだと小数点以下6桁しか表示されない。strf命令も併用するべき。

;例1
mes strf("%.16f",M_PI) //「3.1415926535897931」と表示

・「ある小ささ以下なら0」をやりたければ、

;例2
#define EPS 0.000001
b=1.0*cos(M_PI/2.0)
if absf(b)<EPS {
	mes "B=0"
}
else {
	mes "B="+strf("%.16f",num)
}

のように、ある(絶対値が)小さな値を使えばいい。
・「計算機イプシロン」と呼ばれるものがあり、絶対値がその値以下なら1.0に足し引きしても「1.0と同じ」と判定される。
　詳しくはWikipediaとかを見ればいいかも。

暇人さん、晩御飯さん、YSRさん、アドバイスありがとうございます。
これからは小さい数により気をつけたいと思います。
位の切り上げ・切り捨てについては暇人さんの方法を参考にさせていただきます。

あと余談ですが、
正弦・余弦・正接でピッタリ0や±1の戻り値が欲しいことが多いので、これらについてはm_piを完璧なπとして扱う三角関数を適当に定義して通常の命令とケースバイケースで使い分けることにしました。