HSPTV!掲示板

下記の計算をすると、最後に整数にしたときに、４１ではなく４０になってしまいます。

少数をつかえる変数にしてるんですが、なにか勘違いしてるんでしょうか？

a=0.41
mes a

a=a/100
mes a

a=a*10000
mes a

mes int (a)

HSP純正のデバッガだと41.000000となっているかと思いますがknowbugというデバッガだと
40.9999999999999930となっております。
knowbugの方が正確でintに変換した際小数部分が切り捨てられ40となってしまいます。

ちょっと実験してみたのですが、実数を画面に表示する際は、
「表示されない桁の一番左の桁を四捨五入した数値」が
表示される模様？

a=0.41
a=a/100
a=a*10000

repeat 20
	mes strf("%2."+str(cnt)+"f",a)
loop
//小数点以下の桁数が14桁になるあたりから正確な値が表示され始める

実数(小数を含む値や、極端に大きな値)は計算の際に
微少な誤差が生じることがありますので、
プログラマーやユーザーが想定している値とは
微妙に異なる値になることがあります。
(今回の例で言えば、41.000000を想定しているのに、
実際の数値は40.999999になっている)
実数演算は「計算結果が少しぐらい大雑把でも良い」という場面以外では
あまりやらない方がいい、ということになるでしょうか。

　結局のところコンピュータ内では2進数でしか計算できませんから、10進数による小数の計算で誤差が生じるのはやむをえないかと。

　参考になるかどうか分かりませんが私は通常、int関数に小数を渡す時は0.5足して四捨五入をしています。四捨五入したくなければ影響なさそうな非常に小さな数を足してやれば誤差回避になるかもしれません。

単純に、情報落ちしてるだけだと思うけどね。
あまりにも大きな桁を計算しようとすれば、それだけ情報落ちが発生する。

なので、 a = a * 10000 ではなく、a = a * 10 を 4回行うなどの対策が必要。
(情報が消えない範囲で四則演算を行うといいよ)

参考URL : https://www.cc.kyoto-su.ac.jp/~yamada/programming/float.html#johouot

回答ありがとうございます。

％で入力して、それを内部で１００で割って比率にし、
１００００個中の割合？みたいな計算です。

０．１足すなり、四捨五入で０．５を足すとか考えてみます。