HSPポータル
サイトマップ お問い合わせ


HSPTV!掲示板


未解決 解決 停止 削除要請

2012
0513
とら小数の計算4解決


とら

リンク

2012/5/13(Sun) 00:54:44|NO.46616

小数を使った計算を行いたいのですが、どのような式を組めばよいでしょうか。

3*0.5 とやっても0と表示されてしまい、どうしようもない状況です。

過去ログをあさってみましたが、それらしきものは見つからず、今に至ります・・・

よろしければご指導よろしくお願い致します。



この記事に返信する


FPW

リンク

2012/5/13(Sun) 01:13:33|NO.46617

0.5*3
にするといいですよ。



とら

リンク

2012/5/13(Sun) 01:15:55|NO.46618

こんなに単純なものだったのですかww

なんとか解決することができました、ありがとうございます!



check

リンク

2012/5/13(Sun) 11:26:46|NO.46622

補足すると、HSPは計算するときその結果を最初の型に合わせるという仕様なんだ。

つまり、3 * 0.5は 整数 * 浮動小数点数 で、結果は整数になり切り捨てられ0になる。
逆の 0.5 * 3は 浮動小数点数 * 整数 で、結果は浮動小数点数になりうまくいったというわけだ。

だから、3.0 * 0.5でもうまくいく。



とら

リンク

2012/5/13(Sun) 13:16:00|NO.46624

補足ありがとうございます!
今後の参考にさせていただきますっ!



ONION software Copyright 1997-2021(c) All rights reserved.