HSPTV!掲示板

スレッド一覧 | 新規書き込み | 新着一覧 | 使い方 | 過去ログ

未解決

解決

停止

削除要請


	2012 0513	とら	小数の計算	4

とら

2012/5/13(Sun) 00:54:44|NO.46616

小数を使った計算を行いたいのですが、どのような式を組めばよいでしょうか。

3*0.5 とやっても0と表示されてしまい、どうしようもない状況です。

過去ログをあさってみましたが、それらしきものは見つからず、今に至ります･･･

よろしければご指導よろしくお願い致します。

この記事に返信する

FPW

2012/5/13(Sun) 01:13:33|NO.46617

0.5*3
にするといいですよ。

とら

2012/5/13(Sun) 01:15:55|NO.46618

こんなに単純なものだったのですかww

なんとか解決することができました、ありがとうございます！

check

2012/5/13(Sun) 11:26:46|NO.46622

補足すると、HSPは計算するときその結果を最初の型に合わせるという仕様なんだ。

つまり、3 * 0.5は整数 * 浮動小数点数で、結果は整数になり切り捨てられ0になる。
逆の 0.5 * 3は浮動小数点数 * 整数で、結果は浮動小数点数になりうまくいったというわけだ。

だから、3.0 * 0.5でもうまくいく。

とら

2012/5/13(Sun) 13:16:00|NO.46624

補足ありがとうございます！
今後の参考にさせていただきますっ！