HSPポータル
サイトマップ お問い合わせ


HSPTV!掲示板


未解決 解決 停止 削除要請

2016
0716
bellyoshi掛け算のときの型変換2解決


bellyoshi

リンク

2016/7/16(Sat) 11:49:28|NO.76206

mes 10 * 0.99
mes 0.99 * 10
の挙動が違うのは仕様でしょうか?
片方は0になり、片方は9.900000です。
掛け算の順番が違っていても表現の大きいほうの型にあってほしいです。



この記事に返信する


スペース

リンク

2016/7/16(Sat) 12:00:36|NO.76208

hspは一番左の方に合わせて計算します。
10 * 0.99は0.99をint型へ変換するので、その過程で小数点が切り捨てられます。
従って、内部では10 * 0で計算しているので、結果が0になります。
これを回避する手段として、int関数・double関数・str関数があります。
HDL(HSPエディタでf1を押す)でint、doubleを調べてみてください。



bellyoshi

リンク

2016/7/21(Thu) 15:24:41|NO.76272

なるほど、ありがとうございました



ONION software Copyright 1997-2021(c) All rights reserved.