HSPポータル
サイトマップ お問い合わせ


HSPTV!掲示板


未解決 解決 停止 削除要請

2012
0706
匿名希望かもしれません(´・ω・`)小数点4解決


匿名希望かもしれません(´・ω・`)

リンク

2012/7/6(Fri) 17:40:22|NO.47526


input a button "開始",*開始 stop *開始 b=double(100/a) mes b
100/5.5=18.181818となりますが、↑このようなスプリクトだと20.000000となってしまいます。
18.181818と表示させるには、どのようにすればいいですか?



この記事に返信する


TMKL

リンク

2012/7/6(Fri) 18:02:41|NO.47529

doubleの中身が(100/a)つまり、
(整数/実数)なので、先頭の「整数」に型を合わせて2となります

その2をdoubleが実数にするので
2.000000となってしまいます


解決方法としては、

a=5.5 b=double(100)/a mes b
とすれば、
b=実数/実数
となるので、
bに実数値18.181818が入ります



匿名希望

リンク

2012/7/6(Fri) 18:36:33|NO.47530

少し訂正&補足ということで横レス失礼します。

スレ主さんのスクリプトでは、まず式(100/5.5)を計算するわけですが
TKMLさんの回答の通り、全ての値が先頭の値(100)の型(整数型)に合わせられます。
つまり、式が(100/5)になり、結果として値は(20)になります。

解決方法は、TKMLさんの回答にある
double(100)/a

でもいいですし、先頭の値を明示的に実数として
100.0/a
とすることでも、実数として計算させることが可能です。



TMKL

リンク

2012/7/6(Fri) 18:44:03|NO.47531

おうおうおう!
どこのどいつだぁ!!
100/5.5を2なんて言った奴は!!!



やっちまった . . .



匿名希望かもしれません(´・ω・`)

リンク

2012/7/6(Fri) 18:45:58|NO.47532

TMKLさん、匿名希望さん、ありがとうございました。
100じゃなくて100.0と書けばよかったんですね!
またいつかお世話になるかもしれません><
その時はよろしくおねがいしますm(__)m



ONION software Copyright 1997-2021(c) All rights reserved.