HSPポータル
サイトマップ お問い合わせ


HSPTV!掲示板


未解決 解決 停止 削除要請

2007
0327
オコリダケ実数値で余算9解決


オコリダケ

リンク

2007/3/27(Tue) 21:13:10|NO.6600

HSP3.1使ってます
実数値で余算が使えないのは仕様でしょうか?

mes 10.0 \ 3



この記事に返信する


いくす

リンク

2007/3/27(Tue) 21:50:53|NO.6604

こんにちは、

"\"は10/3余り1 の1の部分つまり余りを出すわけなんですが、

実数値でそもそも余りを出す必要がないと思います。
12.44/4.63=??余り?? 私は見たことがありません。
その必要があるならint()で整数化してやってみてはどうでしょうか?



オコリダケ

リンク

2007/3/27(Tue) 23:39:44|NO.6609

返信ありがとうございます。

言い方が少し変でした・・・。
実数値ではなく「実数型で余算は使えないか」です。
小数点がある値に対しては必要ないのですが、
例えば、「mes 1000000000001.0 \ 1000000000000.0」で「1」と求めたいのです。



いくす

リンク

2007/3/28(Wed) 08:13:34|NO.6624

小数点がない実数型なら整数にしてから計算しまた実数にすればよいかと。

11.0\10.0

11.0\10.0…?? =  11\10…1
↓ ↓
??         「1」
↓      ↓   
サポート外 答えになる

こんな感じでどうでしょうか?



アキス

リンク

2007/3/28(Wed) 08:38:30|NO.6625

実数の数値を掛け算して小数点消してそれで計算した後元に戻す。
これじゃ駄目なんでしょうか?



オコリダケ

リンク

2007/3/28(Wed) 16:07:24|NO.6627

> 11.0\10.0
> ↓
> 11.0\10.0…?? =  11\10…1
> ↓ ↓
> ??         「1」
> ↓      ↓   
> サポート外 答えになる

何度も書きますが
「mes 1000000000001.0 \ 1000000000000.0」で「1」と求めたいのです。
「1000000000001」は整数型では扱えません。
上の数値は例ですが、
とにかく8バイト分のサイズを使いたいので型変換は使えません。



anonimo

リンク

2007/3/28(Wed) 16:55:02|NO.6630

まだ二回しか書いてなくね?なに怒ってんの?wみんな言ってるけど

mes 1000000000001.0 \ 1000000000000.0
はHSPが対応してないんだって。サポート外エラー。
つまり「mes 1000000000001.0 \ 1000000000000.0」で「1」は求められないわけ。分かる?
  そんなこといったって「1」を求めたいんだよ!'A`
あ、怒らないでw
どうやって求められるかを考えるのがプログラマなんじゃないの?間違ってる?あと実数演算で答えは「1」ってどう考えても型変換してるよね?型変換しないなら答えは「1.0」じゃなくて?その辺の質問と期待する回答があいまいなんだよなぁ'A`地道に引き算でもしていけば?



オコリダケ

リンク

2007/3/28(Wed) 17:15:05|NO.6632

> まだ二回しか書いてなくね?なに怒ってんの?

怒ってはいませんよ。

> どうやって求められるかを考えるのがプログラマなんじゃないの?間違ってる?

ごもっともです。
しかし、求め方を尋ねているわけではないのですが。
求め方があるのなら、教えてもらえるに越したことはないのですが。
文字列として操作するようにしましょう。

> で答えは「1」ってどう考えても型変換してるよね?
> 型変換しないなら答えは「1.0」じゃなくて?

確かに。

結論として、サポート外ということで終わりにしましょう。



pizza

リンク

2007/3/28(Wed) 19:10:32|NO.6636

hspmath.asにマクロがあります。


#include "hspmath.as" mes fmod(1000000000001.0, 1000000000000.0) stop



オコリダケ

リンク

2007/3/28(Wed) 19:46:31|NO.6638

> hspmath.asにマクロがあります。

ありがとうございます。
マクロ内をみることで余りの求め方もわかって一石二鳥です。



ONION software Copyright 1997-2021(c) All rights reserved.