HSPポータル
サイトマップ お問い合わせ


HSPTV!掲示板


未解決 解決 停止 削除要請

2008
0629
スペースデブリ16進数、10進数について1未解決


スペースデブリ

リンク

2008/6/29(Sun) 19:50:57|NO.17083


value = int ("$FE1231231231F") mes value mes strf ("%#x", value)

上を16進数の$FE1231231231Fを10進数とその10進数に変換したものを16進数に戻したものが表示されるようにしたいのですが、
どうしても数値が合いません。より小さい値(FF→255)で実行したときは成功したのですが、上の値ではどうしてもできません。
よろしくお願いします。



この記事に返信する


flory

リンク

2008/6/29(Sun) 20:12:50|NO.17085

通常の場合、HSPで扱える数字(整数値)は32bit、つまり$00000000〜$FFFFFFFFの範囲です。
$FE1231231231Fはこの範囲を超えているので、後ろの$1231231Fだけが認識されます。

これを回避するには、実数型の変数を使って擬似的に64bit整数を作ります。
詳しくはコチラ→http://hspdev-wiki.net/?64bit%20%C0%B0%BF%F4%A4%F2%BA%C6%B8%BD



ONION software Copyright 1997-2018(c) All rights reserved.