BUG in dec2hex

1 件のコメント

Stephen23
Stephen23 2023 年 9 月 4 日
編集済み: Stephen23 2023 年 9 月 4 日
You do not explain what the problem is.
Note that your last example uses DOUBLE class and not UINT64, which clearly has a different bit pattern:
u = bitxor(uint64(0xFF000000),0xFFFFFFFFFFFFFFFF)
u = uint64 18446744069431361535
dec2hex(u)
ans = 'FFFFFFFF00FFFFFF'
d = double(u) % The same value you entered by hand
d = 1.8447e+19
dec2hex(d)
ans = 'FFFFFFFF01000000'

サインインしてコメントする。

回答 (0 件)

カテゴリ

ヘルプ センター および File ExchangeData Type Conversion についてさらに検索

タグ

質問済み:

XX
2023 年 9 月 4 日

編集済み:

2023 年 9 月 4 日

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by