フィルターのクリア

BUG in dec2hex

3 ビュー (過去 30 日間)
XX
XX 2023 年 9 月 4 日
編集済み: Stephen23 2023 年 9 月 4 日
  1 件のコメント
Stephen23
Stephen23 2023 年 9 月 4 日
編集済み: Stephen23 2023 年 9 月 4 日
You do not explain what the problem is.
Note that your last example uses DOUBLE class and not UINT64, which clearly has a different bit pattern:
u = bitxor(uint64(0xFF000000),0xFFFFFFFFFFFFFFFF)
u = uint64 18446744069431361535
dec2hex(u)
ans = 'FFFFFFFF00FFFFFF'
d = double(u) % The same value you entered by hand
d = 1.8447e+19
dec2hex(d)
ans = 'FFFFFFFF01000000'

サインインしてコメントする。

回答 (0 件)

カテゴリ

Help Center および File ExchangeMatched Filter and Ambiguity Function についてさらに検索

タグ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by