Is there a way to avoid this inaccuracy when converting an string to a double and then to an unsigned int? I have tried using str2num() but get the same result.Thanks!
3 ビュー (過去 30 日間)
古いコメントを表示
Guillermo Camacho
2021 年 9 月 28 日
回答済み: Walter Roberson
2021 年 9 月 28 日
uint64(str2double('132697151393876469'))
%ans =
% uint64
% 132697151393876464
% note that the ans is the same for inputs 1326971513938764XX, where XX is in the range (57-71)
0 件のコメント
採用された回答
Walter Roberson
2021 年 9 月 28 日
format long g
A = sscanf('132697151393876469', '%lu')
class(A)
0 件のコメント
その他の回答 (1 件)
the cyclist
2021 年 9 月 28 日
The reason for this is that MATLAB uses double-precision arithmetic by default, which will typically give approximately 15 decimal digits of precision.
0 件のコメント
参考
カテゴリ
Help Center および File Exchange で Characters and Strings についてさらに検索
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!