sprintf bug?

3 ビュー (過去 30 日間)
oguz sen
oguz sen 2011 年 10 月 7 日
I run the following lines to reformat my integer data into string sprintf('%024.0f',1000010000000000000000);
and i expect the result to be
001000010000000000000000
but it's 001000009999999999900000
can someone explain this?
thanx in advance..

サインインしてこの質問に回答する。

採用された回答

Laura Proctor
Laura Proctor 2011 年 10 月 7 日
It has to do with the size of the value you are entering; it is larger than the largest integer-valued floating-point number (2^52) allowed. It is being resolved to the value that you are seeing as the output.
  1 件のコメント
Jan
Jan 2011 年 10 月 7 日
2^53-1, see BITMAX. http://www.mathworks.de/support/tech-notes/1100/1108.html

サインインしてコメントする。

その他の回答 (0 件)

カテゴリ

Help Center および File Exchange で Numeric Types についてさらに検索

タグ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by