Round off error (Wrong format)

20 ビュー (過去 30 日間)
Mantej Sokhi
Mantej Sokhi 2022 年 9 月 19 日
編集済み: Mantej Sokhi 2023 年 10 月 22 日
Suppose I have a number .. let's say x = 1.4534567809385. If I want to round this off to 5 decimal digits I should get x = 1.45346. However when I try doing this in Matlab using the round function or creating my own function to round it off to 5 decimal digits I am always getting 4 decimal digits. How can I fix this ?

採用された回答

Image Analyst
Image Analyst 2022 年 9 月 19 日
It's just displaying 4 places because you're using format short. Switch to format long and you'll see it correctly.
x = 1.4534567809385;
x5 = round(x, 5)
x5 = 1.4535
format long
x = 1.4534567809385;
x5 = round(x, 5)
x5 =
1.453460000000000
  2 件のコメント
Mantej Sokhi
Mantej Sokhi 2022 年 9 月 19 日
Ah .. thanks a lot for a prompt reply.
Image Analyst
Image Analyst 2022 年 9 月 19 日

サインインしてコメントする。

その他の回答 (0 件)

カテゴリ

Help Center および File ExchangeLogical についてさらに検索

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by