primary school question!

16 ビュー (過去 30 日間)
Wenjuan
Wenjuan 2020 年 11 月 28 日
回答済み: Image Analyst 2020 年 11 月 28 日
well, a silly question
why 0.07*400 is not equal to 28?
see screenshot;

サインインしてこの質問に回答する。

回答 (1 件)

Image Analyst
Image Analyst 2020 年 11 月 28 日
Truncation error due to double's only using 64 bits instead of an infinite number of bits. It will be off a very small amount, eps(28). See the FAQ for a thorough discussion:
https://matlab.fandom.com/wiki/FAQ#Why_is_0.3_-_0.2_-_0.1_.28or_similar.29_not_equal_to_zero.3F

カテゴリ

Help Center および File Exchange で MATLAB についてさらに検索

タグ

製品


リリース

R2020a

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by