Why 0.6+0.3+0.1-1 is -1.11022302462516e-16, not 0 ? why?? A serials bug??

3 ビュー (過去 30 日間)
denny
denny 2018 年 6 月 20 日
コメント済み: denny 2019 年 9 月 9 日
0.6+0.3+0.1-1
  1 件のコメント
denny
denny 2019 年 9 月 9 日
This is not a bug, this is bucase the numeric calculation in a computer.
You can use a fraction to calculate it.

サインインしてコメントする。

回答 (0 件)

カテゴリ

Help Center および File ExchangeMATLAB 快速入门 についてさらに検索

タグ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!