Accuracy small numbers converted to symbolic

1 回表示 (過去 30 日間)
Martin Baumann
Martin Baumann 2021 年 5 月 4 日
コメント済み: Martin Baumann 2021 年 5 月 6 日
Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000

サインインしてこの質問に回答する。

採用された回答

Walter Roberson
Walter Roberson 2021 年 5 月 4 日
Ran in:
sym('2e-6')
ans = 
0.000002
sym(2)*10^(-6)
ans = 
  1 件のコメント
Martin Baumann
Martin Baumann 2021 年 5 月 6 日
Thank you Walter, great idea and does the trick. Regards, Martin

サインインしてコメントする。

その他の回答 (0 件)

カテゴリ

Help Center および File Exchange で Symbolic Variables, Expressions, Functions, and Preferences についてさらに検索

タグ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by