Any idea how to eliminate the inaccuracy occuring when converting small numbers to symbolic:
Current Example:
>> sym(2e-6)
ans =
4722366482869645/2361183241434822606848
>> sym(2e-5)
ans =
1/50000

 採用された回答

Walter Roberson
Walter Roberson 2021 年 5 月 4 日

1 投票

sym('2e-6')
ans = 
0.000002
sym(2)*10^(-6)
ans = 

1 件のコメント

Martin Baumann
Martin Baumann 2021 年 5 月 6 日
Thank you Walter, great idea and does the trick. Regards, Martin

サインインしてコメントする。

その他の回答 (0 件)

カテゴリ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by