Simulinkでの single型の扱いについて

22 ビュー (過去 30 日間)
katsunori shigematsu
katsunori shigematsu 2021 年 11 月 23 日
移動済み: Atsushi Ueno 2022 年 8 月 17 日
Simulinkで、定数 0.01の出力型をSingleとし、Gainブロックで1000倍すると、出力が10 となります。
Single型での0.01の実際の値は、0.009999... で、1000倍した時に誤差がなくなってしまうのはなぜでしょうか
  5 件のコメント
Atsushi Ueno
Atsushi Ueno 2021 年 11 月 25 日
移動済み: Atsushi Ueno 2022 年 8 月 17 日
余談ですが:
浮動小数点数演算は、規格(IEEE754など)、処理系、CPUや他ハードウェアの違いに依存します。全く同じソフトウェアで演算をしても、処理系やハードウェアが異なると演算誤差が異なる場合があります。

サインインしてコメントする。

回答 (0 件)

カテゴリ

Help Center および File ExchangeDiscontinuities についてさらに検索

タグ

製品


リリース

R2016b

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!