How to handle overflows of int16

1 回表示 (過去 30 日間)
Micke Malmström
Micke Malmström 2015 年 11 月 26 日
編集済み: Micke Malmström 2015 年 11 月 26 日
I get a vector of int16 from a VISA-instrument where the values have rolled over if to big, the vector has an offset that I want to subtract but then the values just becomes floored at - 32768.
The question comes down to how can I make int16(-2^15-1) = 32767 ?

サインインしてこの質問に回答する。

採用された回答

Micke Malmström
Micke Malmström 2015 年 11 月 26 日
編集済み: Micke Malmström 2015 年 11 月 26 日
Ok this it what I do: >> mod(-2^15-1+(+2^15),2^16)+(-2^15) ans = 32.7670e+003

その他の回答 (0 件)

カテゴリ

Help Center および File Exchange で Functions についてさらに検索

タグ

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!

Translated by