fixptbestprec
値を固定小数点で表現する際に可能な最高精度の導出
構文
out = fixptbestprec(RealWorldValue,TotalBits,IsSigned)
out = fixptbestprec(RealWorldValue,FixPtDataType)
説明
out = fixptbestprec(RealWorldValue,TotalBits,IsSigned)
は、RealWorldValue
で指定された実際の値を固定小数点で表現する際の最高の精度を求めます。固定小数点数のビット数を TotalBits
で指定し、固定小数点数に符号を付けるかどうかを IsSigned
で指定します。IsSigned
が 1
の場合は数値に符号が付けられ、IsSigned
が 0
の場合は数値に符号が付けられません。最高精度は、out
に設定されて返されます。
out = fixptbestprec(RealWorldValue,FixPtDataType)
は、FixPtDataType
で指定されたデータ型に基づいて最高の精度を求めます。
例
バージョン履歴
R2006a より前に導入