fixed.aggregateType

集積 numerictype の計算

ページ内をすべて折りたたむ

構文

aggNT = fixed.aggregateType(A,B)

説明

例

aggNT = fixed.aggregateType(A,B) では、入力 A および B の全範囲と精度を表現できる、2 進小数点スケーリングされた最小の numerictype を計算します。

例

すべて折りたたむ

集積数値型の計算

ライブスクリプトを開く

2 つの numerictype オブジェクトの集積数値型

a_nt = numerictype(1,16,13);
b_nt = numerictype(1,18,16);
aggNT = fixed.aggregateType(a_nt,b_nt)

aggNT =


          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 19
        FractionLength: 16

a_nt は、範囲 [-4,4) を精度 2^-13 で表現できます。b_nt は、範囲 [-2,2) を精度 2^-16 で表現できます。aggNT は、範囲 [-4,4) を精度 2^-16 で表現できます。

2 つの fi オブジェクトの集積数値型

a_fi = ufi(pi,16)

a_fi = 
    3.1416

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Unsigned
            WordLength: 16
        FractionLength: 14

b_fi = sfi(-pi,24)

b_fi = 
   -3.1416

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 24
        FractionLength: 21

aggNT = fixed.aggregateType(a_fi,b_fi)

aggNT =


          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 24
        FractionLength: 21

fi オブジェクトと整数の集積数値型

a_fi = ufi(pi,16);
cInt = uint8(0);
aggNT = fixed.aggregateType(a_fi,cInt)

aggNT =


          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Unsigned
            WordLength: 22
        FractionLength: 14

a_fi は、範囲 [0,3] を精度 2^-14 で表現できます。cInt は、範囲 [0,255] を精度 2^0 で表現できます。aggNT は、範囲 [0,255] を精度 2^-14 で表現できます。