keyLimit

クラス: matlab.compiler.mlspark.RDD
名前空間: matlab.compiler.mlspark

ディスクにあふれる前に保存できる、一意のキーのしきい値を返す

このページをすべて展開する

構文

result = keyLimit(obj)

説明

result = keyLimit(obj) は、ディスクにあふれる前にメモリ内に保存できる、obj の一意のキーのしきい値を返します。

入力引数

すべて展開する

入力 RDD。RDD オブジェクトとして指定します。

出力引数

すべて展開する

ディスクにあふれる前に保存できる、一意のキーのしきい値。スカラー値として返されます。

例

すべて展開する

keyLimit メソッドを使用して、Spark™ プロパティを指定する containers.Map オブジェクトに格納できる、一意のキーのしきい値を返します。しきい値を超えるキーはディスクにあふれます。

%% Connect to Spark
% Change number of keys from a default threshold of 10,000 to 500
sparkProp = containers.Map( ...
    {'spark.executor.cores',...
    'spark.executor.memory',...
    'spark.executor.instances',...
    'spark.matlab.worker.numOfKeys', ...
    }, ...
    {'1',...
    '2g',...
    '1', ...
    '500'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% keyLimit
x = sc.parallelize({1,2,3});
x.keyLimit % ans: 500

バージョン履歴

R2016b で導入

参考