jjzjj

dInputData

全部标签

python-2.7 - Dataproc Pyspark 作业仅在一个节点上运行

我的问题是我的pyspark作业没有并行运行。代码和数据格式:我的PySpark看起来像这样(显然是经过简化的):classTheThing:def__init__(self,dInputData,lDataInstance):#...defdoes_the_thing(self):"""About0.01secondscalculationtimeperrow"""#...returnlProcessedData#containsinputdatapre-processedfromotherRDDs#donelikethisbecauseoneRDDcannotworkwithoth