我是Spark的初学者，我正在运行我的应用程序以从文本文件中读取14KB数据，进行一些转换和操作(收集、收集AsMap)并将数据保存到数据库我在我的macbook上本地运行它，它有16G内存，8个逻辑核心。Java最大堆设置为12G。这是我用来运行应用程序的命令。bin/spark-submit--classcom.myapp.application--masterlocal[*]--executor-memory2G--driver-memory4G/jars/application.jar我收到以下警告2017-01-1316:57:31.579[Executortasklaunc
要将Spark应用程序提交到集群，他们的文档说明:Todothis,createanassemblyjar(or“uber”jar)containingyourcodeanditsdependencies.BothsbtandMavenhaveassemblyplugins.Whencreatingassemblyjars,listSparkandHadoopasprovideddependencies;theseneednotbebundledsincetheyareprovidedbytheclustermanageratruntime.--http://spark.apache.
使用Spark和Java，我试图向现有的具有n列的数据集[行]添加一个整数标识列。我使用zipWithUniqueId()或zipWithIndex成功添加了一个id，甚至使用了monotonically_increasing_id()。但没有一个能令人满意。示例:我有一个包含195行的数据集。当我使用这三种方法中的一种时，我得到一些像1584156487或12036这样的ID。另外，这些ID不是连续的。我需要/想要的非常简单:一个Integerid列，其值从1到dataset.count()foreach行，其中id=1后跟id=2，等等。我如何在Java/Spark中做到这一点？
我尝试在spark中读取一个csv文件，我想拆分以逗号分隔的行，以便我有一个带有二维数组的RDD。我是Spark的新手。我试着这样做:publicclassSimpleApp{publicstaticvoidmain(String[]args)throwsException{Stringmaster="local[2]";StringcsvInput="/home/userName/Downloads/countrylist.csv";StringcsvOutput="/home/userName/Downloads/countrylist";JavaSparkContextsc=ne
我在我的Java应用程序中使用ApacheSpark。我有两个DataFrame小号:df1和df2.df1包含Row与email,firstName和lastName.df2包含Row与email.我想创建一个DataFrame:df3包含df1中的所有行,df2中不存在哪个电子邮件.有没有办法用ApacheSpark做到这一点？我试图创建JavaRDD来自df1和df2通过类型转换它们toJavaRDD()和过滤df1包含所有电子邮件，然后使用subtract,但我不知道如何映射新的JavaRDD至ds1得到DataFrame.基本上我需要df1中的所有行谁的邮箱不在df2.Dat
我用的是SparkStandalone单机，128G内存，32核。以下是我认为与我的问题相关的设置:spark.storage.memoryFraction0.35spark.default.parallelism50spark.sql.shuffle.partitions50我有一个Spark应用程序，其中有一个用于1000个设备的循环。对于每个循环(设备)，它都会准备特征向量，然后调用MLLib的k-Means。在循环的第25到30次迭代(处理第25到第30个设备)时，它遇到了“Java.lang.OutOfMemoryError:Java堆空间”的错误。我尝试将memoryFra
我正在使用Spark2.2，我正在尝试从Kafka读取JSON消息，将它们转换为DataFrame并将它们作为Row:spark.readStream().format("kafka").option("kafka.bootstrap.servers","localhost:9092").option("subscribe","topic").load().select(col("value").cast(StringType).as("col")).writeStream().format("console").start();有了这个我可以实现:+-----------------
我在AWS上启动一个spark集群，有一个master和60个核心:下面是启动的命令，基本上每个核心2个executor，一共120个executor:spark-submit--deploy-modecluster--masteryarn-cluster--driver-memory180g--driver-cores26--executor-memory90g--executor-cores13--num-executors120然而，在作业跟踪器中，只有119个执行程序:我认为应该有1个驱动程序+120个工作执行程序。但是，我看到的是119个executor，其中包括1个driv
我在EMR4.6.0+Spark1.6.1上运行这段代码:valsqlContext=SQLContext.getOrCreate(sc)valinputRDD=sqlContext.read.json(input)try{inputRDD.filter("`first_field`isnotnullOR`second_field`isnotnull").toJSON.coalesce(10).saveAsTextFile(output)logger.info("DONE!")}catch{casee:Throwable=>logger.error("ERROR"+e.getMessa
我最近开始尝试使用Spark和Java。我最初使用RDD完成了著名的WordCount示例，一切都按预期进行。现在我正在尝试实现我自己的示例，但使用的是DataFrames而不是RDD。所以我正在从文件中读取数据集DataFramedf=sqlContext.read().format("com.databricks.spark.csv").option("inferSchema","true").option("delimiter",";").option("header","true").load(inputFilePath);然后我尝试选择一个特定的列并对每一行应用一个简单的转换
