我无法理解 Java 中的 Spark 函数实现。 The documentation 给出了三种在 map 和 reduce 中使用函数的方法:

1. 通过 lambda
2. 通过实现 Function 和 Function2 的内联类
3. 通过实现 Function 和 Function2 的内部类

问题是我无法使 2. 和 3. 工作。 例如，这段代码:

public int countInline(String path) {

    String master = "local";
    SparkConf conf = new SparkConf().setAppName("charCounterInLine")
            .setMaster(master);
    JavaSparkContext sc = new JavaSparkContext(conf);
    JavaRDD<String> lines = sc.textFile(path);

    JavaRDD<Integer> lineLengths = lines
            .map(new Function<String, Integer>() {
                public Integer call(String s) {
                    return s.length();
                }
            });
    return lineLengths.reduce(new Function2<Integer, Integer, Integer>() {
        public Integer call(Integer a, Integer b) {
            return a + b;
        }
    }); // the line causing the error 
}

给我这个错误:

14/07/09 11:23:20 INFO DAGScheduler: Failed to run reduce at CharCounter.java:42
[WARNING]
java.lang.reflect.InvocationTargetException
        at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
        at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43)
        at java.lang.reflect.Method.invoke(Method.java:483)
        at org.codehaus.mojo.exec.ExecJavaMojo$1.run(ExecJavaMojo.java:297)
        at java.lang.Thread.run(Thread.java:745)
Caused by: org.apache.spark.SparkException: Job aborted due to stage failure: Task not serializable: java.io.NotSerializableException: Hadoop.Spark.basique.CharCounter
        at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$DAGScheduler$$failJobAndIndependentStages(DAGScheduler.scala:1033)
        at org.apache.spark.scheduler.DAGScheduler$$anonfun$abortStage$1.apply(DAGScheduler.scala:1017)
        at org.apache.spark.scheduler.DAGScheduler$$anonfun$abortStage$1.apply(DAGScheduler.scala:1015)
        at scala.collection.mutable.ResizableArray$class.foreach(ResizableArray.scala:59)
        at scala.collection.mutable.ArrayBuffer.foreach(ArrayBuffer.scala:47)
        at org.apache.spark.scheduler.DAGScheduler.abortStage(DAGScheduler.scala:1015)
        at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$DAGScheduler$$submitMissingTasks(DAGScheduler.scala:770)
        at org.apache.spark.scheduler.DAGScheduler.org$apache$spark$scheduler$DAGScheduler$$submitStage(DAGScheduler.scala:713)
        at org.apache.spark.scheduler.DAGScheduler.handleJobSubmitted(DAGScheduler.scala:697)
        at org.apache.spark.scheduler.DAGSchedulerEventProcessActor$$anonfun$receive$2.applyOrElse(DAGScheduler.scala:1176)
        at akka.actor.ActorCell.receiveMessage(ActorCell.scala:498)
        at akka.actor.ActorCell.invoke(ActorCell.scala:456)
        at akka.dispatch.Mailbox.processMailbox(Mailbox.scala:237)
        at akka.dispatch.Mailbox.run(Mailbox.scala:219)
        at akka.dispatch.ForkJoinExecutorConfigurator$AkkaForkJoinTask.exec(AbstractDispatcher.scala:386)
        at scala.concurrent.forkjoin.ForkJoinTask.doExec(ForkJoinTask.java:260)
        at scala.concurrent.forkjoin.ForkJoinPool$WorkQueue.runTask(ForkJoinPool.java:1339)
        at scala.concurrent.forkjoin.ForkJoinPool.runWorker(ForkJoinPool.java:1979)
        at scala.concurrent.forkjoin.ForkJoinWorkerThread.run(ForkJoinWorkerThread.java:107)

现在，我可以通过在公共(public)外部类中实现 Function 和 Function2 来避免这个问题。然而，这与其说是一个深思熟虑的决定，不如说是一个幸运的猜测。此外，由于我无法使文档示例正常工作，我想有些事情我不明白。

总而言之，我的问题是:

• 如何使 2. 和 3. 工作？
• 为什么只有 lambda 起作用？
• 还有其他方法可以使用函数吗？

最佳答案

这个 stracktrace 的相关部分是:

Task not serializable: java.io.NotSerializableException: Hadoop.Spark.basique.CharCounter

当您将函数定义为内部类时，它们的封闭对象将被拉入函数闭包并进行序列化。如果此类不可序列化或包含不可序列化字段，那么您将遇到此错误。

这里有几个选项:

• 将封闭对象的不可序列化字段标记为transient。
• 将您的函数定义为外部类。
• 将函数定义为 static nested classes .

关于java - 在 Spark 中使用 Function 实现的序列化问题，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/24650189/