jjzjj

windows - 如何在 Windows 10 上逐步设置 Spark

coder 2024-06-17 原文

我尝试在 Windows 10 上设置 spark，在堆栈溢出方面发现了很多好的解决方案。因此，我正在尝试结合所有解决方案并创建标准化的安装步骤

最佳答案

安装前需要下载以下内容:

  1. JAVA JDK - http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html

  2. SBT 和 Scala - https://www.scala-lang.org/download/

  3. Winutils.exe - https://github.com/steveloughran/winutils/tree/master/hadoop-2.7.1

  4. Spark - https://spark.apache.org/downloads.html

下载完成后

安装和设置 java

当java安装完成后，则:

  1. 在C:​​\下创建文件夹BigData

  2. 从 "C:\Program Files\" 复制 “Java” 文件夹 --> "C:\"

  3. 然后创建名为“JAVA_HOME”的环境变量。

高级系统设置 --> 环境变量 --> 点击新建按钮

变量名:JAVA_HOME

变量值:C:\Java\jdk1.8.0_181

  1. 将bin添加到“路径”，进入高级系统设置-->环境变量-->点击路径-->点击新建-->写入

%JAVA_HOME%\bin

安装和设置 sbt 和 scala

安装sbt和scala，在文件夹C:\Bigdata下，安装完成后用sbt和scala

  1. 创建名为“SCALA_HOME”的环境变量。

高级系统设置 --> 环境变量 --> 点击新建按钮

变量名:SCALA_HOME

变量值:C:\BigData\scala

  1. 将bin添加到“路径”，进入高级系统设置-->环境变量-->点击路径-->点击新建- -> 写，

    %SCALA_HOME%\bin

为 Windows 设置 Hadoop 库

  1. 从上面提到的 git 链接下载 zip，然后从 git 解压下载的文件，然后从 “winutils-master\hadoop-2.7”复制 winutils.exe .1\bin”文件夹到C:\Bigdata\hadoop\bin

  2. 创建名为“HADOOP_HOME”的环境变量，高级设置 --> 环境变量 --> 点击新建

变量名:HADOOP_HOME

变量值:C:\BigData\hadoop

  1. 将bin添加到“路径”，进入高级设置-->环境变量-->点击路径-->点击新建，然后写入

%HADOOP_HOME%\bin

安装和设置 spark

解压下载的spark包，然后将文件夹复制到C:\Bigdata\，并将复制的文件夹重命名为“spark”。

  1. 创建名为“SPARK_HOME”的环境变量，

高级设置-->环境变量-->点击新建-->

变量名:SPARK_HOME

变量值:C:\BigData\spark

  1. 添加bin到Path，高级设置-->环境变量-->点击路径-->点击新建-->写入

%SPARK_HOME%\bin

  1. 现在在C:\下创建/tmp/hive目录，并通过以下命令设置权限:

打开cmd提示符:

mkdir c:\tmp

mkdir c:\tmp\hive

winutils chmod 777/tmp/hive

至此，设置完成。

转到 cmd 提示符并键入“spark-shell”以运行 spark。

我遇到的一些事情，它给出了问题:

  1. 您的计算机名称不应包含下划线，这会给我带来错误。

  2. 需要安装Java JDK，版本为Java 1.8.0_181

  3. 配置了多个 Java 版本，这给我带来了问题，应该只有一个 Java 版本需要配置。

关于windows - 如何在 Windows 10 上逐步设置 Spark，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/51895267/

何在逐步strongliHOMEwindowsapache-spark

有关windows - 如何在 Windows 10 上逐步设置 Spark的更多相关文章

  1. ruby - 使用 RubyZip 生成 ZIP 文件时设置压缩级别 - 2

    我有一个Ruby程序，它使用rubyzip压缩XML文件的目录树。gem。我的问题是文件开始变得很重，我想提高压缩级别，因为压缩时间不是问题。我在rubyzipdocumentation中找不到一种为创建的ZIP文件指定压缩级别的方法。有人知道如何更改此设置吗？是否有另一个允许指定压缩级别的Ruby库？ 最佳答案 这是我通过查看ruby​​zip内部创建的代码。level=Zlib::BEST_COMPRESSIONZip::ZipOutputStream.open(zip_file)do|zip|Dir.glob("**/*")d

  2. ruby - 如何在 Ruby 中顺序创建 PI - 2

    出于纯粹的兴趣，我很好奇如何按顺序创建PI，而不是在过程结果之后生成数字，而是让数字在过程本身生成时显示。如果是这种情况，那么数字可以自行产生，我可以对以前看到的数字实现垃圾收集，从而创建一个无限系列。结果只是在Pi系列之后每秒生成一个数字。这是我通过互联网筛选的结果:这是流行的计算机友好算法，类机器算法:defarccot(x,unity)xpow=unity/xn=1sign=1sum=0loopdoterm=xpow/nbreakifterm==0sum+=sign*(xpow/n)xpow/=x*xn+=2sign=-signendsumenddefcalc_pi(digits

  3. ruby - 在 Ruby 程序执行时阻止 Windows 7 PC 进入休眠状态 - 2

    我需要在客户计算机上运行Ruby应用程序。通常需要几天才能完成(复制大备份文件)。问题是如果启用sleep，它会中断应用程序。否则，计算机将持续运行数周，直到我下次访问为止。有什么方法可以防止执行期间休眠并让Windows在执行后休眠吗？欢迎任何疯狂的想法;-) 最佳答案 Here建议使用SetThreadExecutionStateWinAPI函数，使应用程序能够通知系统它正在使用中，从而防止系统在应用程序运行时进入休眠状态或关闭显示。像这样的东西:require'Win32API'ES_AWAYMODE_REQUIRED=0x0

  4. ruby-openid:执行发现时未设置@socket - 2

    我在使用omniauth/openid时遇到了一些麻烦。在尝试进行身份验证时，我在日志中发现了这一点:OpenID::FetchingError:Errorfetchinghttps://www.google.com/accounts/o8/.well-known/host-meta?hd=profiles.google.com%2Fmy_username:undefinedmethod`io'fornil:NilClass重要的是undefinedmethodio'fornil:NilClass来自openid/fetchers.rb，在下面的代码片段中:moduleNetclass

  5. ruby - 如何在 buildr 项目中使用 Ruby 代码？ - 2

    如何在buildr项目中使用Ruby？我在很多不同的项目中使用过Ruby、JRuby、Java和Clojure。我目前正在使用我的标准Ruby开发一个模拟应用程序，我想尝试使用Clojure后端(我确实喜欢功能代码)以及JRubygui和测试套件。我还可以看到在未来的不同项目中使用Scala作为后端。我想我要为我的项目尝试一下buildr(http://buildr.apache.org/)，但我注意到buildr似乎没有设置为在项目中使用JRuby代码本身!这看起来有点傻，因为该工具旨在统一通用的JVM语言并且是在ruby中构建的。除了将输出的jar包含在一个独特的、仅限ruby​​

  6. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们？ - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  7. ruby-on-rails - 如何在 ruby​​ 中使用两个参数异步运行 exe？ - 2

    exe应该在我打开页面时运行。异步进程需要运行。有什么方法可以在ruby​​中使用两个参数异步运行exe吗？我已经尝试过ruby​​命令-system()、exec()但它正在等待过程完成。我需要用参数启动exe，无需等待进程完成是否有任何ruby​​gems会支持我的问题？ 最佳答案 您可以使用Process.spawn和Process.wait2:pid=Process.spawn'your.exe','--option'#Later...pid,status=Process.wait2pid您的程序将作为解释器的子进程执行。除

  8. ruby - 如何在续集中重新加载表模式？ - 2

    鉴于我有以下迁移:Sequel.migrationdoupdoalter_table:usersdoadd_column:is_admin,:default=>falseend#SequelrunsaDESCRIBEtablestatement,whenthemodelisloaded.#Atthispoint,itdoesnotknowthatusershaveais_adminflag.#Soitfails.@user=User.find(:email=>"admin@fancy-startup.example")@user.is_admin=true@user.save!ende

  9. ruby-on-rails - 如何使用 instance_variable_set 正确设置实例变量？ - 2

    我正在查看instance_variable_set的文档并看到给出的示例代码是这样做的:obj.instance_variable_set(:@instnc_var,"valuefortheinstancevariable")然后允许您在类的任何实例方法中以@instnc_var的形式访问该变量。我想知道为什么在@instnc_var之前需要一个冒号:。冒号有什么作用？ 最佳答案 我的第一直觉是告诉你不要使用instance_variable_set除非你真的知道你用它做什么。它本质上是一种元编程工具或绕过实例变量可见性的黑客攻击

  10. ruby - 如何在 Ruby 中拆分参数字符串 Bash 样式？ - 2

    我正在为一个项目制作一个简单的shell，我希望像在Bash中一样解析参数字符串。foobar"helloworld"fooz应该变成:["foo","bar","helloworld","fooz"]等等。到目前为止，我一直在使用CSV::parse_line，将列分隔符设置为""和.compact输出。问题是我现在必须选择是要支持单引号还是双引号。CSV不支持超过一个分隔符。Python有一个名为shlex的模块:>>>shlex.split("Test'helloworld'foo")['Test','helloworld','foo']>>>shlex.split('Test"

随机推荐