jjzjj

spark-structured-streaming

全部标签

windows - winutils spark windows 安装 env_variable

我正在尝试在Windows10上安装Spark1.6.1,到目前为止我已经完成了以下操作......下载spark1.6.1,解压到某个目录,然后设置SPARK_HOME下载scala2.11.8,解压到某个目录,然后设置SCALA_HOME设置_JAVA_OPTION环境变量从https://github.com/steveloughran/winutils.git下载了winutils只需下载zip目录,然后设置HADOOP_HOME环境变量。(不确定这是否不正确,因为权限被拒绝,我无法克隆该目录)。当我回到sparkhome并运行bin\spark-shell时,我得到了'C:\

windows - 将 rtsp-stream 转换为 http 流

经常讨论,但到目前为止从未在使用当前版本的vlc或ffmpeg的Windows上工作。这些是我的流的属性:如何使用vlc或ffmpeg实现?我尝试了很多。太多了,无法一一列举。 最佳答案 我使用它通过ffmpeg将远程RTSP源转换为本地HLS流,它工作正常:ffmpeg-i"rtsp://yourRtspStreamSource"-hls_time3-hls_wrap10"yourOutputDir/streaming.m3u8"我还使用-t和-stimeout选项来控制该进程的超时。文档中有关HLSffmpeg的更多信息:htt

Spark 下载安装配置详解文档 (spark-2.4.8-bin-hadoop2.7.tgz)

下载安装配置spark:官网地址:https://archive.apache.org/dist/spark/上传spark-2.4.8-bin-hadoop2.7.tgz 解压tar-zxvfspark-2.4.8-bin-hadoop2.7.tgz-C/opt/moudel/重命名mvspark-2.4.8-bin-hadoop2.7spark-2.4.8配置环境变量vim/etc/profile#SPARK_HOMEexportSPARK_HOME=/opt/moudel/spark-2.4.8exportPATH=$PATH:$SPARK_HOME/bin执行source/etc/pr

windows - 带有 Hadoop 发行版的 Apache Spark 无法在 Windows 上运行

我尝试使用Cygwin在Windows上运行spark-1.5.1-bin-hadoop2.6发行版(以及具有相同结果的较新版本的Spark)。尝试在bin文件夹中执行spark-shell脚本时,我得到以下输出:错误:无法找到或加载主类org.apache.spark.launcher.Main我尝试将CLASSPATH设置为lib/spark-assembly-1.5.1-hadoop2.6.0.jar的位置,但无济于事。(仅供引用:我可以在我的MAC上运行相同的发行版,无需额外的设置步骤)请协助寻找在Windows上执行Cygwin的解决方案。 最佳答

python - 如何将 spark 与 python 或 jupyter 笔记本一起使用

我正在尝试在python中处理12GB的数据,我迫切需要使用Spark,但我想我太愚蠢了,不能自己使用命令行或使用互联网,这就是为什么我想我必须转向SO,所以到目前为止,我已经下载了spark并解压缩了tar文件或其他任何东西(对语言感到抱歉,但我觉得自己很愚蠢而且出局)但现在我无处可去。我在spark网站文档中看到了说明,上面写着:Spark还提供了一个PythonAPI。要在Python解释器中以交互方式运行Spark,请使用bin/pyspark但在哪里执行此操作?请帮忙。编辑:我正在使用Windows10注意::我在尝试安装某些东西时总是遇到问题,主要是因为我似乎无法理解命令提

Windows 批处理文件 : Convert Structures into Single Lines Strings

这个艰巨的任务我需要作为一个批处理文件来完成,它不是最难用C做的,但在DOS中是一个hell(至少对我来说!)我需要将一个结构转换为单个var(字符串)能够在我的程序中再次将它们转换为该结构。不要担心卷土重来,它已经完成了。该结构的大小会有所不同,并且在[0]内有一个索引,它需要成为我的var中的第一项。这里是这些结构的一个例子(只有3个):level.waypoints[0]=spawnstruct();level.waypoints[0].origin=(1774.5,834.7,67.6);level.waypoints[0].type="stand";level.waypoin

windows - 为什么 Zeppelin 0.6.2 笔记本在 Windows 上使用 Spark 2.0 失败并显示 "The input line is too long"?

我在带有Spark2.0的Windows中运行Zeppelin0.6.2SPARK_HOME=C:\Users\anbarasu.r\Desktop\Archive\spark-2.0.0-bin-hadoop2.6JavaHotSpot(TM)64-BitServerVMwarning:ignoringoptionMaxPermSize=512m;supportwasremovedin8.0SLF4J:ClasspathcontainsmultipleSLF4Jbindings.SLF4J:Foundbindingin[jar:file:/C:/Users/anbarasu.r/De

c# - 如何用最小的 C# 代码将一个 Stream 复制到一个字节数组?

到目前为止,我数了12个LoC。你能把它变小吗?using(StreamfileStream=File.OpenRead(fileName)){using(BinaryReaderbinaryReader=newBinaryReader(fileStream)){using(MemoryStreammemoryStream=newMemoryStream()){byte[]buffer=newbyte[256];intcount;inttotalBytes=0;while((count=binaryReader.Read(buffer,0,256))>0){memoryStream.W

c# - 是否有人围绕 StringBuilders 或 Streams 实现了 Regex 和/或 Xml 解析器?

我正在构建一个压力测试客户端,它使用客户端可以召集的尽可能多的线程来攻击服务器并分析响应。我经常发现自己受到垃圾收集(和/或缺乏垃圾收集)的限制,在大多数情况下,它归结为我实例化的字符串,只是为了将它们传递给Regex或Xml解析例程。如果反编译Regex类,您会看到在内部,它使用StringBuilder来做几乎所有事情,但您不能传递给它一个字符串生成器;它有助于在开始使用之前深入研究私有(private)方法,因此扩展方法也不会解决它。如果您想从System.Xml.Linq中的解析器中获取对象图,您会遇到类似的情况。这不是迂腐的提前过度优化的情况。我看过Regexreplacem

c# - Web Api 请求抛出 "Error while copying content to a stream."

我正在尝试实现这个codeexample,但得到一个HttpRequestException-“将内容复制到流时出错。”当调用ReadAsStringAsync()方法时。内部异常是“无法访问已处置的对象”。我正在使用Fiddler来发出请求。我不明白。有人可以解释为什么我会收到此异常并提供解决方案吗?网络API方法:publicasyncTaskPost(HttpRequestMessagerequest){try{varjsonString=awaitrequest.Content.ReadAsStringAsync();}catch(Exceptionex){throw;}ret