jjzjj

http - 我认为我的文件上传连接正在关闭...为什么?

coder 2024-07-08 原文

免责声明:我不确定标题是否是我的实际问题,但这是对以下内容有意义的唯一原因。

场景

我正在将大型视频上传到我的 Golang 服务器。我有一个 8GB 的​​文件,在本地大约需要 15 分钟,并且运行良好。但是,在我的暂存服务器 (Google Cloud) 上,上传此文件需要一个多小时,这就是问题所在。

问题

我的客户端正在等待文件完成上传以便调用另一个 API 端点,但只有在登台服务器上才会失败。所以看起来当我的服务器正在寻找写入响应时,连接将不允许它,因为客户端显示 502 错误和 CORS 错误,我知道这是 Chrome 的说法“我们不知道,请检查您的服务器”。

代码

在我的 SrcHandler 中是这样的:

defer func(begin time.Time) {
        pr, pw := io.Pipe()
        defer pw.Close()

        if err := r.ParseMultipartForm(32 << 20); err != nil {
            http.Error(w, err.Error(), http.StatusBadRequest)
            fmt.Printf("%v\n", err)
            return
        }

        srcFile, handler, err := r.FormFile("video")
        if err != nil {
            http.Error(w, "INVALID_FILE", http.StatusBadRequest)
            return
        }
        defer srcFile.Close()

        // Copy uploaded file to *PipeWriter
        go func() {
            defer srcFile.Close()
            defer pw.Close()
            io.Copy(pw, srcFile)
        }()

        // Prep fileName
        var srcFileName = strings.Replace(handler.Filename, " ", "_", -1)
        var extension = filepath.Ext(srcFileName)
        srcFileName = srcFileName[0 : len(srcFileName)-len(extension)]

        // Create temp file to write too
        f, err := ioutil.TempFile("./tmp/pending", srcFileName+"_")
        if err != nil {
            log.Fatal(err)
        }
        defer f.Close()

        // Copy *PipeReader to temp file
        io.Copy(f, pr)

        contentType, err := getFileContentType("./" + f.Name())
        if err != nil {
            fmt.Printf("Content Type Error: %v\n", err)
            return
        }

        fmt.Printf("ContentType = %v\n ", contentType)
        if contentType != "video/x-flv" && contentType != "video/mp4" &&
            contentType != "video/quicktime" && contentType != "video/x-msvideo" &&
            contentType != "video/x-ms-wmv" && contentType != "video/webm" {
            http.Error(w, "INVALID_FILE_TYPE", http.StatusBadRequest)
            os.Remove(f.Name())
            return
        }

        fmt.Printf("Upload path -> %v\n", f.Name())
        upload := UploaderResponse{srcFileName, "./" + f.Name()}

        resp, err := json.Marshal(upload)
        if err != nil {
            fmt.Printf("Error using Marshal %v\n", err)
        }

        w.Header().Set("Content-Type", "application/json")
        w.WriteHeader(http.StatusOK)

        status, err2 := w.Write(resp)
        if err2 != nil {
            fmt.Printf("Error when writing response to app %v\n", err2)
        } else {
            fmt.Printf("Status from uploading: %v\n", status)
        }

        _ = u.logger.Log("upload.Handler Duration ", time.Since(begin))

    }(time.Now())

代码一直到最后一行,u.logger.Log() 这实际上显示了输出。因此视频已正确上传...仅响应客户端失败。有没有人有想法?

免责声明 2:我刚刚发现 w.Write 返回错误,所以我正在等待文件完成上传以查看是否记录了错误。将回复更新。

更新1

我上传了一个新文件,w.Write() 调用有效,返回了一个 91 整数。我不确定现在可能是什么问题。会不会是我不知道的某个地方超时了。仅供引用,我的服务器读取和写入超时均为 6 小时。

如果有帮助,这里是日志。使用输出跟踪代码应该很容易:

最佳答案

我大概提到了超时,但事实证明这个问题与代码无关。我偶然发现了另一个 SO post有同样的问题,但在 AWS 上。问题是负载均衡器超时。我使用了 Google Cloud's docs 中的说明将超时从默认的 30 秒增加到几个小时。具体来说,超时设置是对服务器等待多长时间向客户端发送响应的计数。

关于http - 我认为我的文件上传连接正在关闭...为什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56910656/

有关http - 我认为我的文件上传连接正在关闭...为什么?的更多相关文章

  1. ruby - 为什么我可以在 Ruby 中使用 Object#send 访问私有(private)/ protected 方法? - 2

    类classAprivatedeffooputs:fooendpublicdefbarputs:barendprivatedefzimputs:zimendprotecteddefdibputs:dibendendA的实例a=A.new测试a.foorescueputs:faila.barrescueputs:faila.zimrescueputs:faila.dibrescueputs:faila.gazrescueputs:fail测试输出failbarfailfailfail.发送测试[:foo,:bar,:zim,:dib,:gaz].each{|m|a.send(m)resc

  2. ruby-on-rails - Rails - 子类化模型的设计模式是什么? - 2

    我有一个模型:classItem项目有一个属性“商店”基于存储的值,我希望Item对象对特定方法具有不同的行为。Rails中是否有针对此的通用设计模式?如果方法中没有大的if-else语句,这是如何干净利落地完成的? 最佳答案 通常通过Single-TableInheritance. 关于ruby-on-rails-Rails-子类化模型的设计模式是什么?,我们在StackOverflow上找到一个类似的问题: https://stackoverflow.co

  3. ruby - 什么是填充的 Base64 编码字符串以及如何在 ruby​​ 中生成它们? - 2

    我正在使用的第三方API的文档状态:"[O]urAPIonlyacceptspaddedBase64encodedstrings."什么是“填充的Base64编码字符串”以及如何在Ruby中生成它们。下面的代码是我第一次尝试创建转换为Base64的JSON格式数据。xa=Base64.encode64(a.to_json) 最佳答案 他们说的padding其实就是Base64本身的一部分。它是末尾的“=”和“==”。Base64将3个字节的数据包编码为4个编码字符。所以如果你的输入数据有长度n和n%3=1=>"=="末尾用于填充n%

  4. ruby - 解析 RDFa、微数据等的最佳方式是什么,使用统一的模式/词汇(例如 schema.org)存储和显示信息 - 2

    我主要使用Ruby来执行此操作,但到目前为止我的攻击计划如下:使用gemsrdf、rdf-rdfa和rdf-microdata或mida来解析给定任何URI的数据。我认为最好映射到像schema.org这样的统一模式,例如使用这个yaml文件,它试图描述数据词汇表和opengraph到schema.org之间的转换:#SchemaXtoschema.orgconversion#data-vocabularyDV:name:namestreet-address:streetAddressregion:addressRegionlocality:addressLocalityphoto:i

  5. ruby - 为什么 4.1%2 使用 Ruby 返回 0.0999999999999996?但是 4.2%2==0.2 - 2

    为什么4.1%2返回0.0999999999999996?但是4.2%2==0.2。 最佳答案 参见此处:WhatEveryProgrammerShouldKnowAboutFloating-PointArithmetic实数是无限的。计算机使用的位数有限(今天是32位、64位)。因此计算机进行的浮点运算不能代表所有的实数。0.1是这些数字之一。请注意,这不是与Ruby相关的问题,而是与所有编程语言相关的问题,因为它来自计算机表示实数的方式。 关于ruby-为什么4.1%2使用Ruby返

  6. ruby-on-rails - 如果为空或不验证数值,则使属性默认为 0 - 2

    我希望我的UserPrice模型的属性在它们为空或不验证数值时默认为0。这些属性是tax_rate、shipping_cost和price。classCreateUserPrices8,:scale=>2t.decimal:tax_rate,:precision=>8,:scale=>2t.decimal:shipping_cost,:precision=>8,:scale=>2endendend起初,我将所有3列的:default=>0放在表格中,但我不想要这样,因为它已经填充了字段,我想使用占位符。这是我的UserPrice模型:classUserPrice回答before_val

  7. ruby - 如何模拟 Net::HTTP::Post? - 2

    是的,我知道最好使用webmock,但我想知道如何在RSpec中模拟此方法:defmethod_to_testurl=URI.parseurireq=Net::HTTP::Post.newurl.pathres=Net::HTTP.start(url.host,url.port)do|http|http.requestreq,foo:1endresend这是RSpec:let(:uri){'http://example.com'}specify'HTTPcall'dohttp=mock:httpNet::HTTP.stub!(:start).and_yieldhttphttp.shou

  8. ruby - ruby 中的 TOPLEVEL_BINDING 是什么? - 2

    它不等于主线程的binding,这个toplevel作用域是什么?此作用域与主线程中的binding有何不同?>ruby-e'putsTOPLEVEL_BINDING===binding'false 最佳答案 事实是,TOPLEVEL_BINDING始终引用Binding的预定义全局实例,而Kernel#binding创建的新实例>Binding每次封装当前执行上下文。在顶层,它们都包含相同的绑定(bind),但它们不是同一个对象,您无法使用==或===测试它们的绑定(bind)相等性。putsTOPLEVEL_BINDINGput

  9. ruby - 我可以使用 aws-sdk-ruby 在 AWS S3 上使用事务性文件删除/上传吗? - 2

    我发现ActiveRecord::Base.transaction在复杂方法中非常有效。我想知道是否可以在如下事务中从AWSS3上传/删除文件:S3Object.transactiondo#writeintofiles#raiseanexceptionend引发异常后,每个操作都应在S3上回滚。S3Object这可能吗?? 最佳答案 虽然S3API具有批量删除功能,但它不支持事务,因为每个删除操作都可以独立于其他操作成功/失败。该API不提供任何批量上传功能(通过PUT或POST),因此每个上传操作都是通过一个独立的API调用完成的

  10. ruby - Infinity 和 NaN 的类型是什么? - 2

    我可以得到Infinity和NaNn=9.0/0#=>Infinityn.class#=>Floatm=0/0.0#=>NaNm.class#=>Float但是当我想直接访问Infinity或NaN时:Infinity#=>uninitializedconstantInfinity(NameError)NaN#=>uninitializedconstantNaN(NameError)什么是Infinity和NaN?它们是对象、关键字还是其他东西? 最佳答案 您看到打印为Infinity和NaN的只是Float类的两个特殊实例的字符串

随机推荐