jjzjj

go - 当我的goroutine数量较多时,代码会报错

coder 2024-07-13 原文

我的代码在少量的goroutine上工作正常,但是内存和指针会出现大量错误。我猜是我的锁使用不当。你能帮我看看我写的工具吗?调试了半天,无从下手。

我想过在clock函数上加读锁。但是还是会报错。我也试过用sync.Map。但是并没有解决问题


package main

import (
    "fmt"
    "io/ioutil"
    "net/http"
    "encoding/json"
    "strings"
    "sync"
    "time"
    "strconv"
)

type UrlArray struct {
    Url string `json:"url"`
    Method string `json:"method"`
    Params string `json:"params"`
}
type MsgRequest struct {
    Command string `json:"command"`
    Concurrent int `json:"concurrent"`
    IncrementalRatio float64 `json:"incrementalRatio"`
    InitialRatio float64 `json:"initialRatio"`
    Intervals int `json:"intervals"`
    UrlArray []UrlArray `json:"urls"`
}
type GroupData struct {
    TotalCount int `json:"totalCount"`
    FailCount int `json:"failCount"`
    SuccessRate float64 `json:"successRate"`
    CostTime float64 `json:"costTime"`
    AvergeTime float64 `json:"avergeTime"`
}
type MsgResponse struct {
    TimeObject map[string]GroupData `json:"timeObject"`
    TotalCount int `json:"totalCount"`
    FailCount int `json:"failCount"`
    SuccessRate float64 `json:"successRate"`
    CostTime float64 `json:"costTime"`
    AvergeTime float64 `json:"avergeTime"`
}
type LevelData struct {
    result map[string]GroupData
    sync.RWMutex
}
type ResultStatic struct {
    result map[string]MsgResponse 
}

var p = fmt.Println
var levelOutput LevelData
var output ResultStatic
var closeAllChan chan int
var isHandle = false


//write to map
func (r *LevelData) recordStatic(url string, status bool, useTimeSec float64) {
    r.Lock()
    defer r.Unlock()
    val, ok := r.result[url]
    if ok {
        val.TotalCount += 1
        val.CostTime += useTimeSec
        if status == false {
            val.FailCount += 1
        }
        val.SuccessRate = 1.00 - (float64(val.FailCount) * 1.00) / (float64(val.TotalCount) * 1.00) 
        val.AvergeTime = val.CostTime / float64(val.TotalCount)
        levelOutput.result[url] = val
        } else {
            failcnt := 0
            if status == false {
                failcnt = 1
            }
            successRate := float64(1 - failcnt)
            val := GroupData{TotalCount: 1, FailCount: failcnt, SuccessRate: successRate, CostTime: useTimeSec, AvergeTime: useTimeSec}
            levelOutput.result[url] = val
        }
}

//get request
func get(url string, params string) {
    start := time.Now()
    data := url + "?" + params
    response, err:= http.Get(data)
    end := time.Now()
    costTime := float64((end.Sub(start)).Seconds())

    if err != nil {
        levelOutput.recordStatic(url, false, costTime)
    } else {
        levelOutput.recordStatic(url, true, costTime)
    }

    defer response.Body.Close()
}   

// post request
func post(url string, params string) {
    start := time.Now()
    response, err := http.Post(url, "application/x-www-form-urlencoded", strings.NewReader(params))
    end := time.Now()
    costTime := float64((end.Sub(start)).Seconds())

    if err != nil {
        levelOutput.recordStatic(url, false, costTime)
    } else {
        levelOutput.recordStatic(url, true, costTime)
    }

    response.Body.Close()
}

//clock ticker
func (r *LevelData) clock(urlArrays []UrlArray, concurrent int, initialRatio float64, incrementalRatio float64, intervals int) {
    start := int(float64(concurrent) * initialRatio)
    increment := int(float64(concurrent) * incrementalRatio)
    ticker := time.NewTicker(time.Duration(intervals) * time.Second)
    endtotal := increment + concurrent
    objectKey := 0

    for range ticker.C {
        select {
        case <-closeAllChan:
            p("死循环退出")
            return 
        default:
            if objectKey != 0 {
                for _, v := range(urlArrays) {
                    val1, ok1 := output.result[v.Url]
                    p(val1, ok1)
                    if !ok1 {
                        val1 = MsgResponse{}
                        val1.TimeObject = make(map[string]GroupData)
                    }
                    val1.TimeObject[strconv.Itoa(objectKey)] = levelOutput.result[v.Url]

                    val1.TotalCount += (val1.TimeObject[strconv.Itoa(objectKey)]).TotalCount
                    val1.FailCount += (val1.TimeObject[strconv.Itoa(objectKey)]).FailCount
                    val1.CostTime += (val1.TimeObject[strconv.Itoa(objectKey)]).CostTime
                    val1.SuccessRate = 1.00 - (float64(val1.FailCount) * 1.00) / (float64(val1.TotalCount) * 1.00) 
                    val1.AvergeTime = val1.CostTime / float64(val1.TotalCount)
                    output.result[v.Url] = val1
                }
            } 

            levelOutput = LevelData{result: map[string]GroupData{}}

            if start >= endtotal {
                p("start == concurrent")
                close(closeAllChan)
                time.Sleep(time.Second)
                return
            }

            if objectKey == 0 {
                for i := 0; i < start; i++ {
                    go work(urlArrays)
                }
            } else {
                for i := 0; i < increment; i++ {
                    go work(urlArrays)
                }
            }

            objectKey += 1
            start += increment
        }
    }
}

//work
func work(urlArrays []UrlArray) {
    i := 0
    for {
        select {
        case <-closeAllChan:
            return 
        default:
            index := i % len(urlArrays)
            i++

            url := urlArrays[index].Url
            method := urlArrays[index].Method
            params := urlArrays[index].Params

            if method == "Get" {
                get(url, params)
            } else {
                post(url, params)
            } 
        }
    }
} 

func setupResponse(w *http.ResponseWriter, req *http.Request) {
    (*w).Header().Set("Access-Control-Allow-Origin", "*")
    (*w).Header().Set("Access-Control-Allow-Methods", "POST, GET, OPTIONS")
    (*w).Header().Set("Access-Control-Allow-Headers", "Accept, Content-Type, Content-Length, Accept-Encoding, X-CSRF-Token, Authorization")
}


func myfunc(w http.ResponseWriter, r *http.Request) {
    setupResponse(&w, r)
    if (r).Method == "OPTIONS" {
        return
    }

    b, err := ioutil.ReadAll(r.Body)
    defer r.Body.Close()
    if err != nil {
        http.Error(w, err.Error(), 501)
        return 
    }
    //json decode
    var msgs MsgRequest
    err = json.Unmarshal(b, &msgs)
    if err != nil {
        p(err.Error())
        http.Error(w, err.Error(), 502)
        return
    }

    var command = msgs.Command

    if command == "stop" {
        p("stop start")
        if isHandle {
            close(closeAllChan)
            isHandle = false 
        } else {
            p("no handle")
            http.Error(w, "未有数据在执行", 504)
            return
        }
    } else if command == "get" {
        p("get start")
        if isHandle {
            p(output.result)
            js, err := json.Marshal(output.result)
            if err != nil {
                http.Error(w, err.Error(), 503)
                return
            }
            w.Header().Set("Content-Type", "application/json")
            w.Write(js)
        } else {
            p("no handle")
            http.Error(w, "未有数据在执行", 504)
            return
        }
    } else {
        isHandle = true
        closeAllChan = make(chan int)
        output = ResultStatic{result: map[string]MsgResponse{}}
        urlArrays := msgs.UrlArray
        concurrent := msgs.Concurrent
        initialRatio := msgs.InitialRatio
        incrementalRatio := msgs.IncrementalRatio
        intervals := msgs.Intervals
        levelOutput.clock(urlArrays, concurrent, initialRatio, incrementalRatio, intervals)
        isHandle = false
        js, err := json.Marshal(output.result)
        if err != nil {
            http.Error(w, err.Error(), 503)
            return 
        }
        p(output.result)

        w.Header().Set("Content-Type", "application/json")
        w.Write(js) 
    }
    return
}

func main() {
    http.HandleFunc("/handle", myfunc)
    err := http.ListenAndServe(":8080", nil)
    if err != nil {
        panic(err)
    }
}


// json example
// {
//  "command": "handle/get/stop",
//  "concurrent": 100,
//  "initialRatio": 0.60,
//  "incrementalRatio": 0.20,
//  "intervals": 10,
//  "urls": [
//      {
//          "url": "http://google.com",
//          "method": "GET",
//          "params": ""    
//      }
//  ]
// }

panic: runtime error: invalid memory address or nil pointer dereference
[signal SIGSEGV: segmentation violation code=0x1 addr=0x40 pc=0x6782c4]

goroutine 64655 [running]:
main.post(0xc00001e0c0, 0x3c, 0xc000188510, 0x2f)
    /root/toolv2.go:114 +0x1b4
main.work(0xc000391380, 0x1, 0x4)
    /root/toolv2.go:193 +0xcf
created by main.(*LevelData).clock
    /root/toolv2.go:161 +0x657
exit status 2

最佳答案

“无效内存地址或零指针取消引用”并不表示数据竞争。您正在取消引用一个 nil 的指针:

func post(url string, params string) {
    start := time.Now()
    response, err := http.Post(url, "application/x-www-form-urlencoded", strings.NewReader(params))
    end := time.Now()
    costTime := float64((end.Sub(start)).Seconds())

    if err != nil {
        levelOutput.recordStatic(url, false, costTime)
    } else {
        levelOutput.recordStatic(url, true, costTime)
    }

    response.Body.Close()
}

发生错误后,您不得取消引用 response,因为那时 response 为 nil。

关于go - 当我的goroutine数量较多时,代码会报错,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/55916496/

有关go - 当我的goroutine数量较多时,代码会报错的更多相关文章

  1. ruby - 如何在 buildr 项目中使用 Ruby 代码? - 2

    如何在buildr项目中使用Ruby?我在很多不同的项目中使用过Ruby、JRuby、Java和Clojure。我目前正在使用我的标准Ruby开发一个模拟应用程序,我想尝试使用Clojure后端(我确实喜欢功能代码)以及JRubygui和测试套件。我还可以看到在未来的不同项目中使用Scala作为后端。我想我要为我的项目尝试一下buildr(http://buildr.apache.org/),但我注意到buildr似乎没有设置为在项目中使用JRuby代码本身!这看起来有点傻,因为该工具旨在统一通用的JVM语言并且是在ruby中构建的。除了将输出的jar包含在一个独特的、仅限ruby​​

  2. ruby-on-rails - Rails 源代码 : initialize hash in a weird way? - 2

    在rails源中:https://github.com/rails/rails/blob/master/activesupport/lib/active_support/lazy_load_hooks.rb可以看到以下内容@load_hooks=Hash.new{|h,k|h[k]=[]}在IRB中,它只是初始化一个空哈希。和做有什么区别@load_hooks=Hash.new 最佳答案 查看rubydocumentationforHashnew→new_hashclicktotogglesourcenew(obj)→new_has

  3. ruby-on-rails - 如何在我的 Rails 应用程序 View 中打印 ruby​​ 变量的内容? - 2

    我是一个Rails初学者,但我想从我的RailsView(html.haml文件)中查看Ruby变量的内容。我试图在ruby​​中打印出变量(认为它会在终端中出现),但没有得到任何结果。有什么建议吗?我知道Rails调试器,但更喜欢使用inspect来打印我的变量。 最佳答案 您可以在View中使用puts方法将信息输出到服务器控制台。您应该能够在View中的任何位置使用Haml执行以下操作:-puts@my_variable.inspect 关于ruby-on-rails-如何在我的R

  4. ruby-on-rails - 浏览 Ruby 源代码 - 2

    我的主要目标是能够完全理解我正在使用的库/gem。我尝试在Github上从头到尾阅读源代码,但这真的很难。我认为更有趣、更温和的踏脚石就是在使用时阅读每个库/gem方法的源代码。例如,我想知道RubyonRails中的redirect_to方法是如何工作的:如何查找redirect_to方法的源代码?我知道在pry中我可以执行类似show-methodmethod的操作,但我如何才能对Rails框架中的方法执行此操作?您对我如何更好地理解Gem及其API有什么建议吗?仅仅阅读源代码似乎真的很难,尤其是对于框架。谢谢! 最佳答案 Ru

  5. ruby - 模块嵌套代码风格偏好 - 2

    我的假设是moduleAmoduleBendend和moduleA::Bend是一样的。我能够从thisblog找到解决方案,thisSOthread和andthisSOthread.为什么以及什么时候应该更喜欢紧凑语法A::B而不是另一个,因为它显然有一个缺点?我有一种直觉,它可能与性能有关,因为在更多命名空间中查找常量需要更多计算。但是我无法通过对普通类进行基准测试来验证这一点。 最佳答案 这两种写作方法经常被混淆。首先要说的是,据我所知,没有可衡量的性能差异。(在下面的书面示例中不断查找)最明显的区别,可能也是最著名的,是你的

  6. ruby - 寻找通过阅读代码确定编程语言的ruby gem? - 2

    几个月前,我读了一篇关于ruby​​gem的博客文章,它可以通过阅读代码本身来确定编程语言。对于我的生活,我不记得博客或gem的名称。谷歌搜索“ruby编程语言猜测”及其变体也无济于事。有人碰巧知道相关gem的名称吗? 最佳答案 是这个吗:http://github.com/chrislo/sourceclassifier/tree/master 关于ruby-寻找通过阅读代码确定编程语言的rubygem?,我们在StackOverflow上找到一个类似的问题:

  7. ruby - 我可以将我的 README.textile 以正确的格式放入我的 RDoc 中吗? - 2

    我喜欢使用Textile或Markdown为我的项目编写自述文件,但是当我生成RDoc时,自述文件被解释为RDoc并且看起来非常糟糕。有没有办法让RDoc通过RedCloth或BlueCloth而不是它自己的格式化程序运行文件?它可以配置为自动检测文件后缀的格式吗?(例如README.textile通过RedCloth运行,但README.mdown通过BlueCloth运行) 最佳答案 使用YARD直接代替RDoc将允许您包含Textile或Markdown文件,只要它们的文件后缀是合理的。我经常使用类似于以下Rake任务的东西:

  8. jquery - 我的 jquery AJAX POST 请求无需发送 Authenticity Token (Rails) - 2

    rails中是否有任何规定允许站点的所有AJAXPOST请求在没有authenticity_token的情况下通过?我有一个调用Controller方法的JqueryPOSTajax调用,但我没有在其中放置任何真实性代码,但调用成功。我的ApplicationController确实有'request_forgery_protection'并且我已经改变了config.action_controller.consider_all_requests_local在我的environments/development.rb中为false我还搜索了我的代码以确保我没有重载ajaxSend来发送

  9. ruby - Net::HTTP 获取源代码和状态 - 2

    我目前正在使用以下方法获取页面的源代码:Net::HTTP.get(URI.parse(page.url))我还想获取HTTP状态,而无需发出第二个请求。有没有办法用另一种方法做到这一点?我一直在查看文档,但似乎找不到我要找的东西。 最佳答案 在我看来,除非您需要一些真正的低级访问或控制,否则最好使用Ruby的内置Open::URI模块:require'open-uri'io=open('http://www.example.org/')#=>#body=io.read[0,50]#=>"["200","OK"]io.base_ur

  10. java - 我的模型类或其他类中应该有逻辑吗 - 2

    我只想对我一直在思考的这个问题有其他意见,例如我有classuser_controller和classuserclassUserattr_accessor:name,:usernameendclassUserController//dosomethingaboutanythingaboutusersend问题是我的User类中是否应该有逻辑user=User.newuser.do_something(user1)oritshouldbeuser_controller=UserController.newuser_controller.do_something(user1,user2)我

随机推荐