golang - go-sql-driver/mysql for rows.Next()的性能問題
問題描述
1.當查詢出來的記錄過萬時,遍歷Rows的時間過長,達到1分鐘甚至更多
程序代碼:
rows, err := p.conn.Query(sqlStr, params...)if err != nil { log.Println('mysql query error', err.Error()) return nil, err}log.Println('conn結束:', goutil.GetCurrentTime())//延時關閉Rowsdefer rows.Close()//獲取記錄列if columns, err := rows.Columns(); err != nil { return nil, err} else { //拼接記錄Map values := make([]sql.RawBytes, len(columns)) scans := make([]interface{}, len(columns)) for i := range values {scans[i] = &values[i] } //此處遍歷在3W記錄的時候,長達1分鐘甚至更多 for rows.Next() {_ = rows.Scan(scans...)each := map[string]interface{}{}for i, col := range values { each[columns[i]] = string(col)}rowMaps = append(rowMaps, each) } return rowMaps, nil}
問題解答
回答1:可以用創(chuàng)建多個goroutine 分段查詢數(shù)據(jù)。使用channl在線程中拿去查詢結構進行迭代。
回答2:這不是golang性能的問題,其他編程語言也會類似。一次性去拿三萬條記錄本來就是個不合理的需求,應該通過分頁來解決,一次只取幾十到幾百條。
相關文章:
1. 我的html頁面一提交,網頁便顯示出了我的php代碼,求問是什么原因?2. 我在centos容器里安裝docker,也就是在容器里安裝容器,報錯了?3. 數(shù)據(jù)庫 - 使用讀寫分離后, MySQL主從復制延遲會導致讀不到數(shù)據(jù)嗎?4. tp6表單令牌5. docker 17.03 怎么配置 registry mirror ?6. 老哥們求助啊7. django - 后臺返回的json數(shù)據(jù)經過Base64加密,獲取時用python如何解密~!8. node.js - node 客戶端socket一直報錯Error: read ECONNRESET,用php的socket沒問題哈。。9. 如何解決docker宿主機無法訪問容器中的服務?10. javascript - canvas 可以實現(xiàn) PS 魔法橡皮擦的功能嗎?
