golang - go-sql-driver/mysql for rows.Next()的性能問題
問題描述
1.當(dāng)查詢出來的記錄過萬時(shí),遍歷Rows的時(shí)間過長(zhǎng),達(dá)到1分鐘甚至更多
程序代碼:
rows, err := p.conn.Query(sqlStr, params...)if err != nil { log.Println('mysql query error', err.Error()) return nil, err}log.Println('conn結(jié)束:', goutil.GetCurrentTime())//延時(shí)關(guān)閉Rowsdefer rows.Close()//獲取記錄列if columns, err := rows.Columns(); err != nil { return nil, err} else { //拼接記錄Map values := make([]sql.RawBytes, len(columns)) scans := make([]interface{}, len(columns)) for i := range values {scans[i] = &values[i] } //此處遍歷在3W記錄的時(shí)候,長(zhǎng)達(dá)1分鐘甚至更多 for rows.Next() {_ = rows.Scan(scans...)each := map[string]interface{}{}for i, col := range values { each[columns[i]] = string(col)}rowMaps = append(rowMaps, each) } return rowMaps, nil}
問題解答
回答1:可以用創(chuàng)建多個(gè)goroutine 分段查詢數(shù)據(jù)。使用channl在線程中拿去查詢結(jié)構(gòu)進(jìn)行迭代。
回答2:這不是golang性能的問題,其他編程語言也會(huì)類似。一次性去拿三萬條記錄本來就是個(gè)不合理的需求,應(yīng)該通過分頁來解決,一次只取幾十到幾百條。
相關(guān)文章:
1. list - python 求助2. linux - Ubuntu下編譯Vim8(+python)無數(shù)次編譯失敗3. python - TypeError: tryMsgcode() takes exactly 2 arguments (0 given)4. javascript - react,獲取radio的值出錯(cuò)5. css - 移動(dòng)端 line-height安卓錯(cuò)位,蘋果機(jī)正常用,縮放解決了,可是又出來了占位的問題6. extra沒有加載出來7. javascript - 彈出一個(gè)子窗口,操作之后關(guān)閉,主窗口會(huì)得到相應(yīng)的響應(yīng),例如網(wǎng)站的某些登錄界面,django后臺(tái)的管理等,這是怎么實(shí)現(xiàn)的呢?8. 環(huán)境搭建 - anaconda 創(chuàng)建python2.7環(huán)境中打開編譯器確是3.6版本9. mysql replace 死鎖10. 求救一下,用新版的phpstudy,數(shù)據(jù)庫過段時(shí)間會(huì)消失是什么情況?
