Go 中高效讀寫 CSV 檔案
資料處理中的一個常見任務是以高效能方式讀寫 CSV 檔案。問題中提供的程式碼片段演示了一種讀取 CSV 檔案、處理資料並將其寫回的緩慢方法。潛在的低效率在於在處理之前將整個文件載入到記憶體中的方法。
為了優化程式碼,建議透過呼叫 .Read() 增量讀取檔案並一次處理一行。這可以防止整個檔案被載入到記憶體中,從而可以顯著提高效能,尤其是對於大檔案。
這是另一種方法:
func processCSV(rc io.Reader) (ch chan []string) {
ch = make(chan []string, 10)
go func() {
r := csv.NewReader(rc)
if _, err := r.Read(); err != nil { //read header
log.Fatal(err)
}
defer close(ch)
for {
rec, err := r.Read()
if err != nil {
if err == io.EOF {
break
}
log.Fatal(err)
}
ch 這種方法使用通道將記錄從讀取器 goroutine 傳遞到主 goroutine 進行處理,從而實現更有效率的增量處理方法。
透過採用這種技術,其中涉及讀取和增量處理數據,可以顯著提高 CSV 讀寫程式碼的效能。
免責聲明: 提供的所有資源部分來自互聯網,如果有侵犯您的版權或其他權益,請說明詳細緣由並提供版權或權益證明然後發到郵箱:[email protected] 我們會在第一時間內為您處理。
Copyright© 2022 湘ICP备2022001581号-3