亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術(shù)文章
文章詳情頁

解決python 使用openpyxl讀寫大文件的坑

瀏覽:5日期:2022-06-25 09:29:35

由于需要處理xlsx類型的文件,我使用了openpyxl來處理,然而文件比較大,大約有60多MB。讀文件的時(shí)候雖然慢了一點(diǎn),但還是能夠讀出來,但是當(dāng)我想寫入時(shí)卻報(bào)錯了。

解決python 使用openpyxl讀寫大文件的坑

顯示設(shè)備沒有多余的空間,百度了一下,發(fā)現(xiàn)有不少關(guān)于openpyxl讀寫大文件的問題。總結(jié)來看,解決方案主要有以下兩種,當(dāng)然,我兩種都用上了。

手動釋放內(nèi)存

del wb, wsgc.collect()

這一招還算有用,在讀完文件后可以看到內(nèi)存占用明顯下降了一點(diǎn)。

安裝lxml

使用命令·pip install lxml安裝依賴

這個(gè)依賴并非必須安裝的依賴,但是可以使openpyxl流式處理數(shù)據(jù)。

總之使用了以上兩種方案后,終于可以成功處理數(shù)據(jù)了。

補(bǔ)充:openpyxl讀取大文件的若干問題

需要編寫一個(gè)EXCEL文件對比工具

excel文件通常8MB,300張左右的表,每張表實(shí)際范圍為ZZ500.

使用openpyxl對表格進(jìn)行遍歷,完成兩個(gè)表之間的對比,找出公式不相同的單元格編程中遇到若干問題

1、讀取時(shí)報(bào)錯,錯誤代碼忘記了,原因是通過數(shù)組的方式讀取了一個(gè)不存在的數(shù)值

如 SS[’AA’],這個(gè)數(shù)值沒有定義,因此報(bào)錯(PHP直接返回空值),使用SS.get(’AA’,null)進(jìn)行修改

D:Python34Libsite-packagesopenpyxlreaderstyle.py

164: format_code = builtin_formats.get(numFmtId,’General’)2、讀取時(shí)內(nèi)存占用過大

基本就是內(nèi)存占用了2G以上以后,程序就不動了,原因是某些表格的表格范圍識別的非常大,最大可為ZZ65535

通過研究,代碼進(jìn)行了如下修改

1:使用X64版本,X64版本在運(yùn)行時(shí),可以運(yùn)行4G以內(nèi)內(nèi)存占用的程序,比2G大一倍,能夠完成大部分表格的讀取,如ZZ5000,但是遇到ZZ65535范圍的表格,內(nèi)存占用達(dá)到了4G+,也會導(dǎo)致程序停止運(yùn)行.

2:限制最大單元格遍歷范圍,最大限制為ZZ5000,能夠有效降低內(nèi)存占用

3:定時(shí)重新讀取EXCEL文件(如每對比30張表),釋放內(nèi)存,(Python內(nèi)存釋放真的很痛苦,全部是指針引用,A=B,DEL A;是不會釋放空間的,要DEL B才行).

4:雖然openpyxl讀取文件時(shí)有個(gè)只讀模式(性能模式),但是速度實(shí)在是太慢了.

通過代碼修改,現(xiàn)在完成文件對比所用的內(nèi)存通常在2G以內(nèi)

以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持好吧啦網(wǎng)。如有錯誤或未考慮完全的地方,望不吝賜教。

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 大学生久久香蕉国产线观看 | 黄在线视频播放免费网站 | 成年人黄色大片 | 国内视频在线 | 亚洲大片 | 曰本又色又爽又黄三级视频 | 精品国产免费观看 | 成人网址 | 日韩日韩日韩日韩日韩 | 亚洲 日本 欧美 中文幕 | 麻豆影视在线 | 小馒头刚发育在线播放free | 欧美一区二区三区视频在线观看 | 国产亚洲99影院 | 亚洲国产精品人久久 | 全黄一级裸片视频免费 | 国产一区二区三区 | 成人久久伊人精品伊人 | 男女性黄色 | 91视频国产精品 | 黄色在线免费网站 | 欧美成人免费草草影院视频 | 日韩精品一区二区三区免费观看 | 国产性老妇女做爰在线 | 欧美日韩一区二区在线观看视频 | 亚洲黄色官网 | 国产亚洲一区二区精品张柏芝 | 婷婷在线综合 | 日本特黄高清免费大片爽 | 一区二区三区高清视频在线观看 | 国产综合精品一区二区 | 久热香蕉精品视频在线播放 | 成人午夜视频一区二区国语 | 国产一级毛片免 | 国产专区一线二线三线 | 日本一级片在线播放 | 国产在线精品福利一区二区三区 | 亚州中文字幕 | 婷婷色影院 | 性色毛片免费视频 | 亚洲性色综合图区图片 |