使用python批量轉(zhuǎn)換文件編碼為UTF-8的實(shí)現(xiàn)
由于這兩天換了IDE,在導(dǎo)入以前的工程的時(shí)候發(fā)現(xiàn)了一個(gè)大問(wèn)題,由于以前腦殘的我不知道改編碼方式,導(dǎo)致出現(xiàn)了大量的GBK,這就很難受,要是一個(gè)兩個(gè)還好說(shuō),可是這么多要是一個(gè)一個(gè)的改我會(huì)覺(jué)得現(xiàn)在的我比以前還腦殘,于是乎,我就想用python批量的修改一下,然后就產(chǎn)生了這篇文章,其中好多不足的地方還請(qǐng)大佬指導(dǎo)
本來(lái)一開(kāi)始的思路還是比較清晰,覺(jué)得也比較簡(jiǎn)單,天真的認(rèn)為用GBK的方式讀取出文件內(nèi)容,然后UTF8寫(xiě)入就好了,可是在實(shí)際的操作中我發(fā)現(xiàn)我就是太天真了,出現(xiàn)了大量的問(wèn)題,比如說(shuō):
怎么查看文件的編碼方式
好吧我承認(rèn)就出現(xiàn)了這一個(gè)問(wèn)題。
那么遇到問(wèn)題我們?cè)撛趺崔k呢,沒(méi)錯(cuò),Google,果然功夫不負(fù)會(huì)Google人,我看到了一個(gè)函數(shù),就是chardet.detect()函數(shù),當(dāng)然要導(dǎo)入chardet模塊,也就是pip,如果是Anaconda的環(huán)境當(dāng)我沒(méi)說(shuō),pip了不要打我。言歸正傳,這個(gè)函數(shù)是干嘛用的呢?
這個(gè)函數(shù)會(huì)返回一個(gè)含有三個(gè)鍵值對(duì)的字典類(lèi)型
‘encoding’: 編碼方式 ‘confidence’: 檢測(cè)的正確率 ‘language’ : 語(yǔ)言是不是看到encoding后眼前一亮,這樣取出encoding的值然后比較不知道是啥了,然后我就在一邊感嘆python的強(qiáng)大的第三方庫(kù)的支持一邊開(kāi)始了對(duì)這個(gè)函數(shù)的測(cè)試,先建兩個(gè)txt,然后臉滾鍵盤(pán),保存的時(shí)候一個(gè)是UTF-8,一個(gè)是GBK,值得竹注意的是讀取方式應(yīng)該是二進(jìn)制,也就是’rb’,接著就是興致勃勃地Ctrl Shift F10,出現(xiàn)了驚人的一幕:
{’encoding’: ’utf-8’, ’confidence’: 0.99, ’language’: ’’}
看看,看看這美麗的單引號(hào),然后直接和”utf-8”比較不就結(jié)束了,萬(wàn)萬(wàn)沒(méi)想到,他竟然是False,我還以為我看錯(cuò)了,就瘋狂Ctrl F5,等待奇跡的出現(xiàn),功夫不負(fù)有心人,果然,奇跡沒(méi)有出現(xiàn),于是我type了一下,嗯,果然是str類(lèi)型的,又試了下和”utf-8”比較不就結(jié)束了,沒(méi)錯(cuò),結(jié)果是True,你們聽(tīng)我解釋?zhuān)易蛱熳龅臅r(shí)候真不是這樣的,不管了,寫(xiě)都寫(xiě)了,按昨天的思路來(lái)吧,大家湊活看吧(不要打我),現(xiàn)在我們假設(shè)他是False,并且類(lèi)型是NoneType,并且轉(zhuǎn)為str后是None,你們要相信我昨天真的是這樣的!
好了就這樣吧,那既然是無(wú)法比較怎么辦呢,沒(méi)錯(cuò),拿出一開(kāi)始臉滾鍵盤(pán)的那兩個(gè)測(cè)試文件來(lái),用他們呢讀取出的字典的值作比較不就好了(一說(shuō)到這我就莫名的心痛),然后我們?cè)谙胍幌率前盐募幋a改為UTF-8,所以本來(lái)就是UTF-8的我們就不用管他,我都臉滾鍵盤(pán)的建測(cè)試文件了我還在意這些細(xì)節(jié)干嘛,不說(shuō)了,難受,效果圖也不貼了,直接上代碼你們自己看吧。。。
# coding utf-8import osimport chardet# 獲得所有java文件的路徑,傳入根目錄路徑def find_all_file(path: str) -> str: for root, dirs, files in os.walk(path): for f in files: if f.endswith(’.java’):fullname = os.path.join(root, f)yield fullname pass pass pass# 判斷是不是utf-8編碼方式def judge_coding(path: str) -> dict: with open(’utf.txt’, ’rb’) as f: # 刪除就行 utf = chardet.detect(f.read()) # 同上 with open(path, ’rb’) as f: c = chardet.detect(f.read()) if c != utf: # 改為 c != ’utf-8’ return c# 修改文件編碼方式def change_to_utf_file(path: str): for i in find_all_file(path): c = judge_coding(i) if c: change(i, c[’encoding’]) print('{} 編碼方式已從{}改為 utf-8'.format(i, c[’encoding’]))def change(path: str, coding: str): with open(path, ’r’, encoding=coding) as f: text = f.read() with open(path, ’w’, encoding=’utf-8’) as f: f.write(text)# 查看所有文件編碼方式def check(path: str): for i in find_all_file(path): with open(i, ’rb’) as f: print(chardet.detect(f.read())[’encoding’], ’: ’, i)def main(): my_path = ’C:WorkSpace’ change_to_utf_file(my_path) # check(my_path)if __name__ == ’__main__’: main()
到此這篇關(guān)于使用python批量轉(zhuǎn)換文件編碼為UTF-8的實(shí)現(xiàn)的文章就介紹到這了,更多相關(guān)python批量轉(zhuǎn)換UTF-8內(nèi)容請(qǐng)搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
1. 使用Python和百度語(yǔ)音識(shí)別生成視頻字幕的實(shí)現(xiàn)2. css代碼優(yōu)化的12個(gè)技巧3. CSS可以做的幾個(gè)令你嘆為觀止的實(shí)例分享4. msxml3.dll 錯(cuò)誤 800c0019 系統(tǒng)錯(cuò)誤:-2146697191解決方法5. 利用ajax+php實(shí)現(xiàn)商品價(jià)格計(jì)算6. xml中的空格之完全解說(shuō)7. Vue的Options用法說(shuō)明8. axios和ajax的區(qū)別點(diǎn)總結(jié)9. 怎樣才能用js生成xmldom對(duì)象,并且在firefox中也實(shí)現(xiàn)xml數(shù)據(jù)島?10. ASP刪除img標(biāo)簽的style屬性只保留src的正則函數(shù)
