Python使用urlretrieve實現直接遠程下載圖片的示例代碼
在實現爬蟲任務時,經常需要將一些圖片下載到本地當中。那么在python中除了通過open()函數,以二進制寫入方式來下載圖片以外,還有什么其他方式嗎?本文將使用urlretrieve實現直接遠程下載圖片。
下面我們再來看看 urllib 模塊提供的 urlretrieve() 函數。urlretrieve() 方法直接將遠程數據下載到本地。
>>> help(urllib.urlretrieve)Help on function urlretrieve in module urllib: urlretrieve(url, filename=None, reporthook=None, data=None)
參數 finename 指定了保存本地路徑(如果參數未指定,urllib會生成一個臨時文件保存數據。)
參數 reporthook 是一個回調函數,當連接上服務器、以及相應的數據塊傳輸完畢時會觸發該回調,我們可以利用這個回調函數來顯示當前的下載進度。
參數 data 指 post 到服務器的數據,該方法返回一個包含兩個元素的(filename, headers)元組,filename 表示保存到本地的路徑,header 表示服務器的響應頭。
下面通過例子來演示一下這個方法的使用,這個例子將 google 的 html 抓取到本地,保存在 D:/google.html 文件中,同時顯示下載的進度。
import urllibdef cbk(a, b, c): ’’’回調函數 @a: 已經下載的數據塊 @b: 數據塊的大小 @c: 遠程文件的大小 ’’’ per = 100.0 * a * b / c if per > 100: per = 100 print ’%.2f%%’ % perurl = ’http://www.google.com’local = ’d://google.html’urllib.urlretrieve(url, local, cbk)
代碼實現
在python中除了使用open()函數實現圖片的下載,還可以通過urllib.request模塊中的urlretrieve實現直接遠程下載圖片的操作。以遠程下載某網頁外設產品圖片為例,代碼如下:
import requestsimport urllib.requestimport os # 系統模塊import shutil # 文件夾控制def download_pictures(url): headers = { 'user-agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_6) ' 'AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.129 Safari/537.36'} response = requests.get(url, headers=headers) # 發送網絡請求 獲取響應 if response.status_code == 200: # 判斷請求是否成功 # print(response.json()) # 每次獲取數據之前,先將保存圖片的文件夾清空 在創建目錄 if os.path.exists('img_download'): # 判斷文件夾是否存在 shutil.rmtree('img_download') # 存在則刪除 os.makedirs('img_download') # 重新創建 else: os.makedirs('img_download') # 不存在 直接創建 content = response.json()['products'] # 獲取響應內容 print(content) for index, item in enumerate(content): # 圖片地址 img_path = 'http://img13.360buyimg.com/n1/s320x320_' + item['imgPath'] # print(item['imgPath']) # 根據下標命名圖片名稱 urllib.request.urlretrieve(img_path, 'img_download/' + 'img' + str(index) + '.jpg') else: print('請求失敗')if __name__ == ’__main__’: download_pictures('https://ch.jd.com/hotsale2?cateid=686')
運行結果如下圖所示:
到此這篇關于Python使用urlretrieve實現直接遠程下載圖片的示例代碼的文章就介紹到這了,更多相關Python urlretrieve遠程下載內容請搜索好吧啦網以前的文章或繼續瀏覽下面的相關文章希望大家以后多多支持好吧啦網!
相關文章: