亚洲精品久久久中文字幕-亚洲精品久久片久久-亚洲精品久久青草-亚洲精品久久婷婷爱久久婷婷-亚洲精品久久午夜香蕉

您的位置:首頁技術文章
文章詳情頁

Python爬蟲抓取指定網頁圖片代碼實例

瀏覽:4日期:2022-07-16 14:16:38

想要爬取指定網頁中的圖片主要需要以下三個步驟:

(1)指定網站鏈接,抓取該網站的源代碼(如果使用google瀏覽器就是按下鼠標右鍵 -> Inspect-> Elements 中的 html 內容)

(2)根據你要抓取的內容設置正則表達式以匹配要抓取的內容

(3)設置循環列表,重復抓取和保存內容

以下介紹了兩種方法實現抓取指定網頁中圖片

(1)方法一:使用正則表達式過濾抓到的 html 內容字符串

# 第一個簡單的爬取圖片的程序import urllib.request # python自帶的爬操作url的庫import re # 正則表達式# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機def getImage(page): # [^s]*? 表示最小匹配, 兩個括號表示列表中有兩個元組 # imageList = re.findall(r’(https:[^s]*?(png))'’, page) imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) x = 0 # 循環列表 for imageUrl in imageList: try: print(’正在下載: %s’ % imageUrl[0]) # 這個image文件夾需要先創建好才能看到結果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(imageUrl[0], image_save_path) x = x + 1 except: continue passif __name__ == ’__main__’: # 指定要爬取的網站 url = 'https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html' # 得到該網站的源代碼 page = getHtmlCode(url) # 爬取該網站的圖片并且保存 getImage(page) # print(page)

注意,代碼中需要修改的就是imageList = re.findall(r’(https:[^s]*?(jpg|png|gif))'’, page) 這一塊內容,如何設計正則表達式需要根據你想要抓取的內容設置。我的設計來源如下:

Python爬蟲抓取指定網頁圖片代碼實例

可以看到,因為這個網頁上的圖片都是 png 格式,所以寫成imageList = re.findall(r’(https:[^s]*?(png))'’, page)也是可以的。

(2)方法二:使用 BeautifulSoup 庫解析 html 網頁

from bs4 import BeautifulSoup # BeautifulSoup是python處理HTML/XML的函數庫,是Python內置的網頁分析工具import urllib # python自帶的爬操作url的庫# 該方法傳入url,返回url的html的源代碼def getHtmlCode(url): # 以下幾行注釋的代碼在本程序中有加沒加效果一樣,但是為了隱藏自己避免被反爬蟲可以假如這個偽裝的頭部請求 headers = { ’User-Agent’: ’Mozilla/5.0(Linux; Android 6.0; Nexus 5 Build/MRA58N) AppleWebKit/537.36(KHTML, like Gecko) Chrome/56.0.2924.87 Mobile Safari/537.36’ } # 將headers頭部添加到url,模擬瀏覽器訪問 url = urllib.request.Request(url, headers=headers) # 將url頁面的源代碼保存成字符串 page = urllib.request.urlopen(url).read() # 字符串轉碼 page = page.decode(’UTF-8’) return page# 該方法傳入html的源代碼,通過截取其中的img標簽,將圖片保存到本機def getImage(page): # 按照html格式解析頁面 soup = BeautifulSoup(page, ’html.parser’) # 格式化輸出DOM樹的內容 print(soup.prettify()) # 返回所有包含img標簽的列表,因為在Html文件中圖片的插入呈現形式是<img src='http://www.aoyou183.cn/bcjs/...' alt='..' /> imgList = soup.find_all(’img’) x = 0 # 循環找到的圖片列表,注意,這里手動設置從第2張圖片開始,是因為我debug看到了第一張圖片不是我想要的圖片 for imgUrl in imgList[1:]: print(’正在下載: %s ’ % imgUrl.get(’src’)) # 得到scr的內容,這里返回的就是Url字符串鏈接,如’https://img2020.cnblogs.com/blog/1703588/202007/1703588-20200716203143042-623499171.png’ image_url = imgUrl.get(’src’) # 這個image文件夾需要先創建好才能看到結果 image_save_path = ’./image/%d.png’ % x # 下載圖片并且保存到指定文件夾中 urllib.request.urlretrieve(image_url, image_save_path) x = x + 1if __name__ == ’__main__’: # 指定要爬取的網站 url = ’https://www.cnblogs.com/ttweixiao-IT-program/p/13324826.html’ # 得到該網站的源代碼 page = getHtmlCode(url) # 爬取該網站的圖片并且保存 getImage(page)

這兩種方法各有利弊,我覺得可以靈活結合使用這兩種方法,比如先使用方法2中指定標簽的方法縮小要尋找的內容范圍,然后再使用正則表達式匹配想要的內容,這樣做起來更加簡潔明了。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持好吧啦網。

標簽: Python 編程
相關文章:
主站蜘蛛池模板: 免费看91| 成人国产永久福利看片 | 久草在现 | 黄色永久网站 | 成人在线视频国产 | 动漫chinesehdxxxx 动漫男女交性动漫网站 | 国产麻豆网站 | 片在线观看 | 亚洲天堂爱爱 | www.黄色片网站 | 一级特黄毛片 | 久久久久嫩草影院精品 | 午夜激情视频在线观看 | 亚洲国产九九精品一区二区 | 免费看毛片软件 | 中文字幕在线观看一区二区 | 国产草草影院ccyycom软件 | 亚洲欧美精品伊人久久 | 青青草精品在线视频 | japanese护士日本xx丝袜 | 妞干网在线视频观看 | 久久精品国产自在一线 | 日韩精品欧美国产精品亚 | 国产精品视频一区二区噜噜 | 免费a级毛片网站 | 国产精品自产拍2021在线观看 | 亚洲久久网站 | 狠狠色丁香久久婷婷综合_中 | 日本精品久久久中文字幕 | 欧美色图自拍 | 亚洲精品不卡 | 精品亚洲成a人在线播放 | 欧美激情级毛片 | 亚洲加勒比久久88色综合1 | 久久九九精品一区二区 | 影音先锋ady69色资源网站 | 国产午夜精品片一区二区三区 | 日本伊人精品一区二区三区 | 久久www免费人成_看片美女图 | 免费的色视频 | 欧美黄色第一页 |