Python requests及aiohttp速度對(duì)比代碼實(shí)例
環(huán)境:centos7 python3.6
測(cè)試網(wǎng)址:www.bai.com
測(cè)試方式:抓取百度100次
結(jié)果:
aio: 10.702147483825684srequests: 12.404678583145142s
異步框架的速度還是有顯著提升的。
下面貢獻(xiàn)代碼:
import aiohttpimport timeimport requestsimport asyncio def test_requests(): ''' 測(cè)試requessts請(qǐng)求百度100次時(shí)間 ''' start = time.time() url = 'https://www.baidu.com' for i in range(100): requests.get(url) end = time.time() print('requests:') print( end - start ) async def aio_download(url): ''' aiohttp 下載 ''' async with aiohttp.ClientSession() as session: await session.get(url) async def test_aio(): ''' 測(cè)試aiohtpp請(qǐng)求百度100次時(shí)間 ''' url = 'https://www.baidu.com' start = time.time() for i in range(100): await aio_download(url) end = time.time() print('aio: ') print( end - start ) if __name__ == '__main__': loop = asyncio.get_event_loop() loop.run_until_complete(test_aio()) test_requests()
————————————————————————————————————————
-—————————————————————————————————————————
小貼士:
requests不要使用session進(jìn)行反復(fù)抓取一個(gè)網(wǎng)站的測(cè)試,因?yàn)閺牡?次開始,讀取的就是緩存了,無論抓取50次還是100次或是更多,總時(shí)間都是1s以內(nèi)。
以上就是本文的全部內(nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持好吧啦網(wǎng)。
相關(guān)文章:
1. 使用css實(shí)現(xiàn)全兼容tooltip提示框2. 關(guān)于Mysql-connector-java驅(qū)動(dòng)版本問題總結(jié)3. 使用ProcessBuilder調(diào)用外部命令,并返回大量結(jié)果4. 通過工廠模式返回Spring Bean方法解析5. JSP實(shí)現(xiàn)客戶信息管理系統(tǒng)6. python:刪除離群值操作(每一行為一類數(shù)據(jù))7. python中HTMLParser模塊知識(shí)點(diǎn)總結(jié)8. CSS自定義滾動(dòng)條樣式案例詳解9. python 批量下載bilibili視頻的gui程序10. Ajax提交post請(qǐng)求案例分析
