文章詳情頁
python - Scrapy的spider在IDE中方便運行調試
瀏覽:62日期:2022-06-27 11:03:29
問題描述
我有很多spider,不能每次調試都手動創建一個debugger吧(scrapy crawl spider_name)
想可以在spider文件中直接右鍵運行/調試。
問題解答
回答1:參考文章:Scrapy爬蟲常見問題總結
spider方便運行/調試在spider文件中,加入cmdline的調用方法
import scrapy.cmdline#Your Spider Class...def main(): scrapy.cmdline.execute([’scrapy’, ’crawl’, ’your_spider_name’])if __name__ == ’__main__’: main()回答2:
新建一個py文件,用這個來調試
from scrapy.cmdline import executeimport sysimport ossys.path.append(os.path.dirname(os.path.abspath(__file__)))execute(['scrapy','crawl','YOUR_SPIDER'])
相關文章:
1. macos - mac下docker如何設置代理2. java - 請問在main方法中寫成對象名.屬性()并賦值,與直接參參數賦值輸錯誤是什么原因?3. MySQL數據庫中文亂碼的原因4. 關docker hub上有些鏡像的tag被標記““This image has vulnerabilities””5. docker不顯示端口映射呢?6. docker - 各位電腦上有多少個容器啊?容器一多,自己都搞混了,咋辦呢?7. android studio總是在processes running好久8. angular.js - 關于$apply()9. docker-compose 為何找不到配置文件?10. dockerfile - 我用docker build的時候出現下邊問題 麻煩幫我看一下
排行榜
