我们在写爬虫代码时,常常需要各种分析调试,而且每次直接用代码调试都很麻烦
所以今天给大家分享一个工具,不仅能方便模拟发送各种http请求,还能轻松调试,最重要的是,可以将调试最终结果自动转换成爬虫代码,它就是——Postman
postman以前是Chrome的插件,经过逐步演变,现在具备很好的跨平台性,完美支持MAC,Windows,Linux三大操作系统.不管你是哪种操作系统的用户,你都可以享受到Postman带来的便利
它还可以发送几乎所有类型的HTTP请求,可以在Postman界面里选择要发送的请求类型,接口地址,请求头信息以及向接口发送的入参.Postman完全是界面化的操作,非常直观.
当我们爬一些动态网页,或者测试一些接口时,只需勾选一些参数,就能测试出哪些参数是必须的,哪些参数是可以舍弃的
最后,我们可以将调试好的结果直接转换成我们需要的爬虫代码
测试完毕后,点击code
选择你需要的编程语言
以python为例,发现爬虫代码已自动生成,直接复制即可:
import requestsurl = "http://map.amap.com/service/subway"querystring = {"_1599997789354":"","srhdata":"1100_drw_beijing.json"}payload = ""headers = { 'cache-control': "no-cache", 'Postman-Token': "74188fdc-2156-4fbf-a300-39c94c0b6a67" }response = requests.request("GET", url, data=payload, headers=headers, params=querystring)print(response.text)
最后,Postman安装包已给大家准备好,请在公众号【python数据分析之禅】后台回复post获取