python测试工具开发面试宝典3web抓取

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

用requests输出网站返回头

输出 'https://china-testing.github.io/' 的返回头

  • 参考答案
In [1]: import requestsIn [2]: url = 'https://china-testing.github.io/'In [3]: response = requests.get(url)In [4]: response.request.headers
Out[4]: {'User-Agent': 'python-requests/2.18.4', 'Accept-Encoding': 'gzip, deflate', 'Accept': '*/*', 'Connection': 'keep-alive'}

requests是HTTP访问极其重要的库,比较常用的属性有:response.status_code、response.text。

更多参考资料:python工具库介绍-requests:人性化的HTTP

用Requests和BeautifulSoup爬取博客标题

爬取 https://china-testing.github.io/ 首页的博客标题,共10条.

  • 参考答案
# -*- coding: utf-8 -*-
# 讨论钉钉免费群21745728 qq群144081101 567351477
# CreateDate: 2018-10-16import requests
from bs4 import BeautifulSoupdef get_upcoming_events(url):req = requests.get(url)soup = BeautifulSoup(req.text, 'lxml')events = soup.findAll('article')for event in events:event_details = {}event_details['name'] = event.find('h1').find("a").textprint(event_details)get_upcoming_events('https://china-testing.github.io/')

执行结果:


$ python3 blogs.py
{'name': '接口自动化性能测试线上培训大纲'}
{'name': '2018最佳人工智能图像处理工具OpenCV书籍下载'}
{'name': 'IBM开发社区python精品文章汇总'}
{'name': 'python工具库介绍-requests:人性化的HTTP'}
{'name': '中草药的故事-金银花(标准中药)- 清热解毒,疏散风热'}
{'name': '中草药的故事-合欢花(标准中药)'}
{'name': '中草药的故事-吴茱萸(标准中药)'}
{'name': '[雪峰磁针石博客]python3快速入门教程9重要的标准库-高级篇'}
{'name': '[雪峰磁针石博客]python3快速入门教程11命令行自动化工具与pexpect'}
{'name': '[雪峰磁针石博客]python3快速入门教程9重要的标准库-基础篇'}

BeautifulSoup的默认解析器为html.parser,处理大页面比较吃力,为此使用lxml。解释器html5lib的行为和浏览器表现类似。

最新代码地址

https://github.com/china-testing/python-api-tesing/blob/master/python-automation-cook/ch3/blogs.py

selenium访问'https://httpbin.org/forms/post'

用selenium访问'https://httpbin.org/forms/post',填充内容

图片.png

  • 参考答案
# 讨论钉钉免费群21745728 qq群144081101 567351477
# CreateDate: 2018-10-16from selenium import webdriver
import timebrowser = webdriver.Chrome()
browser.get('https://httpbin.org/forms/post')
custname = browser.find_element_by_name("custname")
custname.clear()
custname.send_keys("python测试开发")time.sleep(2)
for size_element in browser.find_elements_by_name("size"):  if size_element.get_attribute('value') == 'medium':size_element.click()time.sleep(2)        
for topping in browser.find_elements_by_name('topping'):if topping.get_attribute('value') in ['bacon', 'cheese']:topping.click()time.sleep(2)           
browser.find_element_by_tag_name('form').submit()

执行结果

{"args": {}, "data": "", "files": {}, "form": {"comments": "", "custemail": "", "custname": "python\u6d4b\u8bd5\u5f00\u53d1", "custtel": "", "delivery": "", "size": "medium", "topping": ["bacon", "cheese"]}, "headers": {"Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8", "Accept-Encoding": "gzip, deflate, br", "Accept-Language": "zh-CN,zh;q=0.9", "Cache-Control": "max-age=0", "Connection": "close", "Content-Length": "132", "Content-Type": "application/x-www-form-urlencoded", "Host": "httpbin.org", "Origin": "https://httpbin.org", "Referer": "https://httpbin.org/forms/post", "Upgrade-Insecure-Requests": "1", "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36"}, "json": null, "origin": "183.62.236.90", "url": "https://httpbin.org/post"
}

转载于:https://my.oschina.net/u/1433482/blog/2247004

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/537694.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

计算机网络本直通线的制作方法,电脑网络:教你一分钟自制高质量网线(含水晶头分类),不求人...

在文章开头,我们首先来介绍一下制作水晶头需要用到的工具——网线钳。这不是多么高科技的东西,价格也不贵,普通用户都能接受,从网上或是线下都能买到。网线水晶头的制作及检测方法,从来没人写过这么全我们主要用到网线…

Communications link failure,The last packet successfully received from the serve

最近做测试,发现Mysql 过一段时间会无法连接,导致数据库数据不一至,极其郁闷。 使用Connector/J连接MySQL数据库,程序运行较长时间后就会报以下错误: Communications link failure,The last packet succ…

sap crm button_正值SAP中国成立25周年之际,江苏金来奇智能科技SAPB1项目正式启动...

正值SAP中国成立25周年之际,江苏金来奇智能科技的SAP项目于2020年11月02日正式启动,代表着SAPB1在智能装备行业又一成功的案例。江苏金来奇隶属于无锡金鑫集团股份有限公司,无锡金鑫集团股份有限公司坐落于风景秀丽的太湖之滨,位于…

安装hadoop集群---resourcemanager和NameNode不在同一台机器上

1、复制虚拟机,搞了5台。 1:namenode 2:secondardNameNode,resourcemanager 3,4,5:DataNode 2、修改了网卡配置,连接上SecureCRT ---------root----用户---------- 3、date查看了…

cf375D. Tree and Queries(莫队)

题意 题目链接 给出一棵 n 个结点的树,每个结点有一个颜色 c i 。 询问 q 次,每次询问以 v 结点为根的子树中,出现次数 ≥k 的颜色有多少种。树的根节点是1。 Sol 想到了主席树和启发式合并。。很显然都不能做。 标算是dfs序上暴力莫队。。甘…

it项目管理 pdf_IT项目管理的控制经验

据调查,只有37%的IT项目在计划时间内完成,42%的在预算内完成。IT项目成功率不高的根源在于IT项目管理是项系统工程,不仅需要项目经理个人具备一定的组织、决策、技术、业务、沟通能力,更需要运用多种手段对项目的时间、质量、成本…

安装hadoop集群---resourcemanager和NameNode同一台机器上

1、复制虚拟机,搞了5台。 1:namenode,resourcemanager 2:secondardNameNode 3,4,5:DataNode 2、修改了网卡配置,连接上SecureCRT ---------root----用户---------- 3、date查看了…

ps把图抠到html里,ps抠图教程:手把手教你如何用ps抠头发丝

PS抠图是现在常见的抠图方法之一,色块分明的图是很好抠的,但是如果是需要抠出来的物体是细微凌乱的呢?就像头发丝。PS如何抠头发丝才能毫无P图痕迹?如何抠头发丝一类的图像呢,本文介绍的是使用通道结合其余一些命令完成…

臻识科技用全智能相机,把智慧城市的交通/安防/工业制造做到极致

俨然,智慧城市已经是一个技术密集、资本密集、巨头密集、关注度密集的大热门领域。 从技术层面来看,智慧城市对当下热门技术进行了综合:Cloud、Big Data、AI、AR/VR、5G、IoT、Quantum Computing、Edge Computing、 Block Chain等&#xff0…

热式气体质量流量计检定规程_宁夏热式气体质量流量计价位,玻璃管液位计怎么样...

金湖中原仪表有限公司为您详细解读eJxKfc宁夏热式气体质量流量计价位的相关知识与详情,气体流量计是计量气体流量的仪表。安拆正在管路中记载流过的气体量。能够丈量煤气,空气,氮气,乙炔,,氢气,…

自己从零安装hadoop-HA集群

总体步骤 1、分配机器,各安装什么软件 2、每个节点设置时间一致,设置开机自动校验时间。 3、每个节点修改主机名。 4、每个节点配置hosts。 5、每个节点关闭防火墙。 6、上传JDK,配置JDK 7、创建hadoop用户。 8、给hadoop用户配置root…

高校学计算机研究生录取分数排名,四川大学计算机学院2018年硕士研究生招生拟录取名单及成绩公示...

该楼层疑似违规已被系统折叠 隐藏此楼查看此楼四川大学计算机学院2018年硕士研究生招生拟录取名单公示(全日制)姓名 拟录取专业 总成绩 初试成绩 复试成绩 备注白迪 计算机技术 75.3 353 160白婉玉 计算机技术 79.35 369 169.8曾春明 计算机技术 74.7 350 158.8陈澄 计算机技术…

蓝牙基础知识进阶——Physical channel

蓝牙基础知识进阶——Physical channel二、物理通道物理通道是piconet区分的标准,它是蓝牙系统结构层次中的最底层了。Q1:物理通道有哪些类型物理通道通常可以分为四种类型:1、basicpiconet channel2、adaptedpiconet channel这两种channel是…

mapreduce程序开发的一些总结

mapreduce在编程的时候,基本上一个固化的模式,没有太多可灵活改变的地方,除了以下几处: 1、输入数据接口:InputFormat ---> FileInputFormat(文件类型数据读取的通用抽象类) DBInputFormat (数据库数据读…

深度学习数据驱动_利用深度学习实现手绘数据可视化的生成

前一段时间,我开发了Sketchify, 该工具可以把任何以SVG为渲染技术的可视化转化为手绘风格。(参考手绘风格的数据可视化实现 Sketchify)那么问题来了,很多的chart是以Canvas为渲染技术的,那要怎么办&#xf…

远程计算机无法操作,win7系统的QQ远程协助无法控制计算机的问题的解决方法

在使用win7系统的计算机工作和学习过程中,可能会发生win7系统的QQ远程协助无法控制计算机的情况. 如何处理win7系统的QQ远程控制无法控制计算机的问题?对于计算机级别的用户,如果win7系统qq远程协助无法控制计算机,通常不知道该怎…

java应用中的日志介绍

日志在应用程序中是非常非常重要的,好的日志信息能有助于我们在程序出现 BUG 时能快速进行定位,并能找出其中的原因。 但是,很多介绍 AOP 的地方都采用日志来作为介绍,实际上日志要采用切面的话是极其不科学的!对于日志…

微软全新Chromium版Edge浏览器下载

下载地址: https://www.microsoft.com/en-us/edge

企业网站 源码 服务邮箱:_后来才知道:温州腾讯企业邮箱定制服务

后来才知道:温州腾讯企业邮箱定制服务 qnmsptdb后来才知道:温州腾讯企业邮箱定制服务 软文推广得到大家的转发之后,那么软文的经济价值也会随之而来。内容更新质量言外之意,如果你长期更新低质量内容,是不可取的&#…

圣三一学院计算机专业,360教育集团:爱尔兰都柏林大学圣三一学院计算机专业...

应用,新产品设计。网络和分布系统的安全和管理课程介绍计算机基层和网络安全,研究网络管理的方法和高端信息服务的管理。这六个部分内容的学习包括每周大概20小时的沟通时间,包括讲座、辅导、研讨会、试验等。绝大部分课程要求学生完成其他课…