接着上次的python爬虫,今天进阶一哈,局部解析爬取网页数据
*解析网页数据的仓库
用Beatifulsoup基于lxml包lxml包基于html和xml的标记语言的解析包。可以去解析网页的内容,把我们想要的提取出来。
第一步、导入两个包,项目中必须包含beautifulsoup4和lxml
第二步、先去获取网页的数据
第二步、先去获取网页的数据
def get_html(): url="http://www.scetc.net" response=request.get(url) response.encoding="UTF-8" return response.text
第三步、导入Beautifulsoup对象
from bs4 import BeautifulSoup
from bs4 import BeautifulSoup
第四步、解析网页内容
解析的方式文本格式就是 :
标记#id或者.class,如果有层次标记则空格 在后面加标记就可以了。
请注意一点就是select方法返回的肯定是列表,所以获取数据的时候需要遍历
解析的方式文本格式就是 :
标记#id或者.class,如果有层次标记则空格 在后面加标记就可以了。
请注意一点就是select方法返回的肯定是列表,所以获取数据的时候需要遍历
*下载网上的其他资源
案例就是下载图片资源:res = requests.get(url+stu_id+".jpg", stream=True)
file=open(stu_id+".jpg",‘wb‘)
for chunk in res.iter_content(chunk_size=32):
file.write(chunk)
file.close()
相关推荐
夜斗不是神 2020-11-17
染血白衣 2020-11-16
YENCSDN 2020-11-17
lsjweiyi 2020-11-17
houmenghu 2020-11-17
Erick 2020-11-17
HeyShHeyou 2020-11-17
以梦为马不负韶华 2020-10-20
lhtzbj 2020-11-17
pythonjw 2020-11-17
dingwun 2020-11-16
lhxxhl 2020-11-16
坚持是一种品质 2020-11-16
huavhuahua 2020-11-20
meylovezn 2020-11-20
逍遥友 2020-11-20
weiiron 2020-11-16