Python——网络爬虫,一个简单的通用代码框架
一、代码"""通用代码框架:可使网页爬取变得更稳定更有效下面是一个爬取百度网页的例子,正常情况下是返回"""import requestsdef get_HTML_Text():try: r = requests.get(url, timeout=30) r.raise_for_status()# 若状态不是200,引发HTTPError异常 r.encoding = r.apparent_encodingreturn r.textexcept:return ‘产生异常!‘if __name__ == ‘__main__‘: url = "http://www.baidu.com" print(get_HTML_Text()
二、结果分析正常情况:其实去掉三个www中的一个也会正常
异常情况1:
异常情况2:
异常情况3:
三、总结异常情况的原因多样,通用代码框架并不能包含全部异常,代码写正确才是王道
相关推荐
YENCSDN 2020-11-17
lsjweiyi 2020-11-17
houmenghu 2020-11-17
Erick 2020-11-17
HeyShHeyou 2020-11-17
以梦为马不负韶华 2020-10-20
lhtzbj 2020-11-17
夜斗不是神 2020-11-17
pythonjw 2020-11-17
dingwun 2020-11-16
lhxxhl 2020-11-16
坚持是一种品质 2020-11-16
染血白衣 2020-11-16
huavhuahua 2020-11-20
meylovezn 2020-11-20
逍遥友 2020-11-20
weiiron 2020-11-16