安科网

Python爬虫 - requests(高级)

qyf

qyf

2020-06-12

关注 关注

requests高级部分

  • 代理

    • 代理概念:代理服务器
    • 作用:接受请求==>请求转发
    • 代理和爬虫之间的关联:
      • 可以使用请求转发的机制使得目的服务器接受的请求对应ip的一个改变
    • 为什么要使用代理改变请求的ip地址
      • 爬程序在短时间内对指定的服务器发起了一个高频的请求,则请求对应的ip可能会被目的服务器禁止
    • 代理的一些基础知识:
      • 代理的匿名度:
        • 透明代理:目的服务器知道你使用了代理机制,并且也知道你的真实ip
        • 匿名代理:知道使用了代理机制,但是不知道你的真实ip
        • 高匿代理:不知道你使用了代理,也不知道你的真实ip
      • 代理的类型:
        • http:
        • https:
    • 免费代理ip:

  • cookie

  • 验证码的识别

  • 模拟登陆

需求:测试一下代理是否会生效

  • 准备:
    - 代理ip和端口
    - 测试的过程

https://www.baidu.com/s?ie=utf-8&wd=ip

  • get/post方法中使用proxies请求代理的设置
    • proxies = {‘http‘:‘ip:port‘}
import requests
from lxml import etree

url = ‘http://www.baidu.com/s?ie=utf-8&wd=ip‘
headers = {
"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"
}

page_text = requests.get(url=url,headers=headers,proxies={
    ‘https‘: "114.98.26.47:4216"
}).text

with open(‘./ip.html‘,‘w‘,encoding=‘utf-8‘) as fp:
    fp.write(page_text)

对西刺代理发起一个高频的请求,使得本机ip被禁止采用代理池解决反爬

  • url = "https://www.xicidaili.com/

  • 在xpath表达式中一定不可以出现tbody标签

    import requests
from lxml import etree

url = "https://www.xicidaili.com/nn/%d"
headers = {
"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"
}
ips = []
for page in range(1,30):
    new_url = format(url%page)
    page_text = requests.get(new_url,headers=headers).text
    tree = etree.HTML(page_text)
    tree_list  = tree.xpath(‘//*[@id="ip_list"]//tr‘)[1:]
    for tr in tree_list:
        ip  =  tr.xpath(‘./td[2]/text()‘)[0]
        ips.append(ip)
print(len(ips))

  • 代理池的构建:就是一个列表,列表中存储的是字典,每一个字典存储的键值{‘http‘:‘ip:port‘}

Python爬虫 - requests(高级)

import requests
from lxml import etree
import random
url = "https://www.xicidaili.com/nn/%d"
headers = {
"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"
}
ips = []
for page in range(1,30):
    new_url = format(url%page)
    page_text = requests.get(new_url,headers=headers,proxies=random.choice(all_ips)).text
    tree = etree.HTML(page_text)
    tree_list  = tree.xpath(‘//*[@id="ip_list"]//tr‘)[1:]
    for tr in tree_list:
        ip  =  tr.xpath(‘./td[2]/text()‘)[0]
        ips.append(ip)
print(len(ips))

完整代码

Python爬虫 - requests(高级)

cookie处理

  • https://xueqiu.com/,对这个雪球网中的新闻数据进行爬取
  • 分析:
    • 新闻数据是通过ajax动态加载出来的
    • 捕获到ajax数据包中的url
  • 请求头中重要信息
    • User-Agent
    • Cookie
    • Referer
  • cookie的处理
    • 手动处理
      • 将cookie作用到headers中即可
    • 自动处理
      • session = requests.Session()
      • session的作用:
        • session可以像requests模块一样调用get和post进行请求发送
        • 在进行请求发送的过程中如果产生了cookie则cookie会被自动存储到session的对象中
session = requests.Session()
#第一次请求发送:为了捕获cookie且存储到session对象中
headers = {
"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"
}
first_url = ‘https://xueqiu.com/‘
session.get(first_url,headers=headers)
#第二次请求发送:携带着cookie进行请求的发送
url = "https://xueqiu.com/statuses/hot/listV2.json?since_id=-1&max_id=63198&size=15"
json_data = session.get(url=url,headers=headers).json()
print(json_data)

模拟登陆

  • 为什么需要进行模拟登陆
    • 有些数据不经过登陆是访问不到的
  • 验证码的处理
    • 基于线上的打码平台来实现
      • 云打码
      • 超级鹰:https://www.chaojiying.com/
      • 超级鹰的使用流程:
        • 基于用户中心的身份进行注册
        • 用户中心的身份进行登陆:
          • 充值
          • 创建一个软件:点击软件ID => 生成软件ID
          • 下载实例代码:
#!/usr/bin/env python
# coding:utf-8
import requests
from lxml import etree
import requests
from hashlib import md5

class Chaojiying_Client(object):

    def __init__(self, username, password, soft_id):
        self.username = username
        password =  password.encode(‘utf8‘)
        self.password = md5(password).hexdigest()
        self.soft_id = soft_id
        self.base_params = {
            ‘user‘: self.username,
            ‘pass2‘: self.password,
            ‘softid‘: self.soft_id,
        }
        self.headers = {
            ‘Connection‘: ‘Keep-Alive‘,
            ‘User-Agent‘: ‘Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)‘,
        }

    def PostPic(self, im, codetype):
        """
        im: 图片字节
        codetype: 题目类型 参考 http://www.chaojiying.com/price.html
        """
        params = {
            ‘codetype‘: codetype,
        }
        params.update(self.base_params)
        files = {‘userfile‘: (‘ccc.jpg‘, im)}
        r = requests.post(‘http://upload.chaojiying.net/Upload/Processing.php‘, data=params, files=files, headers=self.headers)
        return r.json()

    def ReportError(self, im_id):
        """
        im_id:报错题目的图片ID
        """
        params = {
            ‘id‘: im_id,
        }
        params.update(self.base_params)
        r = requests.post(‘http://upload.chaojiying.net/Upload/ReportError.php‘, data=params, headers=self.headers)
        return r.json()

#
# if __name__ == ‘__main__‘:
#     chaojiying = Chaojiying_Client(‘11111111‘, ‘z12345678‘, ‘905817‘)	#用户中心>>软件ID 生成一个替换 96001
#     im = open(‘a.jpg‘, ‘rb‘).read()													#本地图片文件路径 来替换 a.jpg 有时WIN系统须要//
#     print(chaojiying.PostPic(im, 1902))												#1902 验证码类型  官方网站>>价格体系 3.4+版 print 后要加()


#封装一个识别码的函数
def transformCode(imgPath,imgType):
    chaojiying = Chaojiying_Client(‘111111111‘, ‘z12345678‘, ‘905817‘)	#用户中心>>软件ID 生成一个替换 96001
    im = open(imgPath, ‘rb‘).read()													#本地图片文件路径 来替换 a.jpg 有时WIN系统须要//
    return chaojiying.PostPic(im, imgType)[‘pic_str‘]		#1902 验证码类型  官方网站>>价格体系 3.4+版 print 后要加()


#使用打码平台识别古诗文网中的验证码图片

url = "https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx"
headers = {
"user-agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"
}
page_text = requests.get(url,headers=headers).text
tree = etree.HTML(page_text)
code_img_src = "https://so.gushiwen.org"+tree.xpath(‘//*[@id="imgCode"]/@src‘)[0]
img_data = requests.get(code_img_src,headers=headers).content
with open("./code.jpg",‘wb‘)as fp:
    fp.write(img_data)

print(transformCode(‘./code.jpg‘,1902))

  • 模拟登陆

    • 对点击登录按钮对应的url进行请求发送

    • 动态变化的请求参数:

      • 一般都会被隐藏咱前台页面中
      • 基于抓包工具对请求参数的名称进行全局搜索
import requests
from lxml import etree

from hashlib import md5

class Chaojiying_Client(object):

    def __init__(self, username, password, soft_id):
        self.username = username
        password =  password.encode(‘utf8‘)
        self.password = md5(password).hexdigest()
        self.soft_id = soft_id
        self.base_params = {
            ‘user‘: self.username,
            ‘pass2‘: self.password,
            ‘softid‘: self.soft_id,
        }
        self.headers = {
            ‘Connection‘: ‘Keep-Alive‘,
            ‘User-Agent‘: ‘Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)‘,
        }

    def PostPic(self, im, codetype):
        """
        im: 图片字节
        codetype: 题目类型 参考 http://www.chaojiying.com/price.html
        """
        params = {
            ‘codetype‘: codetype,
        }
        params.update(self.base_params)
        files = {‘userfile‘: (‘ccc.jpg‘, im)}
        r = requests.post(‘http://upload.chaojiying.net/Upload/Processing.php‘, data=params, files=files, headers=self.headers)
        return r.json()

    def ReportError(self, im_id):
        """
        im_id:报错题目的图片ID
        """
        params = {
            ‘id‘: im_id,
        }
        params.update(self.base_params)
        r = requests.post(‘http://upload.chaojiying.net/Upload/ReportError.php‘, data=params, headers=self.headers)
        return r.json()




def transformCode(imgPath,imgType):
    chaojiying = Chaojiying_Client(‘11111111‘, ‘z12345678‘, ‘905817‘)	#用户中心>>软件ID 生成一个替换 96001
    im = open(imgPath, ‘rb‘).read()													#本地图片文件路径 来替换 a.jpg 有时WIN系统须要//
    return chaojiying.PostPic(im, imgType)[‘pic_str‘]		#1902 验证码类型  官方网站>>价格体系 3.4+版 print 后要加()


#处理cookie
headers = {
"user-agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/78.0.3904.108 Safari/537.36"

}
session = requests.Session()
#获取且识别验证码
url = "https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx"

page_text = session.get(url,headers=headers).text
tree = etree.HTML(page_text)
#解析到了验证码图片的地址
code_img_src = "https://so.gushiwen.org"+tree.xpath(‘//*[@id="imgCode"]/@src‘)[0]

#解析出模拟登陆请求中动态变化的两个参数的值
__VIEWSTATE = tree.xpath(‘//*[@id="__VIEWSTATE"]/@value‘)[0]
__VIEWSTATEGENERATOR = tree.xpath(‘//*[@id="__VIEWSTATEGENERATOR"]/@value‘)[0]
#对图片进行请求时捕获cookie
img_data = session.get(code_img_src,headers=headers).content
with open("./code.jpg",‘wb‘)as fp:
    fp.write(img_data)
#验证码对应的文本数据
code_text = transformCode(‘./code.jpg‘,1902)
print(code_text)

#对于登录按钮的点击进行请求发送
login_url = "https://so.gushiwen.org/user/login.aspx?from=http%3a%2f%2fso.gushiwen.org%2fuser%2fcollect.aspx"
data = {
"__VIEWSTATE":__VIEWSTATE,
"__VIEWSTATEGENERATOR": __VIEWSTATEGENERATOR,
"from": "http://so.gushiwen.org/user/collect.aspx",
"email": "",
"pwd": "z12345678",
"code": code_text,
"denglu": "登录",
}
login_page_text=session.post(url=login_url,headers=headers,data=data).text
with open(‘./古文.html‘,‘w‘,encoding=‘utf-8‘)as fp:
    fp.write(login_page_text)
  • 总结:
    • 验证码
    • 动态汉化的请求参数
    • cookie
    • 代理
    • UA
    • robots

python爬虫 ul

qyf

qyf

0 关注 0 粉丝 0 动态

关注 关注

相关推荐

Python爬虫破解登陆哔哩哔哩的方法

作为一名找不到工作的爬虫菜鸡人士来说，登陆这一块肯定是个比较大的难题。从今天开始准备一点点对大型网站进行逐个登陆破解。加深自己爬虫水平。if response_json['code'] == 0 and response_json['data']['sta

夜斗不是神 2020-11-17

python 爬虫如何实现百度翻译

本文将会通过爬虫的方式实现简单的百度翻译。本文中的代码只供学习，不允许作为于商务作用。若有侵犯，立即删文！在网站文件中找到隐藏的免费api。传入api所需要的参数并对其发出请求。在返回的json结果里找到相应的翻译结果。进入百度翻译，随便输入一段需要翻译的

染血白衣 2020-11-16

可能是最全的反爬虫及应对方案

爬虫是 Python 的一个常见应用场景，很多练习项目就是让大家去爬某某网站。爬取网页的时候，你大概率会碰到一些反爬措施。这种情况下，你该如何应对呢？本文梳理了常见的反爬措施和应对方案。很多网站都会建立 user-agent白名单，只有属于正常范围的use

ARCXIANG 2020-11-02

Python爬虫遇到验证码的几种处理方式，文章末尾有源码

不管这些了，无所谓的东西， 这边博客，将处理图片验证码的2个比较优秀的方式进行了一次封装, 分别是百度的aip 和 一个最近火起来的识别muggle-ocr. 本篇文章介绍了爬虫中验证码的处理方式， 并把这些功能封装起来，供我们使用， 涉及到百度AIP的

ARCXIANG 2020-10-28

一篇文章教会你理解Scrapy网络爬虫框架的工作原理和数据采集过程

今天小编给大家详细的讲解一下Scrapy爬虫框架，希望对大家的学习有帮助。Scrapy是一个使用Python编程语言编写的爬虫框架，任何人都可以根据自己的需求进行修改，并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面

CycloneKid 2020-10-27

Python爬虫入门教程！手把手教会你爬取网页数据

这里的“技术手段”就是网络爬虫。今天就给大家分享一篇爬虫基础知识和入门教程：。爬虫就是自动获取网页内容的程序，例如搜索引擎，Google，Baidu 等，每天都运行着庞大的爬虫系统，从全世界的网站中爬虫数据，供用户检索时使用。Requests 库是 Py

荒谬小孩 2020-10-26

Python快速上手爬虫的7大技巧

Python应用最多的场景还是Web快速开发、爬虫、自动化运维。爬虫在开发过程中也有很多复用的过程，这里总结一下，以后也能省些事情。关键在于CookieJar()，它用于管理HTTP cookie值、存储HTTP请求生成的cookie、向传出的HTTP请

逍遥友 2020-10-26

只听说过用Python做爬虫，Java程序员笑了！

本文转载自微信公众号「Java极客技术」，作者鸭血粉丝 。网络爬虫技术，早在万维网诞生的时候，就已经出现了，今天我们就一起来揭开它神秘的面纱!的确，pyhton 在处理网页方面，有着开发简单、便捷、性能高效的优势!但是我们 java 也不赖，在处理复杂的网

snakeson 2020-10-09

快速指南：如何创建基于Python的爬虫

Web抓取的使用正在积极增加，特别是在大型电子商务公司中，Web抓取是一种收集数据以竞争，分析竞争对手和研究新产品的方式。Web抓取是一种从网站提取信息的方法。在本篇文章中，学习如何创建基于Python的刮板。深入研究代码，看看它是如何工作的。在当今的大数

meylovezn 2020-08-28

山东创睦网络科技有限公司：如何在一个月内学会爬取数据

如果你仔细观察，就不难发现，懂爬虫、学习爬虫的人越来越多，一方面，互联网可以获取的数据越来越多，另一方面，像 Python这样的编程语言提供越来越多的优秀工具，让爬虫变得简单、容易上手。爬虫是入门Python最好的方式，没有之一。因为这个过程中，Pytho

囧芝麻 2020-08-17

python爬虫一般用什么框架?六大Python框架

python爬虫可以使用的框架有很多，一般在大型需求的时候才会使用python爬虫框架。　　Scrapy：一个为了爬取网站数据，提取结构性数据而编写的应用框架。应用在数据挖掘、信息处理或者存储历史数据等一系列程序中。是很强大的爬虫框架，可以满足简单的页面爬

数据挖掘工人 2020-08-15

python爬虫使用lxml解析数据编码乱码问题

response = requests.get(url=url, headers=headers).text. name = html.xpath("/html/body/div[2]/ul/li[1]/a/p/text()")[0].

cxcxrs 2020-07-28

如何用一行代码让gevent爬虫提速100%

用python做网络开发的人估计都听说过gevent这个库，gevent是一个第三方的python协程库，其是在微线程库greenlet的基础上构建而成，并且使用了epoll事件监听机制，这让gevent具有很好的性能并且比greenlet更好用。基于li

dashoumeixi 2020-07-20

用urllib库几行代码实现最简单爬虫

使用urllib.request()请求一个网页内容，并且把内容打印出来。# 存取到内存当中是bytes流，使用read方法把rsp的内容读取出来，赋值给变量html。# 使用decode解码成我们能够看懂的格式。D:\ProgramData\Anacon

sunzhihaofuture 2020-07-19

Python爬虫初学-urllib3

学习爬虫中，从最近自己写的爬虫小程序中抓截一点代码。print("找不到的随笔!

Ericbig 2020-07-18

python系统学习4——多个爬虫测试案例

通过几天学习，对基础的静态网页、网页信息不是由js等动态显示的网页的爬虫编写有了较好的认识，用几个简单案例进行测试。要求爬取全国大学网上2019年的全国大学排名，并展示出排名、名称及分数，由于每一个大学都是在一个tbody标签下，所以利用bs4较为简单。　

我欲疾风前行 2020-07-06

scrapy 管理部署的爬虫项目的python类

还有部分api接口没有添加进来,可以参照官方的文档添加.

hilary0 2020-07-05

Python简易 爬虫+图形化界面

post = re.findall(‘<span class="post-view-count">(.*?)</span>‘, html). lb1.place(relx=0.1, rely=0.1, relwi

sunzhihaofuture 2020-07-04

python爬虫beautifulsoup查找定位Select用法

<p class="story">Once upon a time there were three little sisters; and their names were. 我们在写 CSS 时，标签名不加任何修饰，类名

Dimples 2020-06-28

Python爬虫 - scrapy

start_requests:可以将遍历start_urls列表，将每一个列表元素进行get请求的发送。def file_path:指定文件路径。# Don‘t forget to add your pipeline to the ITEM_PIPELIN

ZHANGRENXIANG00 2020-06-28
qyf

qyf

W3CSchool教程
HTML 教程
CSS 教程
Bootstrap 教程
Javascript 教程
jQuery 教程
后端教程
C 教程
Java 教程
PHP 教程
Python 教程
Go 教程
移动开发
Android 教程
Swift 教程
Kotlin 教程
jQuery Mobile 教程
ionic 教程
关于我们
新闻动态
联系方式
招聘英才
安科实验室
帮助与反馈

安科网(Ancii)，中国第一极客网

Copyright © 2013 - 2019 Ancii.com

京ICP备18063983号 京公网安备11010802014868号