啃完Python基础，你要这样做才行

即将开播：5月20日，基于kubernetes打造企业级私有云实践

爬虫入门之后，我们有两条路能够走。

一个是持续深化学习，以及关于规划模式的一些常识，强化Python相关常识，自己着手造轮子，持续为自己的爬虫增加分布式，多线程等功能扩展。另一条路便是学习一些优秀的结构，先把这些结构用熟，能够保证能够敷衍一些根本的爬虫使命，也就是所谓的解决温饱问题，然后再深化学习它的源码等常识，进一步强化。

就个人而言，前一种办法其实就是自己着手造轮子，前人其实现已有了一些比较好的结构，能够直接拿来用，但是为了自己能够研讨得更加深化和对爬虫有更全面的了解，自己着手去多做。后一种办法就是直接拿来前人现已写好的比较优秀的结构，拿来用好，首先保证能够完结你想要完结的使命，然后自己再深化研讨学习。第一种而言，自己探索的多，对爬虫的常识掌握会比较透彻。第二种，拿他人的来用，自己方便了，但是可能就会没有了深化研讨结构的心情，还有可能思路被束缚。

接触了几个爬虫结构，其中比较好用的是 Scrapy 和PySpider。就个人而言，pyspider上手更简略，操作更加简便，因为它增加了 WEB 界面，写爬虫迅速，集成了phantomjs，能够用来抓取js渲染的页面。Scrapy自定义程度高，比 PySpider更底层一些，适合学习研讨，需要学习的相关常识多，不过自己拿来研讨分布式和多线程等等是非常合适的。

从爬虫必要的几个根本需求来讲：

1.抓取

py的urllib不必定去用，但是要学，如果还没用过的话。

比较好的替代品有requests等第三方更人性化、老练的库，如果pyer不了解各种库，那就白学了。

抓取最根本就是拉网页回来。

如果深化做下去，会发现要面对不同的网页要求，比如有认证的，不同文件格式、编码处理，各种奇怪的url合规化处理、重复抓取问题、cookies跟随问题、多线程多进程抓取、多节点抓取、抓取调度、资源压缩等一系列问题。

所以第一步就是拉网页回来，慢慢会发现各种问题待优化。

2.存储

抓回来一般会用必定策略存下来，而不是直接剖析，个人觉得更好的架构应该是把剖析和抓取分离，更加松散，每个环节出了问题能够隔离别的一个环节可能出现的问题，好排查也好更新发布。

那么存文件体系、SQLorNOSQL数据库、内存数据库，如何去存就是这个环节的要点。

能够选择存文件体系开始，然后以必定规矩命名。

3.剖析

对网页进行文本剖析，提取链接也好，提取正文也好，总归看的需求，但是必定要做的就是剖析链接了。

能够用认为最快最优的办法，比如正则表达式。

然后将剖析后的成果应用与其他环节：)

4.展现

要是做了一堆事情，一点展现输出都没有，如何展现价值。

所以找到好的展现组件，去show出肌肉也是关键。

如果为了做个站去写爬虫，抑或要剖析某个东西的数据，都不要忘了这个环节，更好地把成果展现出来给他人感受。

PySpider是binux做的一个爬虫架构的开源化完成。主要的功用需求是：

• 抓取、更新调度多站点的特定的页面
• 需要对页面进行结构化信息提取
• 灵敏可扩展，安稳可监控

而这也是绝大多数python爬虫的需求 —— 定向抓取，结构化化解析。但是面对结构悬殊的各种网站，单一的抓取模式并不一定能满意，灵敏的抓取操控是必须的。为了到达这个目的，单纯的配置文件往往不够灵敏，于是，经过脚本去操控抓取是最后的挑选。

而去重调度，队列，抓取，异常处理，监控等功用作为结构，提供给抓取脚本，并确保灵敏性。最后加上web的修改调试环境，以及web使命监控，即成为了这套结构。

pyspider的设计基础是：以python脚本驱动的抓取环模型爬虫

• 经过python脚本进行结构化信息的提取，follow链接调度抓取操控，完成最大的灵敏性
• 经过web化的脚本编写、调试环境。web展示调度状态
• 抓取环模型成熟安稳，模块间彼此独立，经过音讯队列衔接，从单进程到多机分布式灵敏拓展

pyspider-arch