python中的分布式爬虫指的是什么-创新互联

小编给大家分享一下python中的分布式爬虫指的是什么，希望大家阅读完这篇文章后大所收获，下面让我们一起去探讨吧！

创新互联是一家集网站建设,赤峰林西企业网站建设,赤峰林西品牌网站建设,网站定制,赤峰林西网站建设报价,网络营销,网络优化,赤峰林西网站推广为一体的创新建站企业，帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿，时刻以成就客户成长自我，坚持不断学习、思考、沉淀、净化自己，让我们为更多的企业打造出实用型网站。

什么是分布式？

你开发一个网站想要给别人访问就需要把网站部署到服务器，当网站用户增多的时候一个服务器就不满足需求了于是就会把网站部署到多个服务器上，这种情况通常叫集群。

就是把整个网站的所有功能，都同时部署到不同的服务器上一般会使用 ngnix 作负载均衡，不过有些功能并发量并不是很高比如一些后台的管理。

所以就有人想要不然把这个网站的功能都拆分出来，让每一个模块只负责具体的功能，比如登录模块，内容管理模块等

然后在部署的时候，把一些并发量大的模块部署到多个服务器就行了耦合度大大的降低了，并发量小的模块也不会浪费那么多资源了。当然，这时需要让模块与模块之间产生联系

也就是调度好它们，一般会用到消息队列，这就是所谓的分布式。

对于一些数据不大的数据我们的爬虫一般是直接在电脑运行了，也就是所谓的单机爬虫。

而分布式爬虫，说白了就是把爬虫的关键功能以我们刚说的分布式形式部署到多台机器上然后一起盘(爬)它。

那么如何将爬虫之间联系起来呢我们可以使用 Redis 的消息队列进行调度？

之前我们也有说过 redis，它是一个读写速度快的缓存数据库，还提供了类似 Python 的list、set 等数据结构，而且它还可以将内存的数据写到磁盘性能杠杠的。

看完了这篇文章，相信你对python中的分布式爬虫指的是什么有了一定的了解，想了解更多相关知识，欢迎关注创新互联行业资讯频道，感谢各位的阅读！

网页标题：python中的分布式爬虫指的是什么-创新互联
分享网址：http://cdxtjz.cn/article/dcpise.html