首页 开发技术 其它     /    带有WebUI的分布式多用户Scrapy系统:基于Django的应用程序,允许以分布式方式创建,部署和运行ScrapySpider-源码

带有WebUI的分布式多用户Scrapy系统:基于Django的应用程序,允许以分布式方式创建,部署和运行ScrapySpider-源码

上传者: weixin_42097208 | 上传时间:2016/5/27 6:14:32 | 文件大小:5.95MB | 文件类型:ZIP
带有WebUI的分布式多用户Scrapy系统:基于Django的应用程序,允许以分布式方式创建,部署和运行ScrapySpider-源码
带有WebUI的分布式多用户Scrapy系统这是一个Django项目,允许用户通过Web界面创建,配置,部署和运行ScrapySpiders。
该项目的目标是构建一个应用程序,该应用程序将允许多个用户编写本人的抓取脚本,并将其部署到一组工人中,以分布式方式进行抓取。
该应用程序允许用户通过Web界面执行以下操作:创建一个Scrapy项目添加/编辑/删除草率项目添加/编辑/删除Scrapy项目管道编辑链接生成器功能(有关更多信息,请参见下文)编辑刮板功能(有关此内容,请参见下文)将项目部署到工作机在工作机上启动/停止项目显示工作机,数据库和链接队列的联机状态显示项目的部署状态显示报废的数量显示刮时项目中发生的错误数显示项目的开始/停止日期和时间建筑该应用程序捆绑了用于MongoDB的Scrapy管道(用于保存被抓取的项目)和用于RabbitMQ的Scrapy调度程序(用于在工作人员之间分配链接)。
这些代码是从和获取并改编的。
这是运行应用程序所需的内容:MongoDB服务器(可以是独立群集或分片群集,副本集未经测试)RabbitMQ服务器 本软件ID:14998399

文件下载

资源详情

-其它

评论信息

免责申明

【好快吧下载】的资源来自网友分享,仅供学习研究,请务必在下载后24小时内给予删除,不得用于其他任何用途,否则后果自负。基于互联网的特殊性,【好快吧下载】 无法对用户传输的作品、信息、内容的权属或合法性、合规性、真实性、科学性、完整权、有效性等进行实质审查;无论 【好快吧下载】 经营者是否已进行审查,用户均应自行承担因其传输的作品、信息、内容而可能或已经产生的侵权或权属纠纷等法律责任。
本站所有资源不代表本站的观点或立场,基于网友分享,根据中国法律《信息网络传播权保护条例》第二十二条之规定,若资源存在侵权或相关问题请联系本站客服人员,8686821#qq.com,请把#换成@,本站将给予最大的支持与配合,做到及时反馈和处理。关于更多版权及免责申明参见 版权及免责申明