首页 > TAG信息列表 > gerapy
原创：Gerapy 首次使用资料汇总
基于Scrapy、Scrapyd、Scrapyd-Client、Scrapyd-API、Django和Vue.js的分布式爬虫管理框架 https://pypi.org/project/gerapy/ 项目简介 杰拉皮 基于 Scrapy、Scrapyd、Scrapyd-Client、Scrapyd-API、Django 和 Vue.js 的分布式爬虫管理框架。 文档 文档可在https:/Gerapy的实现可视化的爬虫管理
Gerapy的简单使用 1. Scrapy：是一个基于Twisted的异步IO框架，有了这个框架，我们就不需要等待当前URL抓取完毕之后在进行下一个URL的抓取，抓取效率可以提高很多。 2. Scrapy-redis：虽然Scrapy框架是异步加多线程的，但是我们只能在一台主机上运行，爬取效率还是有限的，Scrapy-redis库爬虫部署：scrapyd+gerapy
1、安装scrapyd 服务端安装：pip install scrapyd 客户端安装:pip install scrapyd-client 2、启动scrapyd服务 服务端建立一个deploy文件夹，cd到该文件夹中，执行sudo scrapyd或scrapyd。这时在服务端主机的6800端口打开了scrapyd服务。 3、客户端安装gerapy 在客户端主机执行：pip3 iscrapyd+gerapy之爬虫部署
一、Linux上安装scrapyd 1. linux下安装python3 可参考我之前博文：https://www.cnblogs.com/Liu928011/p/14864190.html 2. 安装scrapyd并配置软链接 安装scrapyd：pip3 install scrapyd 配置软链接：ln -s /usr/local/python3/bin/scrapyd /usr/bin/scrapyd 3. scrapyd默认是只跟繁琐的命令行说拜拜！Gerapy分布式爬虫管理框架来袭！
背景 用 Python 做过爬虫的小伙伴可能接触过 Scrapy，GitHub：https://github.com/scrapy/scrapy。Scrapy 的确是一个非常强大的爬虫框架，爬取效率高，扩展性好，基本上是使用 Python 开发爬虫的必备利器。如果使用 Scrapy 做爬虫，那么在爬取时，我们当然完全可以使用自己的主机来完成爬取，但当手把手教你用Scrapy+Gerapy部署网络爬虫
爬虫管理效果图 依赖包 文件:requirements.txt 文件的内容这里直接贴出来了： appdirs==1.4.4APScheduler==3.5.1attrs==20.1.0Automat==20.2.0beautifulsoup4==4.9.1certifi==2020.6.20cffi==1.14.2chardet==3.0.4constantly==15.1.0cryptography==3.0cssselect==1.1.0Django发布一个智能解析库 Gerapy Auto Extractor
算法 整个算法的实现比较杂，我看了几篇论文和几个项目的源码，然后经过一些修改实现的。 其中列表页解析的参考论文： 面向不规则列表的网页数据抽取技术的研究 基于块密度加权标签路径特征的Web新闻在线抽取 详情页解析的参考论文和项目： 基于文本及符号密度的网页正文提取方