文章目录
- feapder 的使用
- feaplat 爬虫管理系统
- 部署
feapder 的使用
feapder是一款上手简单，功能强大的Python爬虫框架
feapder 官方文档
文档写的很详细，可以直接上手。
基本命令：
- 创建爬虫项目
feapder create -p first-project
- 创建爬虫
feapder create -s <spider_name> <spider_type>
- 创建 item
feapder create -i <item_name>
feaplat 爬虫管理系统
特性：
- 支持任何python脚本，包括不限于feapder、scrapy
- 支持浏览器渲染，支持有头模式。浏览器支持playwright、selenium 支持部署服务，可自动负载均衡 支持服务器集群管理
- 支持监控，监控内容可自定义 支持起多个实例，如分布式爬虫场景 支持弹性伸缩 支持4种定时启动方式
- 支持自定义worker镜像，如自定义java的运行环境、机器学习环境等，即根据自己的需求自定义（feaplat分为master-调度端和worker-运行任务端）
- docker一键部署，架设在docker swarm集群上
部署
详细文档地址，跟着文档一步一步走，就没什么大问题的。
感觉还是很好用的 ~~
)
 =＞ { /* some code */ }))用法说明)
