scrapyd部署爬虫项目

本文介绍了如何使用Scrapyd部署和管理爬虫项目,包括Scrapyd的安装、爬虫项目的打包上传、启动和管理,以及遇到问题时的解决办法,如删除失效项目。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

我们为什么要部署部署爬虫功能?
功能:它就相当于是一个服务器,用于将自己本地的爬虫代码,打包上传到服务器上,让这个爬虫在服务器上运行,可以实现对爬虫的远程管理。(远程启动爬虫,远程关闭爬虫,远程查看爬虫的一些日志。)
步骤:
1.Scrapd的安装。
Pip install scrapyd
2.如何将本地的爬虫项目Deploying(打包),上传至scrapyd这个服务中?
①scrapyd提供了一个客户端工具,就是scrapyd-client,使用这个工具对scrapyd这个服务进行操作,比如:向scrapyd服务打包上传项目。scrapyd-client类似于redis-cli.exe、mongodb数据库的client。
scrapyd-client下载地址:https://github.com/scrapy/scrapyd-client
②Pip install scrapyd-client==1.2.0a1

注意:服务端scrapyd(==1.2)和客户端scrapyd-client(==1.1)安装的版本一定要保持一致。
3.上述服务和客户端安装好之后,可以启动scrapyd这个服务了,服务启动之后,不要关闭。
在这里插入图片描述
访问127.0.0.1:6800,在cmd命令中点击回车,出现以下页面表示成功启动scrapyd服务:

在这里插入图片描述
4.配置爬虫项目,完成以后,再通过addversion.json进行打包。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值