python实战项目62:采集大码女装数据
一、爬虫流程分析
本次数据采集的 目标网站网址是:https://www.lanebryant.com/new,首页截图如下:
详情页截图如下图所示:
需求是采集女装的名称,售价、原价、颜色、尺码以及详情描述等信息我们的思路是先在主页爬取到每个商品的详情页url,接下来再对详情页的url发起请求,逐个获取商品的详情页信息,进而提取数据、保存数据。
二、详情页url数据提取
抓包,找到商品详情页所在的数据接口
编写爬虫代码,爬取商品详情页url的信息,使用xpath提取数据,代码如下:
import requests