scrapy框架下载图片

来源:互联网 发布:福州百度seo排名优化 编辑:程序博客网 时间:2024/06/05 09:26

  • 步骤
    • 第一步设置图片存储路径
    • 第二步管道中定义图片下载类
    • 第二步重写get_media_requests方法
    • 第三步重写item_completed方法

步骤

第一步:设置图片存储路径

  • 必须为(IMAGES_STORE)
    这里写图片描述

第二步:管道中定义图片下载类

第二步:重写get_media_requests()方法

  • 此方法返回图片链接,框架会自动下载图片,前提必须有图片存储路径,不然没法下载

第三步:重写item_completed()方法

  • 从setting中获取数据,导入方法:
  • 这里写图片描述
  • 获取路径
    这里写图片描述
  • 通过os模块更新每个图片路径,并定义图片地址字段
    • 注意:result返回值为一个列表,里面是元祖
    • os.sep:返回“/”
      这里写图片描述

原创粉丝点击