保存Scrapy响应的屏幕截图
创始人
2024-11-22 16:00:22
0

要保存Scrapy响应的屏幕截图,可以使用Scrapy的middlewares中的一个叫做ScreenshotMiddleware的中间件。以下是一个包含代码示例的解决方法:

  1. 首先,确保安装了scrapy-splashPillow这两个Python库。

  2. 在Scrapy项目的settings.py文件中添加以下配置:

DOWNLOADER_MIDDLEWARES = {
    'scrapy_splash.SplashCookiesMiddleware': 723,
    'scrapy_splash.SplashMiddleware': 725,
    'scrapy.downloadermiddlewares.httpcompression.HttpCompressionMiddleware': 810,
    'your_project_name.middlewares.ScreenshotMiddleware': 800,  # 添加此行
}

SPIDER_MIDDLEWARES = {
    'scrapy_splash.SplashDeduplicateArgsMiddleware': 100,
}

DUPEFILTER_CLASS = 'scrapy_splash.SplashAwareDupeFilter'

SPLASH_URL = 'http://localhost:8050/'
  1. 在Scrapy项目的middlewares.py文件中添加以下代码:
from scrapy import signals
from scrapy.http import HtmlResponse
from PIL import Image


class ScreenshotMiddleware:
    @classmethod
    def from_crawler(cls, crawler):
        middleware = cls()
        crawler.signals.connect(middleware.spider_opened, signal=signals.spider_opened)
        crawler.signals.connect(middleware.spider_closed, signal=signals.spider_closed)
        return middleware

    def spider_opened(self, spider):
        self.spider = spider

    def spider_closed(self, spider):
        self.spider = None

    def process_response(self, request, response, spider):
        if spider and response.status == 200:
            screenshot = self.take_screenshot(response)
            screenshot.save(f"{spider.name}_{response.url.replace('/', '_')}.png")

        return response

    def take_screenshot(self, response):
        image = Image.open(response.body)
        return image
  1. 现在,当Scrapy爬虫运行时,ScreenshotMiddleware中间件会在每个响应返回时调用take_screenshot方法将响应内容转换为图像,并将图像保存为PNG文件。保存的文件名由爬虫名和响应URL组成,其中斜杠(/)被下划线(_)替换。

请注意,此代码示例假设你已经配置了Splash服务并将其运行在http://localhost:8050/上。如果你使用的是其他服务或端口,请相应地修改splash_url的值。

希望这可以解决你的问题!

相关内容

热门资讯

2026版辅助挂!黑科技软件大... 2026版辅助挂!黑科技软件大全(辅助)竟然真的是有辅助攻略(真实有挂)1、黑科技软件大全模拟器是什...
2026版技巧!大众互娱脚本(... 2026版技巧!大众互娱脚本(辅助)切实存在有辅助神器(有挂解惑)1、大众互娱脚本免费脚本咨询教程、...
近日!边锋嘉兴辅助(辅助)切实... 近日!边锋嘉兴辅助(辅助)切实是真的有辅助脚本(有挂规律)所有人都在同一条线上,像星星一样排成一排,...
一直以来!上饶窝龙辅助(辅助)... 一直以来!上饶窝龙辅助(辅助)切实真的是有辅助技巧(有挂分享)1、许多玩家不知道上饶窝龙辅助辅助怎么...
明白辅助挂!开心斗一番破解版(... 明白辅助挂!开心斗一番破解版(辅助)总是真的是有辅助插件(有挂教学)1、在开心斗一番破解版插件功能辅...
无独有偶!花花生活圈怎么开挂(... 无独有偶!花花生活圈怎么开挂(辅助)果然存在有辅助神器(竟然有挂)该软件可以轻松地帮助玩家将花花生活...
2026版软件!山西扣点免费辅... 2026版软件!山西扣点免费辅助(辅助)本来存在有辅助脚本(详细教程)暗藏猫腻,小编详细说明山西扣点...
黑科技攻略!悟空大厅辅助(辅助... 黑科技攻略!悟空大厅辅助(辅助)切实真的是有辅助攻略(真的有挂);1、不需要AI权限,帮助你快速的进...
2026版总结!微信小程序辅助... 2026版总结!微信小程序辅助新天道辅助(辅助)一直是有辅助技巧(有挂功能)1、点击下载安装,微信小...
第三方辅助挂!三哥玩辅助器软件... 第三方辅助挂!三哥玩辅助器软件(辅助)果然是真的有辅助软件(有挂教学)1)三哥玩辅助器软件辅助插件:...