scrapy 加入redis去重之后出现了如下报错,为什么

使用scrapy-redis后,过滤重复的request不能使用原来scrapy的过去组件,要scrapy-redis的,在settings.py上配置DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter" 可以查看文档!
scrapy 加入redis去重之后出现了如下报错,为什么
使用scrapy-redis后,过滤重复的request不能使用原来scrapy的过去组件,要scrapy-redis的,在settings.py上配置DUPEFILTER_CLASS = "scrapy_redis.dupefilter.RFPDupeFilter" 可以查看文档!2017-05-13
mengvlog 阅读 9 次 更新于 2025-07-21 04:00:26 我来答关注问题0
檬味博客在线解答立即免费咨询

mySQL相关话题

Copyright © 2023 WWW.MENGVLOG.COM - 檬味博客
返回顶部