scrapy 的 crawlspider 中 deny 的设置无效？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 2153 天前的主题，其中的信息可能已经有所发展或是发生改变。

在 Rule 中设置了 deny，但是并未生效：

代码如下： '123123':( Rule(LinkExtractor(allow='\d+-\d+-\d+/.*?-.*?.shtml', deny=('http://search.******.com.cn/.*?')), callback='parse_item', follow=True), Rule(LinkExtractor(allow='a[href^="http"]',deny_domains=('http://auto.******.com.cn')), follow=True) )

运行的时候还是有 debug 禁止的链接：是这样插入图片么

第 1 条附言 · 2019-01-02 16:47:40 +08:00

没人来消灭一下零回复么...

目前尚无回复

deny rule allow Scrapy