scrapy中间件已经写过了,可以每次请求换一次代理,但是跑起来很慢,一天也就十几万的样子
代理是api那种,想减少代理的请求次数。
所以想到,多少次换一次代理这种。
可以scrapy中间件里边,start_request里边设定一个计数器,每100次就去换代理。
写一个中间件进行计数
4 回答970 阅读
1 回答714 阅读
1 回答695 阅读
1 回答522 阅读
643 阅读
595 阅读
586 阅读
5.1k 阅读
2 回答4.3k 阅读✓ 已解决
1 回答2.1k 阅读
2 回答8.2k 阅读
2.2k 阅读
可以scrapy中间件里边,start_request里边设定一个计数器,每100次就去换代理。