V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
推荐学习书目
Learn Python the Hard Way
Python Sites
PyPI - Python Package Index
http://diveintopython.org/toc/index.html
Pocoo
值得关注的项目
PyPy
Celery
Jinja2
Read the Docs
gevent
pyenv
virtualenv
Stackless Python
Beautiful Soup
结巴中文分词
Green Unicorn
Sentry
Shovel
Pyflakes
pytest
Python 编程
pep8 Checker
Styles
PEP 8
Google Python Style Guide
Code Style from The Hitchhiker's Guide
omg21
V2EX  ›  Python

在要求登录的网站如何防止被封?

  •  
  •   omg21 · 2016-06-10 21:07:46 +08:00 · 3275 次点击
    这是一个创建于 2889 天前的主题,其中的信息可能已经有所发展或是发生改变。
    爬虫在爬取网站时为了防止被封 IP ,可以使用代理、伪装 user agent 、降低访问频率等方法来避免被对方识别出来。
    但如果对方是需要登录的网站怎么办呢?有些网站是必须在登录之后才能显示内容,那么在登录之后再使用代理、伪装 user agent 都已经没有了意义。
    如果是这样的情况,应该怎样做才能不被对方识别呢?
    14 条回复    2016-06-11 23:53:53 +08:00
    lizon
        1
    lizon  
       2016-06-10 21:12:50 +08:00
    在要求登录的情况下,无论怎样,对方都可以统计单个 cookie 在单位时间内的访问量从而做出限制。所以,要么降低访问频率,要么获取足够多的 cookie
    qqmishi
        2
    qqmishi  
       2016-06-10 21:13:25 +08:00 via Android
    多注册几个号,过一段时间就切换
    omg21
        3
    omg21  
    OP
       2016-06-10 21:53:09 +08:00
    @qqmishi 收费网站,一个帐户一年好几千呢。
    omg21
        4
    omg21  
    OP
       2016-06-10 21:54:45 +08:00
    @lizon 是的,我也想不出更好的方法了,降低频率的话,每天的采集量根本没法完成。
    murmur
        5
    murmur  
       2016-06-10 22:15:52 +08:00
    好几千的采集。。在盗抄别人的资料么 那不得多投资一点 毕竟抄来就是免费复制了
    eoo
        6
    eoo  
       2016-06-10 22:37:31 +08:00 via Android
    看情况
    lslqtz2
        7
    lslqtz2  
       2016-06-10 22:58:10 +08:00
    只能选择降低频率,别无他法。
    因为账号要钱,要封号分分钟爽。
    或者你可以试试看爆弱口令,但希望渺茫。。
    lslqtz2
        8
    lslqtz2  
       2016-06-10 23:06:12 +08:00
    打 osu 打了一半,突然想到一个好点子,暂停时还 miss 了一个。。
    可以把标题采集下来,不采集内容,当用户访问时实时采集并保存。
    lslqtz2
        9
    lslqtz2  
       2016-06-10 23:09:06 +08:00
    一年可以换成月吗?非得年》
    haozibi
        10
    haozibi  
       2016-06-10 23:47:44 +08:00 via Android
    目测某论文网站,某知
    lizon
        11
    lizon  
       2016-06-11 06:02:43 +08:00
    @omg21 转变下思路,如果确实有需要,不如联系下网站,看看能不能有偿提供你需要的东西
    dynaguy
        12
    dynaguy  
       2016-06-11 10:32:57 +08:00
    看到像樓主這樣厚顏無恥,然後被封 IP ,我只有 2333333333333
    omg21
        13
    omg21  
    OP
       2016-06-11 14:15:00 +08:00
    @lizon 看来也只有这样了
    badcode
        14
    badcode  
       2016-06-11 23:53:53 +08:00
    假想:你爬的站的站长也在看你发的贴?
    有趣
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1098 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 22:33 · PVG 06:33 · LAX 15:33 · JFK 18:33
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.