首页   注册   登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Node.js
Express
PPA for Ubuntu
ppa:chris-lea/node.js
V2EX  ›  Node.js

求助:百度文库抓取问题

  •  
  •   tikazyq · 217 天前 · 1257 次点击
    这是一个创建于 217 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近抓取百度文库时遇到问题。试图用 casperjs 来抓取百度文库文章,对方采用了分页,要获取全部文章内容,必须爬完每一个分页。

    最先处理分页的方式是直接在 URL 中加入页面后缀,例如 https://wk.baidu.com/view/f75735e5a8956bec0875e353#6,代表第 6 页,以此类推。但尝试过后发现不行,服务器有时返回第 1 页内容。

    现在尝试模拟点击来获取分页,but。。。问题又来了,chrome console 中利用 jquery,或在 casperjs 中 click “下一页”、“继续阅读”等元素都不能生效,但是,其他元素例如左上方的“百度文库”可以却可以 click 生效。我怀疑是不是百度文库采用了什么方法来防止模拟点击,所以点击不能生效。

    文章地址: https://wk.baidu.com/view/f75735e5a8956bec0875e353

    请各位大大们指点指点!

    5 回复  |  直到 2017-10-19 19:37:14 +08:00
        1
    knva   217 天前
    没用过 casperjs
    但是
    console 中输入
    $('.fc2e').click()
    可以加载啊
        2
    tikazyq   217 天前
    @knva 是移动端的页面,界面不一样的
        3
    memkey   217 天前
    Input.dispatchMouseEvent
        4
    tikazyq   217 天前
    @memkey 具体在页面中该如何操作呢?
    关于   ·   FAQ   ·   API   ·   我们的愿景   ·   广告投放   ·   鸣谢   ·   2029 人在线   最高记录 3541   ·  
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.1 · 19ms · UTC 12:13 · PVG 20:13 · LAX 05:13 · JFK 08:13
    ♥ Do have faith in what you're doing.
    沪ICP备16043287号-1