V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
oahebky
V2EX  ›  问与答

解析网站 log(如 Nginx access log),得出 PV, UV, topK access 是什么岗位? ELK?

  •  
  •   oahebky · 2020-09-13 12:19:23 +08:00 · 1076 次点击
    这是一个创建于 1314 天前的主题,其中的信息可能已经有所发展或是发生改变。

    注:ELK(ElasticSearch, Logstash, Kibana)

    背景: 前两天一家公司,搜索了一下感觉还不错;它们发给我一套线上试题先做再邀约面试。 面试题的岗位是爬虫工程师。

    先说我自己,工作经验是 LINUX-C 的,学了 Python 想转 Python 开发 (主要考虑后端或数据相关岗;爬虫岗优先级靠后一点。 Python 能力是得到求职市场承认的,投简历没有百分百邀约面试,不过去面试的百分百谈薪资,面试最后都是我说回去考虑一两天答复; 但是业务能力我完全明白自己不足,具体的 PV,UV 是什么我还得学一下)

    上面是整体的背景;然后下面是线上面试题的细节:

    • 前面是个人测试(类似霍德兰什么那个测试啥的,个人感觉这套测试有升级)
    • 然后是一些素质题(语言能力和逻辑和数学)
    • 然后两道 Python 题(都很 [业务向] ,很不 [基础向] )
      • 第一道简述反爬机制、和应对策略
      • 第二道可以自己运行,然后提交网站代码(形式上像计算机等级考试)

    第二道的题目内容是分析标题的 access log ;不过这个 access log 不是 Nginx 生成的,但是很像就是了; 相当于是 server 提供 RESTful API,是 access API 的 log,包含了更多的信息,举个例子吧:

    {"remote_addr": ..., "host": ..., "time": ...,
     "request": ..., ... "url": ..., "request_url": ...}
    

    json 格式的“大”文件 每一条 log 根据具体的 API 格式没有百分百相同,但都是 JSON

    题目分析 log 文件,调用函数能够得到 pv,uv, 和 topK 的一个 url 查询(如 /api/any_thing?key=中文,得到这个特定 API 的 key 后面内容的 topK )


    最后回到标题,平时工作像上述分析 log 得到 pv,uv,topk 这样的,算是什么岗位? ELK ??

    3 条回复    2020-09-13 17:05:31 +08:00
    supermoonie
        1
    supermoonie  
       2020-09-13 12:34:32 +08:00 via iPhone
    爬虫爬取数据是一回事,爬下来的数据也是一回事,也算是爬虫的工作吧,只不过爬虫还是更专注爬取与反爬
    putaozhenhaochi
        2
    putaozhenhaochi  
       2020-09-13 13:01:07 +08:00
    数据分析 /增长黑客?
    srlp
        3
    srlp  
       2020-09-13 17:05:31 +08:00 via iPhone   ❤️ 1
    data engineer
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   895 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 21:19 · PVG 05:19 · LAX 14:19 · JFK 17:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.