今天了解到部门内的运维相关的两个系统居然通过爬虫交流。 一个动态监控故障追加到 redmine,一个实时从 redmine 爬故障信息给对应的负责人发通知的系统(本地客户端) 这种操作太搞笑了,分享一下
1
airfling 2020-11-26 16:30:42 +08:00
还好,没人开发运维系统就这样也不错
|
2
crclz 2020-11-26 16:31:50 +08:00
看上去很笨拙,但是很多事情能 work 就谢天谢地了
|
3
lrh3321 2020-11-26 16:32:26 +08:00
异步通信 #(狗头
|
4
luckyrayyy 2020-11-26 16:32:54 +08:00
反正能跑
|
5
ByZHkc3 2020-11-26 16:33:15 +08:00 1
又不是不能用
|
6
tzigone 2020-11-26 16:36:38 +08:00
这个情况很多 ,
1. 两套系统都没接口 2. 两套系统的归属不一致 不用人工导入,要实现自动化,爬虫还真是解决之道 |
7
stardustree 2020-11-26 16:36:50 +08:00 27
换个说法就高端了: “我们使用 redmine 集中管理各个系统的故障事件,并基于 redmine 自研了主动式消息通知系统”
|
8
catsoul 2020-11-26 16:42:24 +08:00 26
罗永浩头
罗永浩头 罗永浩肩 罗永浩肩 白板 罗永浩手臂 白板白板白板白板白板 白板白板 罗永浩手指 白板白板白板白板 白板白板 又不是不能用 白板白白板白板 白板白板白板白板白板白板白板白板白板 |
9
heyjei 2020-11-26 16:42:54 +08:00 1
等你看懂了 redmine 的 reset api 文档动起手写代码的时候,我爬虫已经写好运行起来了🐶🐶
|
10
msana 2020-11-26 16:43:49 +08:00
我们曾经还通过爬虫实现了各系统的单点登录
|
11
Takashi123 2020-11-26 16:44:22 +08:00
哈哈我也做过类似的操作,用 vba 做一些小功能的时候从我自己的网站爬取一个字段表示版本号,用来更新自己。
|
12
HuHui 2020-11-26 16:48:51 +08:00 2
刚毕业的时候做过一种中间件,干嘛的呢?
现有一套业务系统,需要做移动端。 没有接口怎么办。 我们就爬系统,一个个功能试。最终做成一个 api 服务器。 移动端再去调用这个 api 服务。 |
13
xiaolinjia 2020-11-26 16:49:16 +08:00
nacos 没提供 rest api 模糊查询的时候,我也是用爬虫拿某个 group 的所有配置的。
|
14
acmore 2020-11-26 16:52:41 +08:00 4
《最强解耦》
|
15
youngce 2020-11-26 16:54:56 +08:00 22
《基于网络爬虫的微服务实践》
|
16
westoy 2020-11-26 16:56:07 +08:00 2
鹅厂当年搞 linuxqq 的时候, 显 IP 版 QQ 显示用 linuxqq 的用户都是来自深圳腾讯
当时就有种猜测,linuxqq 的协议是非标的, 用户发的数据都是转到鹅厂的中间服务器, 再转成标准的 qq 数据扔给 QQ 服务器....... |
17
kingfalse 2020-11-26 17:02:34 +08:00 via Android
与其跨部门对接扯淡,还不如直接去爬,没毛病
|
18
yh7gdiaYW 2020-11-26 17:04:40 +08:00
实习的时候部门还真是这么搞得,也是 redmine
|
19
lc1450 2020-11-26 17:09:10 +08:00 3
|
20
murmur 2020-11-26 17:10:05 +08:00
这不是很正常么,我们集团的 oa 做移动端适配就是爬虫
|
21
leeguo 2020-11-26 17:11:59 +08:00
又不是不能用
|
22
muraku OP 后续:现在貌似是打算后续弄成接口了😅
|
23
zjsxwc 2020-11-26 17:22:30 +08:00 via Android
不用改 redmine 代码呢
|
25
Vegetable 2020-11-26 17:29:58 +08:00
这不是很常规的操作吗?
有时候运营希望做一个导出功能,更简单的办法其实是写一个导出脚本而不是前端后端一起该系统。 见怪不怪了,少年,早点下班不香吗 |
26
lotosbin 2020-11-26 17:34:32 +08:00 via iPhone 1
尝试定制下 redmine 就知道 还是爬虫简单
|
27
mikuazusa 2020-11-26 17:34:51 +08:00
常规操作,很多异构系统和老系统根本找不到人改了,这是最快捷的办法了...
|
28
kop1989 2020-11-26 17:35:06 +08:00
肯定是因为被取数的系统不配合而导致。
这个太正常了。 比如因为某些原因不能更新,比如两边领导不对付,比如双方都对接,都不想当工作量大的那方等等 |
29
vwhenx 2020-11-26 17:38:27 +08:00
调用 API 本身和爬虫原理上就是一回事啊,你仔细想想
|
30
ik 2020-11-26 17:51:54 +08:00 via iPhone
😢, 本人写过从内部一个系统抓取数据同步到 redmine....
|
31
Tink 2020-11-26 18:37:08 +08:00
又不是不能用
|
32
littlewing 2020-11-26 19:04:01 +08:00 via iPhone
公司内部部门之间的合作远比你想象得困难得多
|
33
ajaxfunction 2020-11-26 19:46:09 +08:00
巧了,我们部门内部也是用的爬虫,因为要协调其他分公司太难了,数据泄露还追责。
只好模拟登录取数据,然后二次开发 |
34
xingyun12 2020-11-26 19:50:08 +08:00
这才是完全匹配哈哈。不用担心中间商赚差价
|
35
LiuSha 2020-11-26 20:13:40 +08:00 via Android
又不是不能用,哈哈
|
36
huobazi 2020-11-26 20:14:41 +08:00
领导让你 “敏捷” 的用上一上午开发这个功能的时候,能想到这个办法的是人才。
你是没见过爬数据丢 ftp,另一个部门定时去 ftp 拉文件处理的。 |
37
DoctorCat 2020-11-26 20:16:24 +08:00
没准,完美的解释了康威定律
|
38
cherryas 2020-11-26 20:18:33 +08:00
很正常,伪静态其中的一种方法不就是这样?
|
39
laminux29 2020-11-26 20:26:00 +08:00
大惊小怪。
你没见到过领导指挥几个员工干活,员工慢吞吞故意拖着不干,领导没办法,只能重新招相同数量的几个人,来试图分掉他们的工作。 然后新进来的这几个人,又被另外一个部门的更高地位的大 boss 直接拿走了好几个。 剩下的几个,又被下属领导分掉几个,最后真正能实现当初目的的只剩下一个了。 接着部门有个大项目,同部门另一个组要这个组配合,该组不仅不配合,还各种拖后腿。 这些事情见多了,你这种小事自然就见怪不怪了。 世界之大,无奇不有,但很多矛盾归纳起来,其实就是利益二字在作祟。 |
40
MakeItGreat 2020-11-26 20:33:36 +08:00 via Android
|
41
Nicoco 2020-11-26 21:27:49 +08:00
想象力一级棒
|
42
levelworm 2020-11-26 22:05:30 +08:00 via Android
我们当初需要每个月进 BI 系统手动下载几百个 csv,后来我实在受不了就用 vba 写了个爬虫,然后在 excel 里自动处理一下转换成 csv 。
|
44
akira 2020-11-27 02:33:32 +08:00
运维系统啊。。正常。。
|
45
fmumu 2020-11-27 09:43:08 +08:00
有个系统要对接,又不提供接口,咋办呢
|
46
sunus 2020-11-27 10:17:45 +08:00 1
这叫 RPA
|
47
madpecker009 2020-11-27 10:30:42 +08:00
@catsoul 现在都这么抽象的了么
|
49
milukun 2020-11-27 11:14:56 +08:00
😄同类的事情还有网站的 web 端和 app 端是两个团队,app 端同步 web 端的文章数据是靠爬虫 XD
不过高级一点的是 web 端发布文章后会推送消息给爬虫,然后爬虫启动 原因是因为本来是两家公司,然后 web 端和 app 端编辑后台不是互通的 |
50
NjcyNzMzNDQ3 2020-11-27 11:19:07 +08:00
原来大家都是这么想的啊,又不是不能用。
不然沟通、折腾联调接口真的很累啊。 |
51
x66 2020-11-27 11:21:03 +08:00 1
太正常了,求别的部门给个接口比什么都难,还不如自己动手写爬虫,我们这特别是运维或者部署这块的流程,全靠爬虫实现自动化
|
53
annielong 2020-11-27 11:47:00 +08:00
好多内外不同的项目都用 ftp,看过一个据说最严的物理隔离用摄像头取数据
|
54
hareandlion 2020-11-27 13:23:11 +08:00 via Android
不同的设计标准导致最后只能从 UI 交换系统间的信息,
|
55
hareandlion 2020-11-27 13:24:02 +08:00 via Android
不同的设计标准导致最后只能从 UI 交换系统间的信息,但是……相比还在运行的上个世纪的系统,这已经算进步了吧🤣
|
56
heyhumor 2020-11-27 13:31:01 +08:00
存在即合理
|
57
wangkun025 2020-11-27 14:03:24 +08:00
赞。
|
59
supuwoerc 2020-11-27 15:13:06 +08:00
我们有个 zf 内网的项目,年头久远,需要内网文件外网预览,写了个服务专门把内网的 blob 推送到外网数据库,再下载到外网环境的机器上,再走 office web365 预览 =。=||
|
61
CallMeReznov 2020-11-27 15:58:32 +08:00 1
讲道理没有问题啊,都是小作坊,野路子山炮,能快速监控与可维护才是我最关心的.
找开发求给个状态接口跟球爹一样,还不如自己弄来的快。 工作经历类似的问题我处理过 N 多,大概举几个例子。 1.人脸抓拍系统,没有抓拍数据的统计数据报表,可业务那块每天都找我要,于是我就写了个 FLASK,你想看直接打开刷新一下。 2.机房没温度监控,可空调老爆,没办法 9 块钱的 8266+1 块钱的 BMP180,插到服务器上然后用 zabbix 取值监控,最近我还搞了个小的抬头显示在我面前,可以随时看到机房温度,后面还想实现 ADB 电话与红外控制空调,和断电检测。 3.前端摄像头在线率没办法统计,写了个端口监控更新状态,然后用 DJANGO 做后台管理展示. 4.游戏业务被攻击,接口有问题被各种 CC 和撞库,还有直接注入到库游戏金币为负数的,开发解决不了就自己写脚本定时检测封禁。 |
62
jsjgjbzhang 2020-11-27 16:08:19 +08:00
别说小公司了 就是大公司也有这么干的
|
63
wolong 2020-11-29 19:01:54 +08:00 via iPhone
两套系统,应该是常规操作了。之前维护过一个系统,要求供应商提供接口,但是价格翻倍(原价一年 20 万,提供接口要 40 万),老板不愿加钱,让我们自己想办法。除了爬虫还能有什么方法。
另一套系统也是不提供接口,不过使用了数据库,我们直接连到了远程数据库取数据,后来公司换了一个技术负责人,说不给这样直接连接远程数据库,又只好用爬虫。 |
64
julyclyde 2020-11-30 19:58:57 +08:00
宽松耦合
|