某品牌 N6005+四网口 i226-v ( 2.5Gbps )软路由(第四版),作主路由。
家宽速率:下行 1000M ,上行 230M ;内网速率:软路由网卡接口均自动协商至 1Gbps ,因为交换机和主要客户端设备均未升级 2.5G 网卡)
N5095/N5105/N6005 可能都有问题,i225 或 i226 各版本也可能都有问题,产品版本可能横跨厂商定义的第 1 版-第 4 版。
软路由系统不一定限于 OpenWrt ,爱快可能也有问题。pfsense 等 FreeBSD 版本系统是否有问题也不清楚。
主路由必然有问题,旁路由和单臂路由是否有问题不清楚。
但本文讨论对象以笔者以及大部分网上相关帖子贴主使用的OpenWrt 主路由使用环境为主。
在** [物理机直装 /ESXi/PVE ] 条件下使用 [不同内核 /不同版本的定制 /自编译固件] 时,使用其他设备连接至 op 网关,挂 qbittorrent 跑 PT (包括任何跑满带宽的多线程下载 /上传行为),①高负载状态下,OpenWrt 主路由系统必定在15 分钟-48 小时内,发生②“软重启”或③“使用特定固件在 PVE 环境中报错崩溃”。** 触发错误所需要的时间,实测 PVE 条件下最快只需 15 分钟,ESXi 通常发生在 24 小时-48 小时。
(①所谓高负载,是指:下载速度通常跑在 60MB/s 以上,极限在 110MB/s 左右,上传速度可以跑至 28MB/s 左右,上下行可以同时跑满带宽,活动连接数从 4000-17000 不等;实际触发问题所需要的速率和连接数可能不需要如此极限,但如果使用者操作强度太低,有很大概率没有能力触发 bug 。很多人可能误以为“没有能力触发问题=没问题”,导致网上出现大量无效的解决方案,使得深陷泥潭的求助者误入歧途,浪费很多时间精力。)
(②所谓“软重启”,是指:在物理机直装或 PVE/ESXi 虚拟化环境下,即便实现在 op 开启系统日志自动转储,崩溃发生时也不会有任何异常日志记录,而是直接显示自动重新执行系统引导的过程日志; 而在 ESXi 或 pve 虚拟化环境中,软路由自动重启的同时,ESXi/pve 宿主机控制面板本身不会检测到 op 虚拟机发生的任何错误或重新引导状态,虚拟化宿主机操作系统安然无恙,且控制面板内记载的 op 虚拟机运行时间压根不会归零重新计算,日志亦无明显异常。)
(③所谓“在 PVE 环境中报错崩溃”,是指:使用特定固件时,重复上述触发条件,op 虚拟机控制面板直接失灵,pve 系统日志报 KVM internal error ,此时只能通过 shell 命令行 kill 虚拟机子进程或重启 pve 才能重新控制 op 虚拟机。)
1 、《 N5105 软路由环境下,电脑使用 IDM 同时下载超过 100 个文件,会随机触发软路由重启》
https://www.v2ex.com/t/860850
2 、《 N6005 主机反复不定时自动重启》
https://github.com/coolsnowwolf/lede/issues/8781
3 、《[openwrt(x86)] [已解决] 虚拟机软路由,迅雷下载流量一大 OpenWRT 就自动重启》
https://www.right.com.cn/forum/thread-8236555-1-1.html
(这个贴主的 OpenWrt 并非主路由,而是旁路由,他的解决方案颇有些掩耳盗铃:将负责多线程下载的群晖操作系统直连主路由,避免流量经过会出问题的 op 旁路由设备。这个案例没有借鉴价值。)
4 、《[虚拟机相关] 发现 5.15 的 Openwrt 内核在 PVE 上必然软重启》
https://www.right.com.cn/forum/thread-8240769-1-1.html
5 、《[虚拟机相关] N5105 第四版 PVE+爱快 不定时重启问题》
https://www.right.com.cn/forum/thread-8250514-1-1.html
6 、《[虚拟机相关] pve 安装的 openwrt,经常自己重启什么原因?》
https://www.right.com.cn/forum/thread-8236555-1-1.html
1 、清热去火:放弃解锁功耗墙版 BIOS ,回滚至旧版 BIOS ,锁 CPU 频率维持在 0.8Ghz ,双暴力风扇散热。PVE 控制面板显示温度长期低于 55°C ,最低可低至三十多度;
2 、柳暗花明又一村:替换 /尝试不同 linux 内核及 op 版本的固件;
3 、奥卡姆剃刀:编译时去除 Turbo ACC 插件,调整任何与软件加速 /流量分载相关的功能,禁止启用除基本网络功能外的所有插件和可能引发稳定性问题的功能(包括 IPv6 );
4 、瞎猫撞死耗子:更换 PVE 内核 /ESXi 版本,调整各种与硬件相关的设置碰运气(可参考以上帖子提及的任何关于虚拟机配置的修改选项);
包括某博客文章《解决 PVE 下虚拟机自动重启 / Kernel Panic 》(链接: https://blog.mbrjun.cn/archives/412 )提及的 PVE 配置方案。
1 、多因一果:
**在 PVE 环境下,即便不做高连接数,不开任何多线程下载,单纯压测 CPU ,人为提高 CPU 温度至 75°C-83°C 之间维持不变,大约经过 30 分钟仍然会出现软重启(此时虚拟化宿主机操作系统依旧不会崩溃)。
大概可以断定:温控不到位可能会导致表面上一模一样的软重启问题,应该和网卡温度高于 70°C 操作温度有关。但高温触发条件和上述多线程下载的触发条件并无紧密关联(基于 CPU 降频条件下多线程下载的“极寒试验”),可能分别为独立的诱因。
2 、就“ESXi 可否解决问题”而提出的截然矛盾的答案:
ESXi 比 PVE 有明显更为出色的稳定性,但绝对无法避免软重启问题;部分帖子中少数网友提到 ESXi 不再出现软重启问题,与本人实际情况截然不同,至少有以下 4 种可能:
( 1 )硬件设备压根不相关,误以为自己用的同系列 CPU 或网卡;
( 2 )由于 ESXi 软重启频率相比 PVE 显得过低,误以为情况改善=问题解决,放松警惕;
( 3 )根据不同使用条件,软重启可能引发的连锁反应严重程度大不相同。感知不到软重启余波的群体大概率没遇到以下情况:
a. 在特定 bug 固件中,软重启有概率导致 Passwall 或 openclash 插件崩溃,导致断连外网访问,不会自动恢复;
b. 对拨号获取的公网 IP 地址网段高度敏感:这就是为啥我一开始用 ESXi 就敏锐地发觉了问题,因为我 tm 开了电信精品网,好不容易播到的 58.32 网段,一软重启直接梦回 163 网段,就得不停人工或依赖 shell 脚本重播。播频繁了还会触发短期风控(禁止拨号,提示认证失败),气死。
( 4 )压根不搞高负载 /多线程下载的使用行为;或即便搞多线程,但由于购买的宽带套餐速率不高,或运营商有连接数限制,导致其能力范围内的极端“高负载”远不及千兆带宽用户以及 PT 玩家的极端使用习惯,因此没有能力触发上述问题。
3 、议题混淆
本文及上述帖子提到的软重启或 PVE 虚拟机崩溃,与此前 i225 系列网卡出现的断流情况无关,后者可以在 op 系统日志中轻易探查到接口 down & up 的情况,而前者则显得尤其诡异,难以判断问题根源;很多讨论往往混淆了这两个相互独立的问题。
改用 Windows Server 搭配 Hyper-v 网卡直通给 op ,直通前对网卡配置做调整(教程提供的调整方法意义不明,是否存在性能影响暂无感知)
《[openwrt(x86)] 疑似可解决 N5105 、i225v 网关虚拟机软重启的问题》
https://www.right.com.cn/forum/thread-8248900-1-1.html
《 [ N5105 软路由(后传)] Hyper-V 网卡直通完整版 进阶教程新手小白勿入 i 》 8 分 35 秒起
https://www.bilibili.com/video/BV1TS4y1873Q
《[虚拟机相关] [ 7.30 更新] WinServer_2022@R86S&CW-N5105_Hyper-V 集成 i225 网卡驱动及网卡直通》
https://www.right.com.cn/forum/thread-8223928-1-1.html
继续使用 PVE ,但换用 LXC 容器
《[openwrt(x86)] PVE-LXC 搭建 Openwrt (同时解决 5105 重启)》
https://www.right.com.cn/forum/thread-8252802-1-1.html
软路由小厂商技术实力和产品可靠性实在堪忧,他们估计压根不知道自己卖的 N5105/N6005+i225/i226 产品出现的软重启问题,且很大可能具有普遍性、固有性,而和设备温度 /物理机直装或虚拟化方案的选择 /op 固件版本几乎没有紧密联系。
或者换个角度说,目前搭载该系列赛扬 CPU 和同系列及衍生的 2.5Gbps 网卡产品的设备仍然需要谨慎入手,intel 自己产品存在问题,或目前虚拟化操作系统兼容性不足。特定群体,尤其是 PT 玩家和日常高负载玩家,并且极度厌恶上述提及的解决方案的(例如不喜欢 hyper-v 虚拟化方案或 pve-LXC 容器),请三思而后行。
从原理并不明朗的解决方案看,怀疑软重启问题很可能和硬件、驱动或 BIOS 有关。
发此贴,单纯是为了将该问题做一个阶段性归纳总结,以便为后续讨论和解决问题提供参考。
关于 Windows 环境下网卡高级选项卡属性的配置(主要为禁用几种功能或技术特征?),想咨询各位大佬前述帖子修改的选项所对应的含义,解读为啥禁用这些选项能解决软重启问题,进而倒推分析出软重启的问题根源。同时兼分析禁用下述选项是否对性能或稳定性产生负面影响。
禁用的功能包括:
1 、IPv4 校验和卸载
2 、TCP 校验和卸载( IPv4 )
3 、TCP 校验和卸载( IPv6 )
4 、UDP 校验和卸载( IPv4 )
5 、UDP 校验和卸载( IPv6 )
6 、大量发送卸载 V2 ( IPv4 )
7 、大量发送卸载 V2 ( IPv6 )
8 、流控制(笔者注:i226 网卡对应的时“流量控制)
9 、中断裁决(笔者注:实测不禁用它也不妨碍问题解决)
1
putaosi 2022-09-12 03:16:34 +08:00 via iPhone
此问题是主板本身设计缺陷
|
2
davidyin 2022-09-12 04:07:11 +08:00 via Android
软路由直接安装,别放在虚拟机里。
|
3
yyzh 2022-09-12 04:19:35 +08:00
主板问题吧,之前淘宝买的无风扇 6 口软路由就是 3 天 2 头死机,现在换了三大厂出的 ITX 主板之后就没再出过问题.
|
4
szdosar 2022-09-12 06:50:01 +08:00 via iPhone 1
老实说,看这个帖子,有点累,点进来竟然没看完。
|
5
ryd994 2022-09-12 06:59:30 +08:00 via Android
如果你只是需要禁用这些 offload 的话 ethtool 就可以关。
ethtool -K ethN tso off ethtool -K ethN gro off 以此类推 你可以用 ethtool -k 查看当前设置 如果是 Debian 系也可以尝试 https://serverfault.com/questions/421995/disable-tcp-offloading-completely-generically-and-easily/849696#849696 |
6
ryd994 2022-09-12 07:07:39 +08:00 via Android
https://docs.vmware.com/en/VMware-vSphere/7.0/com.vmware.vsphere.networking.doc/GUID-78A92BE1-8901-425E-AAA9-C3B6FD2B402B.html
这是 esxi 的方法。 禁用后性能可能下降。 可以启用 gso/gro ,这两个不涉及硬件但可改善性能。 |
7
swiftg 2022-09-12 08:02:49 +08:00 via iPhone
楼主竟然写了篇论文出来,看着真舒服
|
8
swiftg 2022-09-12 08:12:28 +08:00 via iPhone
临时用 realtek 的 USB 网卡测试下呢?排除英特尔网卡的问题
|
9
xxb 2022-09-12 08:22:57 +08:00 via iPhone
bios 禁用 turbo 试试
|
10
Johnoo 2022-09-12 08:52:29 +08:00 via Android
感谢老哥严谨的测试,跟我这边的结论大致相同。我正在开发一款同样使用 N5105/N6005 的主动散热多网口产品,到时候恳请老哥也来个压测。了解项目 https://wiki.ikoolcore.cn 感谢。
|
11
Greenm 2022-09-12 09:35:26 +08:00 via iPhone
虽然暂时用不上,但楼主的分析和测试很严谨,有说服力,我收藏了。
|
13
hadoop 2022-09-12 10:07:45 +08:00
看起来是帝都联通双拨的网络环境啊
|
14
qdcv123 2022-09-12 10:56:54 +08:00
intel cpu 问题 应用级 BUG
|
15
lleohao 2022-09-12 11:04:33 +08:00 via iPhone
我后来还是单独用了路由器 + debin 旁路由模式
|
16
Tink 2022-09-12 11:27:16 +08:00 via Android
不走虚拟化还有这个问题吗
|
17
Tink 2022-09-12 11:39:48 +08:00 via Android
是不是网卡直通的问题
|
18
wtks1 2022-09-12 11:46:45 +08:00 via Android
老哥真是严谨啊
|
19
yujincheng08 2022-09-12 11:49:45 +08:00 via Android 2
同硬件配置,但是这边遇到的问题不是软重启,而是 pve 虚拟化的 pcdn 会在高负载下死机。仅仅是 kvm 死机,pve 本身和其他虚拟机不会有问题。死机时查看虚拟机没任何内核日志,pve 内核日志也没有有用信息,此时会发现 CPU 的其中一个核被 kvm 吃满,强行重启 kvm 可以解决,但是一定时间后问题会再现。尝试更换不同内核或者 pve 版本能缓解问题。改用 lxc 或者 docker 不会出现问题。
|
20
cue 2022-09-12 12:48:34 +08:00
只有我的关注点在,为啥你家的上行速率可以到 230M ,我们这里最多只哟 30M
|
21
HFX3389 2022-09-12 14:37:53 +08:00
怪不得现在 J4125 的价格还是降不下来,原因是这个....
|
22
hellskof 2022-09-13 16:48:39 +08:00
所以为什么不直接买 J4125 版本
|
23
ZYMah 2022-09-19 14:32:36 +08:00
LXC 容器安装 OpenWRT 暂时稳定: https://zhaiyiming.com/archives/openwrt-lxc-on-r86s.html
|
24
yamabu 2022-09-20 10:15:48 +08:00 via iPhone
你如果有办法抓到崩溃时的内核日志,譬如硬件串口,可以很清楚的看到发生了什么。直接说结论,可以使用 5.19 以上内核,openwrt 如果没有这么高的内核版本,可以放在 5.19 内核宿主机的虚拟机里。
|
25
DhhhhhhL 2022-09-20 14:41:51 +08:00
老哥这个行文逻辑真不错
|
26
465456 2022-09-21 18:43:19 +08:00
大佬写的小作文厉害,千兆网卡用官方 op 稳如狗
|
27
FabricPath 2022-09-30 15:55:08 +08:00
这个 CPU ,即使裸机跑 debian ,也会经常性报 traps 、乱七八糟的内存访问异常。
楼主检查一下 dmesg 看看有没有类似的错误。 我现在就只剩内存一个怀疑点了,其他都换过了,如果大家的 dmesg 里面都有乱七八糟的内存访问异常,那就锁定 CPU 的问题了。 |
28
ungrown 2022-10-01 11:53:24 +08:00
楼主的小标题太逗了,我只看小标题就好开心
|
29
MeDeath 2022-10-06 15:28:54 +08:00
我之前用 4125 225VB3 和 4105 螃蟹 8111 用的 EISR 的 OP 5.10 和 5.15 和 SIRPD 的 5.15 PC 下 BT 和迅雷这些,1W+连接数就开始断流,(此时迅雷队列 50 个,BC 队列 100 多个 下行跑在 120MB/S 上行 10MB/S 左右)最后试了下 esir 的 op5.4 内核又没啥问题,但是端口回流有问题,最后还是看群友推荐上了爱快,问题都解决了
|
30
ZYMah 2022-10-08 18:26:51 +08:00 1
已持续运行 21 天,当然由于使用的 LXC 容器,OpenWRT 的内核已经完全不起作用了,Turbo ACC 无法启用,但是不影响使用。https://zhaiyiming.com/archives/openwrt-lxc-on-r86s.html
|
31
blues9 2022-10-10 13:14:04 +08:00 1
赞严谨。所以目前最稳的还是 j4125 ?
|
32
Melodyer 2022-10-13 11:21:02 +08:00
@ZYMah 大佬,问一下,LXC 下的 OpenWrt 软重启(指直接在 OpenWrt 系统内 reboot 重启)后能正常 PPPoe 拨号吗?我的不行,必须得在 pve 控制面板下重启 OpenWrt 实例才行。
|
33
Motionall 2022-10-14 09:02:13 +08:00
|
34
gujiangjiang 2022-10-14 10:40:08 +08:00
刚才差点就买了,还好刷到这篇文章,给力
|
35
yry0008 2022-10-17 17:49:00 +08:00 via iPhone
|
36
feirisu 2022-10-19 15:04:08 +08:00
我畅网的 N5105 第五版,单装 op 用 esir 的精品小包已经跑了俩月没问题了。
|
37
lexin132 2022-10-19 17:16:48 +08:00
这两天想搞一台,然后就看到 i225 翻车了,后来看人说 i225b3 也翻车了,现在 i226 也翻车了,黄鱼里 j4125+i210 比现在的新款都贵,我还有什么选择。。
|
38
yujincheng08 2022-10-23 00:19:03 +08:00
|
39
yujincheng08 2022-10-23 00:20:10 +08:00
@yry0008 我更新试过一段时间,似乎有改善。但是也有人报告 5.19 会死。
|
40
FabricPath 2022-10-26 13:08:01 +08:00
@yujincheng08
可以试试 6.0 ,我跑了一周多了,稳定,网心云也稳定 |
41
Melodyer 2022-10-26 17:35:23 +08:00
@FabricPath 6.0 内核还是 PVE 6.0 版本?
|
42
FabricPath 2022-10-27 10:09:12 +08:00
@Melodyer 内核
|
43
Melodyer 2022-10-27 14:13:02 +08:00
@FabricPath 有链接么,我看官方的目前支持到了 5.19
|
44
FabricPath 2022-10-27 14:31:49 +08:00
@Melodyer 我自己编译的,可以 clone 一份下来 make 一份,或者看看别人有现成的 deb 没
|
45
zycboss 2022-10-28 10:33:02 +08:00
N5105+i255V3 ,我跟你一模一样的问题,折腾了一个月主路由怎么都不行,现在换成旁路由,稳的一逼,流量再大也不怕,挂机下了一天的电影也没重启,已经正常用了两个月了,所以就别当主路由就完事了
|
46
zycboss 2022-10-31 11:30:40 +08:00
现在有 J6413 的版本了,不知道是不是 N 系列的 bug ? J 系列如果没有就换 J6413
|
49
allen2000 2022-11-04 19:30:52 +08:00 1
可以试一下这个方法:
1. 升级 PVE 内核到到 pve-kernel-5.19.7-2-pve apt update apt install pve-kernel-5.19 reboot 2. 然后安装 microcode update 后重启 https://wiki.debian.org/Microcode |
50
Jacksu 2022-11-13 23:27:35 +08:00
@allen2000 5.19 官方内核之前安装了核显不能硬解,需要怎么设置?目前用的 5.17 非官方内核在 LXC 里面可以成功安装 PLEX 硬解
|
51
allen2000 2022-11-14 09:13:49 +08:00
@Jacksu 这个倒不清楚,我没用使用核显硬解。我用的是 Intel NUC11ATKC4 ,安装 PVE 后,VM 装了 openwrt 和 debian ,升级内核和 microcode 后,目前运行稳定,没有出现过 VM 重启等异常现象了。
|
52
yujincheng08 2022-11-15 15:32:26 +08:00
N5105 升级 pve-kernel-5.19 ,然后 sources.list 里面加上 non-free 源升级 intel-microcode 之后,问题似乎得到解决。
N6005 升级 pve-kernel-5.19 ,并且在 sources.list 里面加上 **sid** 的 non-free 源升级 intel-microcode 之后,似乎也能解决。 |
53
zycboss 2022-11-18 12:02:18 +08:00
@yujincheng08 建议多跑几天下载,至少稳定 1 周之后再说
|
54
FabricPath 2022-11-24 15:31:36 +08:00
@yujincheng08 我之前本来以为好了。。。结果这周宽带升级了之后,100MB/s 下东西的时候+HDMI 输出看电影,机器负载 80%左右。机器直接死了,宿主机死了,没有任何信息输出,通过调整 coredump 和接串口,确定了不是 kernel panic ,就是 CPU 直接 halt 。。。离了个大谱
|
55
wolf1981 2022-11-26 20:10:46 +08:00 via iPhone
有在用 j4125+i226 的吗?是否也有此问题?若没有软重启问题,要把 N5105 出掉重新买 j4125 版本的,N5105 放弃了
|
56
zinkworld 2022-11-27 08:00:12 +08:00
我使用 Ubuntu22 跑 OpenWrt 的 kvm 虚拟机也是各种重启,主路由旁路由都有这个问题。
什么关 TurboACC 、开 IOMMU 、升级 5.19/5.17 内核都没用(不过之前尝试过硬装,没什么问题) 日志什么的也找不到什么信息,实在是不知道该怀疑什么了。 现在关了 Openclash 再看看是不是一些代理软件的问题,准备下一步再尝试下 docker 或者 lxc 跑了。 |
57
allen2000 2022-11-30 14:03:24 +08:00
Intel NUC11ATKC4 ,升级 PVE 内核到到 pve-kernel-5.19.7-2-pve ,并且安装 microcode update 后。目前已经稳定运行 22 天了,看来问题好像解决了。
|
58
CharlesZ 2022-12-01 16:47:17 +08:00
@Johnoo 很有兴趣,我们实验室卸现在高峰时期有一百多台设备,开会时候(高负载,连接数过多)会崩掉。不知道你这款设备怎么样?
|
59
ghell 2022-12-08 22:37:29 +08:00
@wolf1981 最近的 N6000+i226(r71s),esxi+op ,目前没有发现大负荷下载时虚拟机重启,性能比 n5105 强,准系统价格应该可以做到 6xx
|
60
metadx 2022-12-09 11:16:01 +08:00
@ghell
这个 R71S 也有同样问题。 我这两天机子刚到。我是 PVE7.3-3 ,跑 Mikrotik 的 CHR7.6 做主路由,网卡都是桥接给 CHR 的。上传大概 300-400mbps ,下载很小 20-30mbps ,上下行包转发率大概 |
61
ghell 2022-12-09 11:25:36 +08:00
@metadx 我是 ESXi 7.0u3g ,op 主路由,虚拟机 win10 ltsc 下载。pt 下载能稳定在 75MB/s ,高峰能到 105MB
|
62
metadx 2022-12-09 11:27:50 +08:00
@metadx
刚才没有编辑完就误发。再补充一下。 我这两天机子刚到。我是 PVE7.3-3 ,跑 Mikrotik 的 CHR7.6 做主路由,网卡都是桥接给 CHR 的。 上传大约 300-400mbps ,下载很小 20-30mbps ,上下行包转发率合计约 70-80kpps 。 也是虚机不定时重启,七八个小时之内,有时候流量不大就 100-200mbps ,也会重启。 |
63
ghell 2022-12-09 11:36:30 +08:00
@metadx 我虚拟机真还没重启过,op 稳定跑了 3 天了,期间 pt 下载了大概 600GB 流量。唯一问题是 win10 虚拟机的 i226 网卡死过(直通网卡),但机器没死,估计可能还是 intel 网卡驱动 问题,现在把直通网卡禁用了,暂时用 esxi 的虚拟网卡( VMXNET3 ),cpu 占有率高大概 5-10%(主要是系统中断占用高了),还需要排查一下。
|
64
paranoiagu 2022-12-09 21:14:05 +08:00
618 买过 N5105 ,真的很喜欢这个小机器,但是虚拟机会重启。最后还是推了。然后内存啥的还只能低价二手卖出。
|
65
metadx 2022-12-14 20:56:08 +08:00
关于最近的 N6000+i226(r71s),pve 和 esxi 都不行,pve 和 esxi 自己没事,很稳,就是虚拟机不稳定,会重启。
楼上的 pve7 最新内核 7.19 升级 microcode 都测试了不行。esxi 7 u3g 测试也是不行 没办法,也退了 |
66
zycboss 2022-12-15 15:55:31 +08:00
最近在 TG 群里发现一个偏方,把 LAN 的 MTU 改成 9000 也就是巨帧,那位老哥天天跑下载已经稳定半个月没重启了,各位可以试试,至于 MTU9000 的各种副作用……我只能说这是个偏方……
|
67
misadonfdfl 2022-12-19 09:52:34 +08:00
持续关注本贴
|
68
misadonfdfl 2022-12-19 14:47:24 +08:00
PVE 内核已升级 6.1 持续观察下。
|
69
misadonfdfl 2022-12-21 09:05:50 +08:00
@misadonfdfl #68 6.1 OP 也软重启
|
70
yxguy 2022-12-23 07:31:30 +08:00
期待能解决 N5105+i225 在大流量工作时出现软重启及死机这个问题,说一下我个人的探索及结果:
1 、无论 PVE 、EXSI 、hyper-v 均有出现软重启的问题,而且在 pve 、exsi 有一定的概率出现 CPU 高占用且死机的问题,hyper-v 目前只是出现过软重启,暂未出现过死机; 2 、PVE 更新过最新内核,更新过微码,均无法解决该问题; 3 、使用的内存条的最高工作频率是 3200 ,尝试过手动改低工作频率到 2400 ,无法解决问题; 4 、改善主机散热,主机温度没超过 60 度,但还是会出现该问题; 5 、更换 pve 内 i225 的 igc 网卡驱动,使用 linux 的源代码重新编译驱动.ko 文件,替换原内核的驱动,可以正常工作,但出现的问题还是一样会软重启及死机; 6 、更换过 pve 内 n5105 的 cpu 调度模式,无论是 powersave 还是 performance 都无法解决该问题; 7 、更换网卡 MTU 设置,设成巨帧 9000 ,可以正常工作,但问题照旧; 8 、使用 pve 试过最长 9 天没有出现问题,exsi 最长 48 小时不出现问题,hyper-v 最长 5 天没出现问题; |
72
yxguy 2022-12-26 11:56:20 +08:00
@yxguy 有点失望,hyper-v 内的虚拟机同样会 CPU 高占用率后死机,由于可以知道和哪个虚拟机平台关系不大,看来缺陷是在硬件层级或者主板、bios 层级。
|
74
allen2000 2023-03-16 11:01:01 +08:00
@nigga 到现在出现过一次自动重启,内核还是 pve-kernel-5.19.7-2-pve ,没有升级,个人感觉基本可以算是稳定使用。
|
75
helloet 2023-03-17 17:20:19 +08:00
350 入的 N4100 ,一劳永逸
|
76
misadonfdfl 2023-03-21 15:07:39 +08:00
pve 6.2 出来了,可以试试看还重启不。
|
77
yxguy 2023-03-21 22:44:46 +08:00
目前该问题已确认最终解决,解决方法见 PVE 官网论坛,目前已稳定运行 17 天,以往一天重启两至三次。
|
79
yxguy 2023-03-22 06:47:08 +08:00 1
|
80
hxhajava 2023-03-24 10:05:01 +08:00
@yxguy 大佬,我看了下您发的那个地址,里面好像也没有具体的结论。只有一个说吧微码更新到 24 好像稳定了 10 来天,但他还在测试中。请问大佬您也是更新了微码嘛?
|
81
yxguy 2023-03-26 10:01:31 +08:00
@hxhajava 目前我做了两件事,1 、更新到最新内核 6.1.10 ,还有更新的内核,因为机器一直没有重启,一直生效的是 6.1.10 ; 2 、更新 0x24 的微码;
总的来说微码才是最终那个开关,目前已稳定运行了近 22 天,一直都没有问题,所以基本上可以确定问题是最终解决的了。剩下的就是希望主机厂家更新 BIOS ,把最新有效的微码更新进去,这样就可以不分平台,不分系统使用了,现在 PVE 是没有问题,EXSI 和 HYPER-V 还没有试过。 |
82
Litccc 2023-03-26 23:26:11 +08:00
|
83
hxhajava 2023-03-27 18:20:49 +08:00
@yxguy 好的,谢谢大佬。我目前只更新了微码。没更新内核。我感觉很大的概率是微码的问题。我在 hyper-v 、esxi 都会有虚拟机重启的问题。每次抱的错也是因为 cpu 报错
|
84
x2009again 2023-04-13 10:16:12 +08:00
@Melodyer #32 我最近换了电信后也发现了这个问题,以前用的联通宽带好像没有遇到这个问题(不知道我是不是修改了什么不记得了),我看了下主要是 hookscript.pl 挂载的 /dev/ppp 丢失导致的,增加了 lxc.mount.entry: /dev/ppp dev/ppp none bind,create=file 这个后,重启 openwrt 又提示 operation not permitted ,现在还没有找到解决办法。
|
85
xlsepiphone 2023-04-18 11:57:38 +08:00
```bash
# 列出可安装内核 apt search pve-kernel|grep pve-kernel- # 安装内核 apt install -y pve-kernel-6.2 # 升级 apt -y dsit-upgrade # 安装微码 apt install -y intel-microcode ``` |
86
xlsepiphone 2023-04-18 11:58:02 +08:00
最后 reboot
|
87
misadonfdfl 2023-04-20 13:42:45 +08:00
已安装:intel-microcode 3.20230214.1 ,不知道是否能解决。
|
88
yxguy 2023-04-20 19:13:31 +08:00
https://www.changwang.com/已经发布最新更新微码的 BIOS ,还没有更新测试,需要的同学可以更新,已经确认是微码影响到稳定性,更新 0x24 微码后,目前已稳定运行超过 45 天了。
|
89
qiaamei 2023-04-22 10:49:55 +08:00
@x2009again
我也有这个问题,我是 N100 的机器,只要 reboot openwrt , wan 口就失联(可以在 openwrt 主界面看到 wan 口是空的),导致不能拨号,只能在 PVE 控制台重启或者关机 openwrt ,才能恢复这个 wan 口,openwrt 里面日志也是说 /dev/ppp 丢失,请问你解决了吗 |
90
x2009again 2023-04-22 11:09:56 +08:00
@qiaamei #89 我解决了,这是我的贴子 https://www.right.com.cn/forum/thread-8276823-1-1.html
|
91
qiaamei 2023-04-22 22:42:13 +08:00
@x2009again 谢谢你的帮助我安装你的教程确认成功了现在 reboot ,wan 口能找到了,但是 还是有点问题,这个 wan 我是 pve 直通过来的 本身是 2.5G 的口,我的宽带目前是 1000M, 正常情况是 1000M 但是 reboot 后有一定的几率这个口会变成 100M,我试了 15~16 次有 3 次变成了 100M
对了 我只做到 dnsmasq 截止,vlan 部分我用不到所以没改,但是非常感谢你,这个教程确实解决了 reboot 找不到 wan 口的问题,在这以前我都是用 pve 的手机客户端来重启 openwrt 或者 手机 ssh 到 pve, pvesh create /nodes/pve/lxc/100/status/reboot 非常的麻烦 |
92
x2009again 2023-04-22 23:34:38 +08:00
@qiaamei #91 关于 reboot 后端口从 2.5G 变为 100M 的情况我没有留意过,我的也是 pve 直通千兆口给 openwrt 做 wan 口的,vlan 和这个无关
|
93
x2009again 2023-04-22 23:37:24 +08:00
@qiaamei #91 还有你怎么知道变成 100M 口的?我看了下 openwrt 没有显示网口的宽带,如果通过 openwrt 可以查到网口只有百兆的话,那可以增加一个 crontab ,判断只有百兆口就自动 reboot
|
94
qiaamei 2023-04-23 09:03:18 +08:00
状态-接口就有,接口信息插件 autocore 一般都自带的基础插件,你截图做 vlan 接口页面也有能看到啊
|
95
onion83 2023-05-07 02:03:56 +08:00
-- 2023/05/07 --
i225v3 目前联想已经有新固件,1.89 可以更新试试看 1 、官方驱动: https://pcsupport.lenovo.com/us/zc/downloads/ds562775-gbe-nvm-image-for-intel-i225-ethernet-for-windows-11-version-21h2-or-later-10-64-bit-version-1809-or-later-thinkpad-p15-gen-2-p17-gen-2-t15g-gen-2 2 、刷机教程: https://www.mobile01.com/topicdetail.php?f=504&t=6780582 pve 或者 linux DIY 的话如果可以更新 microcode 在内核层面进行软补丁 1 、添加软件源 intel-microcode 工具: https://wiki.debian.org/Microcode 2 、安装教程: https://zinglix.xyz/2023/03/22/pve-n5105-freeze/ - 固件更新前后 - Intel microcode 更新后 - 通过 10 分钟 iperf3 满载打流测试 主管感受:原本 aqc107 + i225v3 1 小时候内必断,目前情况大为改善,基本没断过了(还需继续观察。。) |
96
flynaj 2023-05-09 03:05:59 +08:00 via Android
先用 memtest 测试一下内存,然后用 aida64 压测一下 CPU 。openwrt 用原版试试看。按照你说的感觉是用了开发版 CPU 。
|
97
flyPig21 211 天前
突发奇想,把风扇改成固定转速,再也没重启过,故判断是风扇高转速下,影响供电问题
|
98
galaxyskyknight2 164 天前
这问题可以结案了,就是英特尔 CPU 微码的问题,更新到 0x24000024 以上就好了,最新的是 0x24000026, ESXI 如果 ISO 没包含,可以自己手打 patch. 具体自己搜方法。
|
99
galaxyskyknight2 164 天前
@galaxyskyknight2 软路由需要同时更新包含相关微码的 BIOS.要厂家提供。
|