zhyim 最近的时间轴更新
zhyim

zhyim

V2EX 第 658919 号会员,加入于 2023-11-02 14:27:15 +08:00
8 卡 H100 部署 DeepSeekR1 求助
Local LLM  •  zhyim  •  54 天前  •  最后回复来自 weiming
15
出个 ipadpro2020 国行 BS 资源机
二手交易  •  zhyim  •  169 天前  •  最后回复来自 zhyim
3
这是新套路吗?
问与答  •  zhyim  •  172 天前  •  最后回复来自 zhyim
12
收个可巨魔的 13PM
二手交易  •  zhyim  •  174 天前  •  最后回复来自 Dashit
10
这次 Macmini m4 的升级也太大了
Apple  •  zhyim  •  178 天前  •  最后回复来自 zhyim
91
mini6 会降价吗
Apple  •  zhyim  •  190 天前  •  最后回复来自 zhyim
43
Public Beta2
iOS  •  zhyim  •  274 天前  •  最后回复来自 Silently
16
zhyim 最近回复了
AI 搞不下去了会不会把 Mac 内存改回 8G ,iPhone 内存改回 4G
还不如加点钱上 iPhone16e[#狗头]
大乱斗启动器
54 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@volvo007 我不知道啊,我们只负责部署,硬件这块 IT 搞的,是 nvlink 的
54 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@weiming 能支持多少并发啊,我用的 GPUStack 里面那个 vllm
54 天前
回复了 zhyim 创建的主题 Local LLM 8 卡 H100 部署 DeepSeekR1 求助
@weiming awq 推理速度特别慢,只有 6t/s
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2523 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 21ms · UTC 15:38 · PVG 23:38 · LAX 08:38 · JFK 11:38
Developed with CodeLauncher
♥ Do have faith in what you're doing.