newbeelity 最近的时间轴更新 newbeelity 最近的时间轴更新 |
newbeelityV2EX 第 346935 号会员，加入于 2018-09-04 13:40:30 +08:00今日活跃度排名 11232 |
newbeelity 最近回复了
13 天前 回复了 886106 创建的主题 › Apple › Studio M4max 128G 是否合适跑大模型 |
@swmjjy 感谢，马上去试试：）
13 天前 回复了 886106 创建的主题 › Apple › Studio M4max 128G 是否合适跑大模型 |
多张民用显卡叠加跑模型一直是个问题，目前仅有软件方案 exo 等（仍在 beta ），虽然官方出了 nvlink 硬件，但支持的显卡，及数量都是优先的。所以用民用显卡显存堆起来跑大尺寸模型本身就不可行。我给楼主的建议是，mac studio 可行，速度还能接受，每秒 20 个 token 左右
-- 来自 m3 ultra 512G 统一内存用户
-- 来自 m3 ultra 512G 统一内存用户
13 天前 回复了 886106 创建的主题 › Apple › Studio M4max 128G 是否合适跑大模型 |
请教一下 8 张 2080 怎么硬件交火，用什么交火硬件
@mumbler
@mumbler
66 天前 回复了 dnjat 创建的主题 › 程序员 › 如何开发一款会议室(音视频)产品？好像有点难 |
感觉要有架构师或者产品角色，理一份成本表，3 个研发按照资深程度，200 万/年。同样买产品 xx 万。自研优势可控、劣势周期长，效果一般
74 天前 回复了 yintao0303 创建的主题 › 问与答 › 推荐一款 3k 以内适合爸爸用的手机 |
152 天前 回复了 malagebidi 创建的主题 › 罗技 › 罗技鼠标计划性报废，还有什么推荐的？ |
就是计划性报废，我一直玩 FPS ，罗技换了好几个，都是双击问题。最后一狠心就了个 30 块钱联想的最低端鼠标，用了 4 年没坏！！！
167 天前 回复了 rookie2luochao 创建的主题 › Blogger › 让我看看哪些同学在长期坚持写原创博客和为爱发电迭代开源项目，留下自己的博客或者 github 主页观摩一波 |
https://nops.icu 运维不加班
223 天前 回复了 tangzhiyong 创建的主题 › Linux › 只有两台服务器的情况下如何搭建高可用集群 |
无状态的话稍简单，用一些 dns 全局流量管理，GTM
有状态则要考虑数据一致性，所以看你描述，不太可能了
有状态则要考虑数据一致性，所以看你描述，不太可能了
247 天前 回复了 xiaoxiaoikhoud 创建的主题 › Apple › ios17.5.1 怎么降到 ios16？？ |
楼主降级的原因是什么？
Select Language