V2EX › babyedi31996 的所有回复 › 第 2 页 / 共 4 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4

❮

❯

2024-10-30 22:22:43 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@LaTero 感谢大佬,长见识了.试试 openrouter 一会

2024-10-30 22:19:03 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@LaTero 感谢回复,但是在线隐私还是有一点担忧阿.openai 和 claude 是不封号了,但是这个 openrouter 会不会审查或者封我的号...

2024-10-30 22:17:24 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@hez2010 感谢这位大佬,这个模型需要多大显存可以使用阿?不太理解 16x3.8B 的意思.
比 4o-mini 还高那真的完全够用阿

2024-10-30 22:16:04 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@neteroster 感谢佬的回复,如果 70B M3 Max 都只有 4-5t/s,那就完全没必要了,谢谢.
我本地不是为了性价比,主要是隐私和瑟瑟 AI 角色扮演那些玩法

2024-10-30 22:13:06 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@iorilu AI 角色扮演阿,酒馆之类的,用好一点的本地模型,聊起来更真实阿

2024-10-30 22:12:01 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@loading 没有没有,只是 AI 角色扮演聊天,最多就是 tts 出语音和 sd 生个表情图而已

2024-10-30 22:11:30 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@adwords 买的有审查,不能好好的瑟瑟

2024-10-30 22:09:31 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@rus4db 这位大佬,我之前就是用 gguf 的 13b 量化 5,只能说爆显存之后速度乌龟好惨...

2024-10-30 20:42:30 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@iorilu 快事不可能有 GPU 快,但是起码能打开,而且肯定比 CPU 跑快呀,70b

2024-10-30 20:29:07 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@shuimugan 4 个 2080ti 22g 整个巨物在家,不太合适啊.而且带宽是显卡的那个东西吗?请教下

2024-10-30 20:28:22 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@lsearsea 4090 也就 24G 显存,够干啥的唉

2024-10-30 20:05:37 +08:00

回复了 babyedi31996 创建的主题 › 程序员 › 本地部署大语言模型哪家强?

@fulajickhz 不是,这只是个客户端对接,不是本地部署模型阿

2024-10-30 19:38:49 +08:00

回复了 ShawnFei 创建的主题 › 程序员 › 想从 google photos 迁移到 MT Photos， live photo 如何有完美的处理方案

一步到位 immich,免费开源又稳定,AI 还能对接其他设备来运算.

我亲测使用几个月了,更新也很效率,也支持 live photo

2024-10-30 19:29:58 +08:00

回复了 mogutouer 创建的主题 › Apple › AI 开发时代， APPLE MAC 落后了

@YooboH 不是什么从业者,深度学习的问题.玩家想本地跑 llm...现在的大模型都有审查,没法玩最好玩的部分阿

2024-10-30 19:28:45 +08:00

回复了 mogutouer 创建的主题 › Apple › AI 开发时代， APPLE MAC 落后了

@mumbler 这几天新出的 M4 Mac Mini 有 64G 版本,17000 左右能上 64G 网 10Gb 的,有搞头吗?

能跑量化的 70b 吗

2024-10-22 03:37:31 +08:00

回复了 pkoukk 创建的主题 › 问与答 › 现在国产的电动牙刷怎么样了？能打得过飞利浦嘛？

个人觉得这压根就不是什么高科技的东西,就是看谁舍得堆料和设计.
比如什么刷牙时间多少秒上颚,震动一下通知换边,有些还有显示屏,有灯来提醒.
我自己用过飞利浦和现在用的博朗,上千块感觉真的智商税...
下次坏了直接买个 2 3 百的国产的算了

2024-10-21 02:50:33 +08:00

回复了 ValerioAlex084 创建的主题 › NAS › 兜兜转转一圈还是选择了 Immich 存照片了

@fenildf NAS 白群性能实在太弱了,黑群应该可以,但是没必要了

2024-06-04 06:05:15 +08:00

回复了 HOMO114514 创建的主题 › NAS › Jellyfin 的客户端总结

看见很多人推 plex 终身版,我也买过.不到一年就不能用了.店家也跑路了
不知道是商家还是真能用这么久?

1 2 3 4

❮

❯