1119745302's recent timeline updates 1119745302's recent timeline updates |
1119745302V2EX member #225852, joined on 2017-04-13 15:09:45 +08:00 |
 |
Per 1119745302's settings, the topics list is hidden |
Deals info, including closed deals, is not hidden
1119745302's recent replies
Jun 28, 2025 Replied to a topic by Oah1zO › Python › 真的感觉现在 AI 发展太快了，用 ai 直接就能从 0 撸一套系统.. |
一些简易的非项目依赖的逻辑可以给 ai 写, 等 ai 写完了再自己检查一下, 可以省下不少脑细胞
Jul 23, 2024 Replied to a topic by CNYoki › Local LLM › ollama 本地模型 GPU 跑不满 |
@CNYoki llama.cpp 似乎不支持张量并行,就算 4 张卡显存占满了也跑不快. https://www.bilibili.com/video/BV1DH4y1c7gK/ 可以参考一下这个, 换个 vllm 啊啥的后端一般就是随便跑了
Jul 23, 2024 Replied to a topic by CNYoki › Local LLM › ollama 本地模型 GPU 跑不满 |
换个后端?
Mar 3, 2024 Replied to a topic by winebywind › 硬件 › 想买一台 2in1 笔记本尝鲜，目前看中了两款洋垃圾，没想好选哪个 |
@yudoo 加钱买个年代近点的吧, 上面提到的这些现在真的是远古时代的宝贝了
Jan 5, 2024 Replied to a topic by sixlione › 程序员 › 请问各位 V 友，现在哪个部署本地的 LLM 比较好？ |
@Beeium 不介意捡垃圾的话,一万五就捡两张 3090,再随便捡个平台插上就完事了. 两张 3090 除了那种超大的模型其他模型量化一下随便跑而且速度可以接受. 推理用 github 上的 llama.cpp 就行,然后模型就上 hugging face 上找就完事了
Jan 4, 2024 Replied to a topic by sixlione › 程序员 › 请问各位 V 友，现在哪个部署本地的 LLM 比较好？ |
https://arena.lmsys.org/ 开源 llm 已经快摸到 3.5 阉割版的屁股了
Dec 23, 2023 Replied to a topic by SteveHou › OpenAI › ChatGPT 会无端使用中文来回答英文问题 |
有没有可能是偷偷获取了浏览器语言
Nov 8, 2023 Replied to a topic by mouyase › 小米 › 小米公布新的 BL 解锁规则了，要求社区等级 5 级以上，申请后 72 小时后可以解锁。 |
@wu67 和小绿书 55 开的内容质量... 完全没看的必要
Nov 8, 2023 Replied to a topic by mouyase › 小米 › 小米公布新的 BL 解锁规则了，要求社区等级 5 级以上，申请后 72 小时后可以解锁。 |
5 级这要求太高了
Jun 11, 2023 Replied to a topic by s04 › Android › 请问红米 NOTE 12 TURBO 刷机后还能收到后续版本的推送升级吗？ |
@ysc3839 说是这么说其实好像不管
Select Language