建议辞职出来闯荡互联网，别信楼上这些行情不好的，能力强要求高的岗位非常缺人

为什么要对 Gemini pro ？ llama4 才是它真正的对手，已经赢了。

打 LeetCode

cpu 、内存都在涨价，618 可能不是一个好时机

DAU 这种是上个时代的指标

manus 的目的是搞投资，他已经达到目的了。

值得。
如果你不可能再脱产三年回学校，再纠结全、非全有什么意义？
难道是花相同的价格脱产一年去国外读个授课制就更有含金量了吗？

现在硕士一大把，不见得中下游 985 的全日硕士能力比清北非全的好。
AI 时代，信息获取的途径和渠道都是溢出的，跟在哪里学关系不大了。但真有卡硕士学历的场景，你需要一个对方放你过去的理由，不是 100%，但解决掉 90%的场景也很好。

建议买 32g 的 air

提出高价值的问题

8 卡 4090 48G 性价比之选

想要，和想要共产主义乌托邦一样想要。

别做开发，做算法。趁现在 llm 的风头还在，理论物理在这方面完全等同于科班。

积极拥抱变化寻找出路，不要再钻研代码细节。
（上回发了个 cursor 的帖子，还有人说我广告，时代都变了感觉 v2 有一帮冥顽不灵的人）

@sunny352787 来张图

没中奖。。。

接裁神

1. 为什么单张可用 60%？ 把其他任务都集中到 4 张显卡上，剩余 4 张用于跑 72b-awq 。多卡不建议超过 4 张，因为通信成本。
2. vllm 支持量化模型的。生产上用的最多的就是 vllm ，然后是 sglang （但是个人体感 sglang 比 vllm 稳定一些，因为版本都在不断迭代，所以仅是时效性的使用感受）。ollama 基于 llama.cpp ，这个项目最初就是用于在资源有限环境把模型 offload 到内存里跑起来的，一般就是个人玩具使用。
3. 喜欢一键的话，可以试一下 xinference ，有 docker 镜像，挺好用。
4. web 方案其实是各种 web client + openai style api ，各个推理引擎以 openai style api 将接口提供出来，兼容各类应用。