@jasonyang9 1#
我看了主板，这款和独显版本公用一套主板，独显版能压住 i9 13905H 和 100W 的 RTX 4060 ，所以散热应该是没问题的。大概率还是 Windows 和联想的某个预装软件一起导致了 bug ，从而限制 3G 主频。

最近几个月已经在 v2 看到很多次要自己做 llm 的，都不知道这是个劳动密集型产业吗？能给每个人拿出 8 张 a100 卡吗？能搞到足够多的法律文书吗？能找到律师给数据做 label 吗？技术细节多一点的：用什么架构？自己写 transformer 还是用 llama2 ？谁能判断 llm 输出的质量？

@sentinelK 19#
明白了，技术问题+团队管理+人在江湖

@DOLLOR 16#
感谢，明白了。原来还是江湖问题，我还以为是技术线路的纷争，就像当年微内核宏内核一样。

@cat 20#
看了，但是我不会前端，我只能理解到"它们是用来快速写出复杂网页"这个程度。

@bzw875 17#
完全赞同！干活就是为了赚钱的，不能赚钱的一律不想管。

@chengxy 5#
啊，那不就是纯属没事找事，自己人搞自己人。。。

@Frankcox 3#
是的，Python 也有很多，而且每个人和每个项目的喜好都不一样，但也没见到吵架啊。我以为 React 和 Vue 之流是更底层的东西，比如涉及到语言优化之类的。

@nitmali 1#
不理解 React 和 Vue 这些是什么。我以为是类似于 Python PIP 的包，只是这些包恰好都是用 JS 写网页的。

自己部署一个用用：
- 模型：Chinese-LLaMA-Alpaca-2
- 软件：llama.cpp
- 部署：用 13B 版本模型，q8_0 或 Q6_K 量化。显卡上面跑 10 层，剩下的内存跑，每秒大概 4-8 个 token ，足够日常体验使用了。

自己训练知识库：
我 4 张 V100 都不够用，普通公司就别想了。就算公司给钱去买，现在也不好搞到设备了。英伟达的高性能显卡被禁售，华为昇腾要排队。

https://i.imgur.com/H8ejoOI.jpeg

香港只是中转站：普通人过来读水硕中转一下学历，投资和热钱中转一下身份，有钱人过来中转一下护照等大略如此。除了个别职业和特殊机遇，香港完全没有吸引力。
1. 居住环境很差，我住的 20 平米公寓，月租一万三以上。
2. 生活消费高。两个人下馆子，轻轻松松 400+，同等餐饮下，深圳不到这个价格的一半。
3. 医疗就算了，不谈了。自己多买点保险，实在不行就去深圳看病。
4. 职业与收入不匹配。由于没有第一和第二产业，导致医生和律师最香，竞争压力也最大。别的专业，就算上完大学也受限于产业，一路读到博士的不在此类。中位数收入属于有点钱，但是买不起车买不起房，只好出去玩玩买点奢侈品的状态。
4. 关于孩子上学的问题，如果是信了网上说的，孩子轻轻松松申请清北，还是死了那条心吧，内地普通公司不会愿意折腾手续特意雇一个香港的清北毕业生，香港本地也不缺名校背景的人。
5. 语言看你的行业，内地人多的、公众性的就可以不会说粤语，~~英语是用来吵架的~~。
总而言之，香港属于：如果在深圳一个月 2 万，到了香港就是 10 万的，那这就是机遇，一定不能放过。不然，就算收入翻一番到 4 万，也就那样，生活质量说不定还下降了。

陶片放逐法？历史证明这个方法的缺点太多了：投票要不要权重、权重比例应该怎样设置、如何确保不会被利用。现代国家都是用的以法而治类型的，取一个公约数，大家都遵守，这样更合理一些，也符合社会发展的需求。

风干，然后做羊肉火锅。

@weijancc 1#
@jtacm 2#
楼主是 vs code 团队的，能直接和产品组交流问题。

@ljx626 2#
肯定是有效果的，但是最终质量极其依赖训练的数据量。粗略估计，即使精馏，也得有个 20G 数据才行得通。

导入整个项目进行提问（单个文件有现成的 copilot chat 和 codium chat ），需要使用基座模型进行训练和精调。无论是全量预训练或者使用 LoRA ，对于个人而言，都是不现实的：
1. 没有那么多的数据；
2. 硬件要求很高。
比如，llama2-13b 只训练 LoRA 参数，单卡显存要求大于 20G ；全量预训练没有四张 V100 以上的卡基本没法高效开展。实在想尝试，可以看看 Chinese-LLaMA-Alpaca-2 我记得有现成的脚本可以上手微调，光加个中文就用了 50K 词表和 100G 纯文本。

可惜 V 站没有私信功能，不然我肯定出一个绝妙的域名给你.jpg

缺省就是默认，默认就是缺省。缺少用户输入的参数，所以使用了默认值。也不是不同领域的叫法不同，就是早期计算机术语翻译的问题，那时候计算机还是小众场景，用的词尽可能的追求精准和原理性解释。