charslee013

charslee013

V2EX 第 354793 号会员,加入于 2018-10-09 16:03:30 +08:00
今日活跃度排名 8729
根据 charslee013 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
charslee013 最近回复了
2 小时 15 分钟前
回复了 hitsmaxft 创建的主题 职场话题 大语言模型改变了你的工作方式吗
同一年 AIGC 项目经验,值得肯定的是目前大模型已经解决了“重复劳动"这件事情了,我自己在用的有:编码的 github copilot ,搜索用 RAG+传统引擎,二次元图片推荐有向量数据库(也可以当作小说检索器),AI 语音以及 AI 翻唱都在用 BV2 或者 DDSP ,公司内就有部署 Dify 作为 Agent 调用 LLM 已经合并到一些工作流中了。

现在感觉 AI 的泡沫还是不够大,明明是改变了世界的玩意看国内融资情况远不如 web3 、区块链时期。
如果只是跑一些小模型或者作业之类的,我更加推荐用云 GPU 更划算

以 autodl 里的 4090 为例子,CPU 是 12 核 Xeon(R) Platinum 8352V,内存是 90GB ,每周的价格为 342 元,一个月下来优惠价格是 1276 元,一年也就 13176 元,这个价格比 1 万 5 的主机还要便宜一些

而且考虑到实验室有专门的机器来跑正式的作业,云上 GPU 在不运行的时候可以关掉更加省钱,并且显存不够还可以换其他机型这个是本地无法比较的优势

当然以上都是建议,希望能帮助上 OP 的需求。
礼貌问下有校招岗位吗
16 天前
回复了 coderhxl 创建的主题 推广 传统爬虫 还是 AI 辅助爬虫?该怎么选?
我自己测试了一下,在 qwen1.5 32B-Chat 模型下能够有效的提取 HTML 结构并且返回想要的结果,不一定要使用 GPT4 而且还省下了大量 Token 的费用,具体测试代码在这 https://gist.github.com/charSLee013/e3feebf457b3650e8c84095789da55d7
18 天前
回复了 coderhxl 创建的主题 推广 传统爬虫 还是 AI 辅助爬虫?该怎么选?
想请教一下下,采用其他平替的开源模型效果如何?比如说 01-Yi 34B 200K 这种支持超长文本输入的,在成本和推理速度上会不会更优秀一些?
38 天前
回复了 fields 创建的主题 职场话题 软考报名,留个坑,考试完来填
+1 ,不过是下半年,上次考试差 10 分过线遗憾了好久 😔
39 天前
回复了 Morii 创建的主题 酷工作 [北上广深] 千人游戏小厂内推
盲猜一个是途游游戏? 🤔
给生蚝大佬点赞👍了
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   6015 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 15ms · UTC 02:16 · PVG 10:16 · LAX 19:16 · JFK 22:16
Developed with CodeLauncher
♥ Do have faith in what you're doing.