V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  312ybj  ›  全部回复第 1 页 / 共 16 页
回复总数  310
1  2  3  4  5  6  7  8  9  10 ... 16  
简单的问答,走 rag ,外挂一个开源模型就行,比如 qwen 7b 。 如果涉及到训练微调, 你先得先收集数据集, 租算力设备训练,这个就没边了,自己肯定干不成。 你们领导也是拍屁股决定的,最简单的就是做个 RAG ,弄个开源模型,也还能蹭个边, 算力设备的话,我们一般给客户部署都是 4 卡 4090, 当然小模型 1 张 4090 也够了, 上个量化版本
17 天前
回复了 94nb 创建的主题 生活 明天和意外,你永远不知道哪个会先来
祝好,希望是误诊
17 天前
回复了 TestOPS 创建的主题 职场话题 大家好,关于我转行矿工的生活
昨天刚看了部电影,盲井,op 注意安全哈
30 天前
回复了 x2024 创建的主题 问与答 几年感情分手,有没有治愈的电影 视频 书
我当初异地恋的时候大概 500km 吧,一个月能坐一次绿皮火车见面,也是撑了 3 年,后来因为父母安排相亲闹分手。我也是直接过去见父母了,后来就水到渠成了。 爱情这个东西最重要的还是两个人心在不在一起,所爱隔山海,山海皆可平。 如果不是那就及时止损,时间会抚平, 听听 《春雨洗过的太阳》《好心分手》,每天跑步 慢慢就忘了
42 天前
回复了 dododada 创建的主题 程序员 有没有做机器人的?
我去过乐聚,江苏那是做地盘的,基本上都是地盘( slam 建模导航) + 上位机定制。 你说的人家有现成的。 你就算地盘 6w, 上位机 4w , 其他的看需求了,其他家的话,松灵,达闼 都能谈,价格看你们自己谈,制作周期,你就当按月为单位
必应,收费很贵,好像前 1000 次免费,后续按量收费
op 挺逗的,我也算半吊子相关开发吧。 最近北京在开机器人大会,还没结束,可以去看看人形机器人的应用和价格。同时可以问问模型相关的政审问题。这还没涉及到多模态的能力,asr 和 tts 都是次要的。 我们几千 几万 十几万的机器人上都部署过模型,效果我还是知道的
133 天前
回复了 devzhaoyou 创建的主题 程序员 买电脑,糟心的拼多多维权,求指点?
我在拼夕夕,淘宝找了很久的 mac, 我要的配置只有拼夕夕有,大概 2w 吧,我买了。 商家一开始说是未拆封,后面改口教育优惠机,又说二手 99 新。 我在机器没到之前就退了,就这他们还想让我赔来回运费, 我找了拼夕夕客服,最终调节给寄的邮费,后来从淘宝买的。 拼夕夕买小东西可以,好到盗版的直接可以申诉退款, 但是大件就不好弄,这就是风险
1 ,有文凭比没文凭重要的多,当兵就是个例子,先去上学,再入伍,两个都能兼顾
136 天前
回复了 ddvswgg 创建的主题 Local LLM 关于在本地部署开源模型的一些问题请教
5. 你先把部署弄好再说,如果你要简单的 RAG ,去看 langchain ,有现成的开源的,看能不能直接用
136 天前
回复了 ddvswgg 创建的主题 Local LLM 关于在本地部署开源模型的一些问题请教
4. 外部访问,你再用 fastapi + sse 就能流失返回数据了
136 天前
回复了 ddvswgg 创建的主题 Local LLM 关于在本地部署开源模型的一些问题请教
1. 7B ,7*4 大概要 28G 显存,加上一些推理时的消耗,40G 也够了
2. 你去魔塔社区或者 hugging face 直接搜索 tongyi 7B, 有直接运行的测试代码,不过没有超参调节,需要你自己后续加
3. 看你的需求了,因为还有一些上下文配置,超参调节,终止词配置等等,很多细枝末节,你应该先跑起来
小米 14ultra 拍照很好看,miui 遇到个恶心 bug , 陌生电话打进来没显示,当时还在面试,把我气的不轻,其他都挺好的
146 天前
回复了 calvinclark 创建的主题 Apple 说出你被苹果背刺最狠的故事,我先来
i9 macbookpro ,印象很深,b 站主播直播用他的 i9 拉满 mbp, 那个风扇没听过,弹幕一直在说太吵了,听不见
飞书 语雀 都用。
飞书:作为知识库入口。它的思维导图真好用,因为能把文档作为子节点,直接复制粘贴,这样一张网就能形成
[![pkXodSI.png]( https://s21.ax1x.com/2024/08/02/pkXodSI.png)]( https://imgse.com/i/pkXodSI)


语雀:工程文档。绘制 plantUML 很方便,而且快捷键比飞书好用
[![pkXos0S.png]( https://s21.ax1x.com/2024/08/02/pkXos0S.png)]( https://imgse.com/i/pkXos0S)


语雀飞书联动:这个就是个骚操作了,本身他们俩文档都不能互导,我在飞书里建个简单的文档,把语雀连接丢进去。然后复制语雀的目录,目录应该是超链接
[![pkXockQ.png]( https://s21.ax1x.com/2024/08/02/pkXockQ.png)]( https://imgse.com/i/pkXockQ)

粘到飞书思维导图里,就能跳转过去了,很方便
[![pkXo2fs.png]( https://s21.ax1x.com/2024/08/02/pkXo2fs.png)]( https://imgse.com/i/pkXo2fs)


缝缝补补下来,还是挺好用的,从知识图谱到知识网络,面试的时候,直接去看自己的思维导图,点击节点到下一个文章,我面试的时候就这样复习的,已经记了 3 年了
147 天前
回复了 xingcy 创建的主题 程序员 Mac 有哪些无线鼠标可以平替 MX Master 3s ?
罗技 anywhere2s , 无极滚轮 左右按钮都有。 不要买 3 , 砍了左右按钮
153 天前
回复了 6866vpuu 创建的主题 生活 你们都陪媳妇产检吗?
肯定要去,不用想了,而且还是周末。 四维可能没那么快,宝宝要配合才能快速拍完, 多准备点巧克力,孕妇吃甜的,小朋友会活泼一点
169 天前
回复了 hbcolorful 创建的主题 职场话题 现在学习好累,感觉都是无用功。
做中学,学中做。囫囵吞枣的学没太大用,还不如学精一个中间件,面试也有切入点讲,否则都是 hello world 程度
写过一年 Go , 因为 CTO 要转 Go ,普通 Java 服务,最低都要 2 核 4g ,但是 go 这玩意真不挑机器,200M 跑得嗖嗖的。真能减少很多机器成本。 但是随着而来的就是匮乏的生态,很多框架都需要自己二开,但是你要说好不好,公司让转,那就带薪学习,我现在又写回 Java 了,还写写 python , 要是做大型复杂项目的话,我还挑 Java ,复杂需求不在乎那点优化
1  2  3  4  5  6  7  8  9  10 ... 16  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5864 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 37ms · UTC 02:07 · PVG 10:07 · LAX 18:07 · JFK 21:07
Developed with CodeLauncher
♥ Do have faith in what you're doing.