crackidz 最近的时间轴更新
crackidz

crackidz

V2EX 第 624177 号会员,加入于 2023-04-14 21:14:51 +08:00
今日活跃度排名 5449
crackidz 最近回复了
给你 10 刀不是给你脸了么,你有什么不满意的,better than nothing XD
2 天前
回复了 cowcomic 创建的主题 程序员 LLama3.1 的申请被拒了
国家写中国...你是不知道美国禁运么...
3 天前
回复了 CNYoki 创建的主题 程序员 ollama 本地模型 GPU 跑不满
当然是换个后端... vllm 算是比较流行的企业级后端
3 天前
回复了 gosky 创建的主题 Python Python asyncio 中怎么执行 cpu 密集型任务?
Python 主要冷启动耗时几十 ms 左右,剩下的交到你的代码中了,启动时间主要取决于你的代码吧...

上面说的基本差不多了,但现在不推荐用那个 nogil 版本,要改你的代码支持部分功能,第三方库也未见得支持。另外还有一些隐蔽 bug...
有自动化测试吗?即便 API 兼容,也可能实现不兼容
LLM 不可能完全绝对严格,有几种做法:
1. 换一个更好的模型...
2. 选择验证相对松散的验证,当然也仍旧会有概率有问题,但会比 JSON 低
3. 提升 prompt 尝试保证更强的输出,当然这对底模有要求,底模也要单独优化过
CrowdStrike 的背景这么多背书的怎么可能倒闭,排在前面的波音都还没倒呢
不敢,怕被说仇富
6 天前
回复了 desGalaxy 创建的主题 Windows Crowdstrike crash 是由空指针解引用导致
Rust 党又来了...
几十亿少了吧...如果只算微软的市值蒸发,3.26 trillion*0.0045.....
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2656 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 12ms · UTC 03:46 · PVG 11:46 · LAX 20:46 · JFK 23:46
Developed with CodeLauncher
♥ Do have faith in what you're doing.