Home Sign Up Sign In
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  shukebeta2004  ›  全部回复第 1 页 / 共 1 页
回复总数  1
1 小时 47 分钟前
回复了 lynn1su 创建的主题 › 程序员 › 1m 上下文感觉面对 agent 还是少了？预测下接下来哪家会先出真*2m 上下文？
@xiaoz 没错。即使是支持 1M 上下文的模型，我也主动限制为 256K 上下文，尽早触发上下文压缩可以有效降低使用成本，特别是当 agent 们大部分时候都在自主工作时。超过 400k 每一次工具调用都变得异常昂贵，即使命中 cache 也是。
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1240 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 8ms · UTC 23:34 · PVG 07:34 · LAX 16:34 · JFK 19:34
♥ Do have faith in what you're doing.