感觉 chatgpt 的上下文老长了,好奇它是怎么做到的。难道 api 只是接口给的一个限制?
1
Tspm1eca 2023-07-15 19:05:46 +08:00
是的,openai 加的限制
|
2
customer 2023-07-15 20:24:31 +08:00
只是历史长,你用问答测试一下就会发现多几轮对话之后前面的内容就无法正确回答了
|
3
chris555 2023-07-17 16:34:38 +08:00
超了会自动截断的
|
4
mmdsun 2023-07-17 20:30:31 +08:00 via iPhone
可能自己设计了个文本压缩算法吧
|
5
wujiang007 2023-07-18 13:51:31 +08:00
gpt3.5 已经是 16k 了,GPT4 是 8k ,超了之后还是一样截断。
|