V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
zictos
V2EX  ›  OpenAI

chatgpt 的 api 每次请求时都是独立的,不能根据历史记录的上下文更有针对性地回答吗?

  •  
  •   zictos · 2023-02-09 10:01:30 +08:00 · 5127 次点击
    这是一个创建于 678 天前的主题,其中的信息可能已经有所发展或是发生改变。

    问了 chatgpt ,说是不行的,如果想达到类似效果,需要在每次请求时都把所有历史问题和答案一起发过去。

    那这样的话如果想要会话保持很久,岂不是要发送的内容会变得越来越多越来越大?

    16 条回复    2023-02-16 08:07:37 +08:00
    yuxuan
        1
    yuxuan  
       2023-02-09 10:22:49 +08:00   ❤️ 1
    使用 ‘继续’ 或者 ‘ continue’ 关键字 后面接你想继续问的问题 可以链接上文
    cairnechen
        2
    cairnechen  
       2023-02-09 10:23:06 +08:00   ❤️ 1
    /t/900264 这个?
    libook
        3
    libook  
       2023-02-09 10:26:21 +08:00   ❤️ 1
    我记得之前有个文章分析过,它每次请求会带个序号信息,后端可以根据这个信息来整理上下文,然后会有长度限制,比如最多包含 1000 条关键信息,所以可以通过灌入很多信息来让它忘掉最早在聊的事情。
    zhang77555
        4
    zhang77555  
       2023-02-09 10:34:39 +08:00   ❤️ 1
    看文档好像是这样的, 似乎他也不建议对话程度搞得太深.
    话说你用的是哪个 api? 为啥我感觉 text-davinci-003 达不到 ChatGPT 的那种"智能"程度呀
    itskingname
        5
    itskingname  
       2023-02-09 10:39:05 +08:00   ❤️ 1
    每次请求的时候,把之前的回答带上。例如,你第一次的问题和回答:

    ```
    Q: 你能帮我把一段英文翻译成中文吗
    A: 可以
    ```

    然后,你第二次请求的时候,把上面这两句带上,写成:

    ```
    Q: 你能帮我把一段英文翻译成中文吗
    A: 可以
    Q: How are you?
    A:
    ```

    这样写,它就能记住上下文了。注意上面的『 Q:』和『 A: 』不要省略。
    fanchenio
        6
    fanchenio  
       2023-02-09 10:46:19 +08:00   ❤️ 1
    大家都好有钱,API 不是收费的么。
    ansonsiva
        7
    ansonsiva  
       2023-02-09 10:57:55 +08:00   ❤️ 1
    不是因为 api 用的是 3.0 版本嘛?现在最新的 chatgpt 能联系上下文的还没 api 开放吧
    zictos
        8
    zictos  
    OP
       2023-02-09 11:08:38 +08:00
    @ansonsiva #7 那网页是什么版本啊?

    @fanchenio #6 注册后会送 18 美元

    @itskingname #5 这样如果答案很长,请求时发送过去的内容会比较多

    @zhang77555 #4 也是 text-davinci-003 ,确实感觉跟网页有点不一样,而且没网页好用

    @libook #3 现在就能用吗?

    @cairnechen #2 你发的链接好像没有找到相关信息啊!

    @yuxuan #1 试了不行,比如在网页中一个回答如果字数太多没答完,再发继续就会接着回复,但 api 发‘继续'的话出现的内容似乎是别人的问题,跟我问的问题没任何关系
    itskingname
        9
    itskingname  
       2023-02-09 13:40:15 +08:00
    @zictos 你控制保留的上下文的条数就可以了。例如只保留最近 10 组问答对。如果依然超了,就继续移除最老的问答对,直到能出现结果为止。
    WhatTheBridgeSay
        10
    WhatTheBridgeSay  
       2023-02-09 13:49:27 +08:00
    你用的二道贩子版的 ChatGPT 吧,官方版的是有对话的,就在左侧栏,每个独立的对话都是有上下文的,可以随时新开一个没有上下文的对话。

    WhatTheBridgeSay
        11
    WhatTheBridgeSay  
       2023-02-09 13:51:08 +08:00
    啊楼主问的是 API ,没有仔细审题。不过既然网页版有这样的功能,那理论上也可以通过某些非标准方式调用这个来实现上下文
    DeutschXP
        12
    DeutschXP  
       2023-02-09 14:38:05 +08:00 via iPhone
    你用的 API 是 OpenAI 的,而不是 ChatGPT
    前者是用来输出文本的,而不是用来实现聊天功能的,想要聊天的,那就继续等官方 API
    输出文本的质量取决于你的输入模版设定,好的模版也是收费的,有很多人就是靠根据你的需求帮你定制模版来挣钱。
    只不过模版的表现形式是类似 Q&A ,所以很多人误认为 Q&A 就是在聊天,实际上并不是。
    paradoxs
        13
    paradoxs  
       2023-02-09 14:46:17 +08:00
    @DeutschXP 你用的 API 是 OpenAI 的,而不是 ChatGPT
    前者是用来输出文本的,而不是用来实现聊天功能的,想要聊天的,那就继续等官方 API
    输出文本的质量取决于你的输入模版设定,好的模版也是收费的,有很多人就是靠根据你的需求帮你定制模版来挣钱。
    只不过模版的表现形式是类似 Q&A ,所以很多人误认为 Q&A 就是在聊天,实际上并不是。
    ------------------

    有人给我提供了一个封装好的对话窗, 看不到版本信息

    有什么办法能知道 实际上用用的是哪个版本(哪个分支)吗?
    xiaomayi0323
        14
    xiaomayi0323  
       2023-02-09 23:08:41 +08:00
    API 对应的模型是 GPT-3
    ChatGPT 对应的模型是 GPT-3.5
    zictos
        15
    zictos  
    OP
       2023-02-09 23:46:50 +08:00
    @xiaomayi0323 #14 那怪不得,api 的答案很一般啊!一点都不智能,感觉没法用,很多答案都跟 chatgpt 不一样
    catban
        16
    catban  
       2023-02-16 08:07:37 +08:00
    感觉 chatgpt 是在 api 基础上一条一条对话,再组装了一下的结果。。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2861 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 14:54 · PVG 22:54 · LAX 06:54 · JFK 09:54
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.