V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
ddiu8081
V2EX  ›  分享创造

跟进最新的 gpt-3.5-turbo 模型,写了一个套壳 ChatGPT

  •  
  •   ddiu8081 ·
    ddiu8081 · 2023-03-02 14:11:11 +08:00 · 16889 次点击
    这是一个创建于 478 天前的主题,其中的信息可能已经有所发展或是发生改变。

    screenshot

    今天 OpenAI 公布了最新的模型 gpt-3.5-turbo,已经可以进行顺畅的对话了。

    就做了这么一个应用,可以进行正常的上下文连贯对话。

    技术栈使用了 Astro + SolidJS

    127 条回复    2023-03-07 11:36:09 +08:00
    1  2  
    justin2018
        1
    justin2018  
       2023-03-02 14:29:03 +08:00
    速度好快😁
    anonydmer
        2
    anonydmer  
       2023-03-02 14:30:15 +08:00   ❤️ 2
    挺好的,有个小建议,响应结果中如果是代码的话是符合 markdown 的标准的,用```包围的,楼主可以在样式上处理一下
    svaeric
        3
    svaeric  
       2023-03-02 14:32:53 +08:00 via iPhone
    不错 好快 比我白嫖的快多了😭
    LXchienne
        4
    LXchienne  
       2023-03-02 14:36:51 +08:00
    打字回车确认和对话输入确认重复了。。打两个字就发过去了
    ersic
        5
    ersic  
       2023-03-02 14:39:24 +08:00
    速度很快,能在页面上自定义 key 就更好了
    ao99
        6
    ao99  
       2023-03-02 14:40:37 +08:00 via iPhone
    代码显示不太友好
    jatsz
        7
    jatsz  
       2023-03-02 14:41:30 +08:00
    一个字:快
    WeiPong
        8
    WeiPong  
       2023-03-02 14:42:06 +08:00
    回答的挺快,就是答案样式缺少处理
    ddiu8081
        9
    ddiu8081  
    OP
       2023-03-02 14:45:14 +08:00
    @LXchienne #4 @ersic #5 晚上优化下😀
    @anonydmer #2 @ao99 #6 @WeiPong #8 谢谢,回头我加上回答内容的格式化
    lambdaq
        10
    lambdaq  
       2023-03-02 14:45:39 +08:00
    就感觉到快
    rimutuyuan
        11
    rimutuyuan  
       2023-03-02 14:46:19 +08:00
    搜狗输入法输入英文直接回车时,会把分隔符一起传过去

    h'e'l'l'o
    rimutuyuan
        12
    rimutuyuan  
       2023-03-02 14:46:46 +08:00
    顺便问下 lz 怎么付费的
    ddiu8081
        13
    ddiu8081  
    OP
       2023-03-02 14:53:19 +08:00
    @rimutuyuan #11 #12 他家的收费标准是 $0.002/1K tokens ,大概 750 词
    rimutuyuan
        14
    rimutuyuan  
       2023-03-02 14:53:56 +08:00
    @ddiu8081 是的,想咨询的是通过什么方式付费,国外银行卡?
    ddiu8081
        15
    ddiu8081  
    OP
       2023-03-02 14:54:48 +08:00
    @rimutuyuan 对,用的国外虚拟信用卡
    swulling
        16
    swulling  
       2023-03-02 14:56:00 +08:00 via iPhone
    新的 API 确实快得很
    rimutuyuan
        17
    rimutuyuan  
       2023-03-02 15:01:00 +08:00
    @ddiu8081 门槛高吗,能否透露下
    wmc1125
        18
    wmc1125  
       2023-03-02 15:01:02 +08:00
    api 反应好快
    dev436
        19
    dev436  
       2023-03-02 15:01:49 +08:00
    连续对话能力是 api 自带的吗?
    910035487
        20
    910035487  
       2023-03-02 15:13:09 +08:00
    国外虚拟卡是哪家,可以介绍吗
    quzard
        21
    quzard  
       2023-03-02 15:13:24 +08:00
    @ddiu8081 他的 token 对于中文是怎么计数的,一个汉子一个 token ?
    ddiu8081
        22
    ddiu8081  
    OP
       2023-03-02 15:23:20 +08:00
    @rimutuyuan #17 @910035487 #20 depay
    @dev436 #19 是 api 自带的,在接口入参传入历史对话内容就可以了
    @quzard #21 没细致统计过。。我就当作一个字 1token 算了
    znl1087
        23
    znl1087  
       2023-03-02 15:25:28 +08:00
    @ddiu8081 历史对话内容字数好像有点多啊
    ddiu8081
        24
    ddiu8081  
    OP
       2023-03-02 15:36:02 +08:00
    @znl1087 #23 是有点多,我看文档的指引大概是......自行精简内容🤣
    rjagge
        25
    rjagge  
       2023-03-02 15:43:20 +08:00
    这个 api 也有 country 的限制吗。。。
    bigfei
        26
    bigfei  
       2023-03-02 15:51:14 +08:00 via Android
    飞快啊。。
    helloet
        27
    helloet  
       2023-03-02 16:01:50 +08:00
    回答速度也太快了吧。。
    anonydmer
        29
    anonydmer  
       2023-03-02 16:16:38 +08:00
    @ddiu8081 楼主可否考虑加一个简单的认证机制?可以只让个人使用
    shuxhan
        30
    shuxhan  
       2023-03-02 16:21:15 +08:00
    比较好奇,是 chatGPT 质量高还是 api 质量好,对比一下。
    zooo
        31
    zooo  
       2023-03-02 16:32:42 +08:00
    速度太快了...
    zooo
        32
    zooo  
       2023-03-02 16:33:14 +08:00
    突然不适应了....还是我那个慢吞吞的 gpt 么
    znl1087
        33
    znl1087  
       2023-03-02 16:50:58 +08:00
    @ddiu8081 那这个 token 消耗是指数增长的。。感觉会用的非常快。
    telami
        34
    telami  
       2023-03-02 16:58:51 +08:00
    太快了,不适应呢
    twor2
        35
    twor2  
       2023-03-02 17:01:05 +08:00
    如果回答质量一样
    是不是自己搭建一个,会比自己开会员便宜?
    nekomiao
        36
    nekomiao  
       2023-03-02 17:08:44 +08:00
    @shuxhan 理论上是一样的吧
    NeroKamin
        37
    NeroKamin  
       2023-03-02 17:10:26 +08:00
    连续对话是要把之前所有的对话历史都传进去?包括你的发言和 AI 的回复?
    qping
        38
    qping  
       2023-03-02 17:11:35 +08:00
    每次用都感觉自己会被淘汰
    yawn852
        39
    yawn852  
       2023-03-02 17:16:56 +08:00
    我看文档是没有连续对话的哎,你是通过把之前的聊天记录传输过去实现的吗?
    qping
        40
    qping  
       2023-03-02 17:18:29 +08:00
    想问下 op ,api 的话有地区限制么
    zhangsansama
        41
    zhangsansama  
       2023-03-02 17:20:57 +08:00
    很快!
    ddiu8081
        42
    ddiu8081  
    OP
       2023-03-02 17:26:05 +08:00
    @rjagge #25 @qping #40 试下来 api 应该没发现有地区限制
    @anonydmer #29 今天没来得及,后面应该会简单限制一下
    @twor2 #35 感觉是这样的,如果 api 这种质量能一直持续下去的话感觉就不用买 plus 了...
    @NeroKamin #37 @yawn852 #39 是要把之前的对话内容传进去,这点比较坑
    ZoeeoZ
        43
    ZoeeoZ  
       2023-03-02 17:26:15 +08:00
    有钱就是好,速度真快
    qping
        44
    qping  
       2023-03-02 17:28:02 +08:00
    可以把最近的十个问题传过去,不用维持这么多连续对话
    malagebidi
        45
    malagebidi  
       2023-03-02 17:30:40 +08:00
    把速度调到人类每分钟 60 字就差不多了
    Mason2021
        46
    Mason2021  
       2023-03-02 17:34:45 +08:00
    速度真的好快,谢谢楼主。
    xrzxrzxrz
        47
    xrzxrzxrz  
       2023-03-02 17:40:08 +08:00
    这个不收费的吗?试了下,直接可以用
    AS4694lAS4808
        48
    AS4694lAS4808  
       2023-03-02 17:42:36 +08:00   ❤️ 1
    OP 的代码是自己写的还是 GPT 生成的?[狗头]
    话说速度是真快,我还没写完。。估计得周末了
    ddiu8081
        49
    ddiu8081  
    OP
       2023-03-02 17:44:45 +08:00
    @qping #44 最近十个还是不太行,因为有时候 ChatGPT 的用法是第一句抛出大背景( e.g. “你是一个翻译机器人”),所以至少还得把第一句传进去;不过 api 也有一个设定背景的功能,回头我也接入下试试
    @xrzxrzxrz #47 现在用的是我自己的 ApiKey ,后续会加一个自定义 key 的功能
    billytom
        50
    billytom  
       2023-03-02 17:45:04 +08:00
    其实我不太懂,为了个问题,它说它是对话机器人不能回答问题? 是 chatgpt 有分问答(完整型)和 对话 bot (类似 telegram )那种入门型的吗?
    ddiu8081
        51
    ddiu8081  
    OP
       2023-03-02 17:48:41 +08:00
    @AS4694lAS4808 #48 是写的 🐶 因为前两周正好写过一个 GPT-3 的应用,今天正好 UI 复用上了,就改了些逻辑
    @billytom #50 chatgpt 听描述应该和 api 一样,可以换一种问法试试。。当然也可能确实有差异
    hailiang88
        52
    hailiang88  
       2023-03-02 17:48:53 +08:00
    op 还是不要自定义 key 了,免得被别人说 key 被别人盗用
    timeance
        53
    timeance  
       2023-03-02 17:58:19 +08:00
    问了一些硬件相关的问题,比如如何连接两个 Jetson 模组
    chatgpt 说用 nvlink ,InfiniBand 或者分布计算。gpt3.5 和我说用 usb ,串口,并口,网络...

    写报告,周报,邮件。两个水平旗鼓相当
    crokily
        54
    crokily  
       2023-03-02 18:03:57 +08:00
    @shuxhan 可以两个都用对比一下,会发现一直以来开放的 api 都是弱化版本的 ChatGPT
    billytom
        55
    billytom  
       2023-03-02 18:04:01 +08:00
    奇怪,我问了好几个问题,一问都说自己只是对话模型,不知道,然后就说了些似是而非的对话,感觉楼主这就是个 bot 不是人工智能啊
    cat9life
        56
    cat9life  
       2023-03-02 18:14:25 +08:00
    快的飞起
    GeekJason
        57
    GeekJason  
       2023-03-02 18:15:03 +08:00
    页面很好看,已 star
    jjrow
        58
    jjrow  
       2023-03-02 18:57:05 +08:00
    洁面挺干净清爽的,请问这样的页面,是不是自己设计的,当时说有模版可用
    DjvuLee
        59
    DjvuLee  
       2023-03-02 18:58:28 +08:00
    响应速度真的快,出乎意料。

    openAI 封了好多 vps 的地址,lz 是怎么搞定这个的?
    quzard
        60
    quzard  
       2023-03-02 19:07:39 +08:00
    @DjvuLee api 不封 vps 吧
    quzard
        61
    quzard  
       2023-03-02 19:10:21 +08:00   ❤️ 3
    用 op 的代码稍微编译了一个 docker ,用自己的 token 搭了一个,api 确实比 web 的快很多,只不过免费的 18 美金只能用 3 个月。。。

    ```text
    version: "3"

    services:
    chatgpt:
    image: quzard/chatgpt-demo:latest
    container_name: chatgpt
    restart: always
    ports:
    - "3000:3000"
    volumes:
    - .env:/app/.env
    ```
    DjvuLee
        62
    DjvuLee  
       2023-03-02 19:11:23 +08:00
    @quzard API 不清楚了,之前网页登录,显示地址被封了。
    cat9life
        63
    cat9life  
       2023-03-02 19:22:20 +08:00
    cat9life
        64
    cat9life  
       2023-03-02 19:22:44 +08:00
    @cat9life #63 貌似不是 chatGPT ?
    u2gign
        65
    u2gign  
       2023-03-02 19:55:34 +08:00
    他这是 GPT-3 目前时间段可以调通
    GPT-3.5 现在调不通了
    turtlekey
        66
    turtlekey  
       2023-03-02 20:45:40 +08:00
    效果不是很好哦,如图:[https://imgse.com/i/ppFX57R]( https://imgse.com/i/ppFX57R)
    justin2018
        67
    justin2018  
       2023-03-02 21:33:48 +08:00
    生成的 table 是 Markdown 格式 没有做转换~~~
    cutchop
        68
    cutchop  
       2023-03-02 22:09:07 +08:00
    不怕破产😂?
    PINSONGCAKE
        69
    PINSONGCAKE  
       2023-03-02 23:09:34 +08:00
    OP 网址运行在 Google Cloud 上?
    dxppp
        70
    dxppp  
       2023-03-02 23:16:11 +08:00 via Android
    @PINSONGCAKE Vercel ,Vercel 用了 AWS Global Accelerator
    dcsite
        71
    dcsite  
       2023-03-02 23:16:40 +08:00
    你和 ChatGPT 有什么区别

    我和 ChatGPT 都是基于 OpenAI 的语言模型技术,但我们有一些区别:

    1. 训练数据不同:我使用的训练数据是来自于多个领域的新闻、博客、维基百科等文本,而 ChatGPT 主要使用的是社交媒体上的对话文本。

    2. 模型大小不同:我相比 ChatGPT 来说是比较小的模型,可以更快地响应用户的请求。

    3. 功能不同:我被设计为一个通用型的语言模型,可以回答各种类型的问题,而 ChatGPT 则更专注于自然语言生成任务,例如生成文章、摘要等。

    总的来说,我和 ChatGPT 都是基于相同技术的语言模型,但我们的应用场景和功能略有不同。
    dxppp
        73
    dxppp  
       2023-03-02 23:19:25 +08:00 via Android
    LKim
        74
    LKim  
       2023-03-02 23:23:00 +08:00
    有个疑问,该怎么选择:
    用 web 版的 chatgpt plus 版,月费 20 刀;
    还是用 chagpt 的 API 版,按照使用量付费
    我已经订阅了 plus ,想着如果可以用 API 版,是不是可以少一点花销。
    还有一个是,二者的回复有什么不同
    SteveRogers
        75
    SteveRogers  
       2023-03-02 23:43:34 +08:00
    原来又是 v2 这边网友弄出来的
    ninvfeng2020
        76
    ninvfeng2020  
       2023-03-02 23:48:43 +08:00
    好快, 用起来好流畅
    gr3yman
        77
    gr3yman  
       2023-03-03 00:02:51 +08:00
    这源码应该如何编译啊?不懂前端,有说明吗 @ddiu8081
    lovestudykid
        78
    lovestudykid  
       2023-03-03 00:04:32 +08:00
    @cat9life 不能太信任这种答案...它还说 gpt-3 比 chatgpt 更先进呢
    laila
        79
    laila  
       2023-03-03 00:08:08 +08:00
    快的很
    ddiu8081
        80
    ddiu8081  
    OP
       2023-03-03 03:17:50 +08:00
    @jjrow #58 是自己做的
    @justin2018 #67 已支持表格 /数学公式 /代码块高亮
    @cutchop #68 还在观望中,目前还没有超限...
    @LKim #74 根据楼上的回复来看 API 应该是要稍弱一些的,不过都能接受的话还是 API 更划算
    @gr3yman #77 回头我加一个,issue 里也有人贡献了 docker 的
    MisakiYui
        81
    MisakiYui  
       2023-03-03 03:38:11 +08:00
    请问可不可以加个重新生成回复的按钮?
    shadoworld
        82
    shadoworld  
       2023-03-03 08:30:23 +08:00
    可以加个 api 轮询吗?.env 填写多个 api key
    logiclab
        83
    logiclab  
       2023-03-03 08:45:33 +08:00 via Android
    还不错啊
    kanhongj
        84
    kanhongj  
       2023-03-03 09:01:41 +08:00
    感觉拿来做高等数学还是有些难,就比如 “怎么解 lim x->0 1/x(1/sinx - 1/tanx) ” ,”怎么解 lim x->0 1/x(1/sinx - 1/tanx) 答案是 1“, 其实答案是 1/2 都能给你做出来
    zanxj
        85
    zanxj  
       2023-03-03 09:31:54 +08:00
    @kanhongj #84 这个你应该用 “微软数学”
    encro
        86
    encro  
       2023-03-03 09:48:54 +08:00
    模仿白居易做一首关于高考的诗

    高考时节到,应试者心慌慌。
    卷面前,笔如飞,不知成败在此一擂。
    题海茫茫,思路乱,不禁感慨人生多长。
    背诵千篇,默写万句,唯有一场考试决定命运。
    但愿此生不虚度,高考后,前程似锦路。
    clannadmk
        87
    clannadmk  
       2023-03-03 09:53:35 +08:00
    乖乖,快的我都反应不过来,666
    lividsu
        88
    lividsu  
       2023-03-03 10:16:27 +08:00
    cool!
    ly529
        89
    ly529  
       2023-03-03 10:19:53 +08:00
    谢谢楼主,不知道能坚持多久
    HanSonJ
        90
    HanSonJ  
       2023-03-03 10:30:52 +08:00
    @ddiu8081 #15 这个是怎么申请的?
    LKim
        91
    LKim  
       2023-03-03 11:06:49 +08:00
    @HanSonJ depay
    artshooter
        92
    artshooter  
       2023-03-03 11:09:17 +08:00
    赞楼主
    zuoyi333888
        93
    zuoyi333888  
       2023-03-03 12:16:01 +08:00
    建议加上一些 API 的参数配置,例如 temperature, stop 等,方便使用者可以根据自己的要求来设置,如果 ta 想要一个非常准确的答案,可以降低 temperature 。
    fqns
        94
    fqns  
       2023-03-03 13:00:10 +08:00
    体验挺好,就是图片没法显示.哈哈. 能自定义 key 的话, 也能给你节省点开支.
    zhaohua
        95
    zhaohua  
       2023-03-03 13:03:40 +08:00
    楼主好快, 我刚准备写
    ViolaH
        96
    ViolaH  
       2023-03-03 13:04:49 +08:00
    @zuoyi333888 gpt-3.5-turbo 好像不支持,摘自官网:
    "Is fine-tuning available for gpt-3.5-turbo?
    No. As of Mar 1, 2023, you can only fine-tune base GPT-3 models. See the fine-tuning guide for more details on how to use fine-tuned models."
    zuoyi333888
        97
    zuoyi333888  
       2023-03-03 14:33:19 +08:00
    @ViolaH 不是 fine-tuning ,是发送 API 请求时候的配置设定( https://platform.openai.com/docs/api-reference/completions/create#completions/create-temperature
    myselflove8090
        98
    myselflove8090  
       2023-03-03 15:12:08 +08:00
    数据不是最新的
    LeeeSe
        99
    LeeeSe  
       2023-03-03 15:45:42 +08:00
    直接部署在 vercel 速度跟 OP 的差不多
    OkabeRintaro
        100
    OkabeRintaro  
       2023-03-03 15:57:46 +08:00
    太傻了
    问他天地有正气下一句是什么,回我一句:雄心向前人无敌
    又问他这是谁写的,回我 [王勃的《滕王阁序》]
    再问他正气歌谁写的,回我 [唐代的韩愈,这首诗是韩愈在他的文章《马蹄铁》中所附的一首赋] ,我问他确定吗?他立马改口说是 [宋朝理学家朱熹] 写的,再问他确定吗?又改回说是 [韩愈] 写的。
    最后让他把正气歌和滕王阁序的内容说出来,我在问他 [滕王阁序有"天地有正气,杂然赋流形"这一句吗] ,直接就不会答了。
    1  2  
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2361 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 05:41 · PVG 13:41 · LAX 22:41 · JFK 01:41
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.