V2EX › dnfQzjPBXtWmML 的所有回复 › 第 15 页 / 共 15 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

For Existing Member Sign In

1 ... 6 7 8 9 10 11 12 13 14 15

❮

❯

2023 年 10 月 17 日

回复了 zx9481 创建的主题 › 问与答 › 大家在北上广工作了多少年了？

四年，已经受不了啦

2023 年 10 月 16 日

回复了 Inzufu 创建的主题 › 问与答 › 有必要把自己的数字信息交代给父母吗

网上的身份在我死了之后没有任何保留的价值。设置自动删除时间，到点自动删干净了最好。

2023 年 10 月 13 日

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw 生成 token 比推送到客户端并显示开销高得多，所以所有的设计都主要被 LLM 本身的特性所限制。你重现对话速度快可能和当时的使用人数有关，北京时间深夜用比白天速度慢。另外，如果工程师们如果有更重要的事情做，那么不浪费时间在优化细节上面没什么问题。

2023 年 10 月 13 日

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw “但或许这个问题并不重要，token 生成、网络传输的延迟、客户端异步读取收到的数据，这些结合在一起自动导致了客户端动画。”：每次对话几十秒，token 生成占多少时间，网络延迟占多少时间？我不认为这个场景下所谓“通信复杂度上升到 Theta(n^2)”是什么值得真正工作过的程序员震惊甚至关注到的东西。

2023 年 10 月 13 日

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@Takizawa 很明显 bard 用的人不多，每个人分到了更多的算力

2023 年 10 月 13 日

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw 还网络延迟呢😅

2023 年 10 月 13 日

回复了 MajestySolor 创建的主题 › 机器学习 › chatgpt/bingchat 这些大语言模型在进行文字回应的时候都是几个字几个字的往外蹦，这背后的原因是啥？

@geelaw 要么你 f12 看看
https://chat.openai.com/backend-api/conversation 这个 SSP 请求？下面这个请求，在我这耗时 16 秒，推了 407 个消息体，703,001 字节 headers:3,017; body:699,984 。而且可以看到，['message']['content']['parts'][0]每次推消息都在追加文本

https://imgur.com/a/wxJ24Ix

2023 年 10 月 12 日

回复了 mmdbn 创建的主题 › OpenAI › 求 ai 视频摘要工具(或者总结工具)

油管可以直接下字幕文件，省去音频->文本的过程

2023 年 10 月 11 日

回复了 NoraProgrmming 创建的主题 › RSS › 2023 年，我又用回了 rss

rsshub

2023 年 10 月 7 日

回复了 suqiuluck 创建的主题 › 程序员 › 谁家好人可以告诉我 64G 内存条，可以用来玩些好玩的东西？

跑 llama.cpp

2023 年 10 月 7 日

回复了 mycang 创建的主题 › Apple › 灵动岛 MacBook 啊？！

挺好看，有设计感，但不想要