cj323 最近的时间轴更新 cj323 最近的时间轴更新 |
cj323V2EX 第 668324 号会员，加入于 2023-12-25 03:09:16 +08:00今日活跃度排名 781 |
| 需要一个尊重上下文的输入法 输入法 • cj323 • 1 天前 • 最后回复来自 frankilla | 12 |
| 分享我用包浆了的 MacBook 电池健康状态 MacBook • cj323 • 9 天前 • 最后回复来自 mirrorpen | 6 |
| 安卓使用一周后感受 Android • cj323 • 8 天前 • 最后回复来自 churchmice | 59 |
| 为什么中文网页链接喜欢在新窗口打开 问与答 • cj323 • 16 天前 • 最后回复来自 bearbest | 31 |
| 三星 Z Fold 7 vs 谷歌 Pixel 10 Pro Fold 上手体验分享 分享发现 • cj323 • 9 天前 • 最后回复来自 pdafree | 1 |
| 需要中文字体排版的书籍或网站 字体排印 • cj323 • 36 天前 • 最后回复来自 C0gHam | 4 |
| 需要一个 macOS 软件 macOS • cj323 • 36 天前 • 最后回复来自 loganovo | 10 |
| PHP 8.5 加入了 pipe 语法 PHP • cj323 • 70 天前 • 最后回复来自 zjsxwc | 59 |
cj323 最近回复了
7 天前 回复了 cj323 创建的主题 › 输入法 › 需要一个尊重上下文的输入法 |
我抛砖引玉一个实现：
本地起一个模型。每次打字通过定制的输入法喂给 AI 选择过的文字，一次也就几 byte 。每次提示前通过已知信息重排选项。模型尽量小以缩小延迟，尽量向小 token 优化。再慢就缩小缓存/上下文长度，并只优化简体中文。现在简单的模型都能秒出结果了，就吐几个 token 应该能接近输入法输入频率了吧。
本地起一个模型。每次打字通过定制的输入法喂给 AI 选择过的文字，一次也就几 byte 。每次提示前通过已知信息重排选项。模型尽量小以缩小延迟，尽量向小 token 优化。再慢就缩小缓存/上下文长度，并只优化简体中文。现在简单的模型都能秒出结果了，就吐几个 token 应该能接近输入法输入频率了吧。
7 天前 回复了 cj323 创建的主题 › 输入法 › 需要一个尊重上下文的输入法 |
@lswlray #1 不是有不有的问题，是有提示但是不是依赖上下文重新排列优先级。自带输入法也有吕蒙，但是优先级没有被上下文影响。依赖上下文的输入法应该是打了充电器优先提示绿盟；打过装修优先提示铝门……
@xinbinhan #39 难不难用比较主观。但是客观学习成本肯定是比较高的，其中一大部分是源自作者飞一样的更新速度（感谢作者）。这对于喜欢折腾，追求完美的人不一定是坏事，因为更新快往往意味着 bug 修得及时；新东西支持得快；配置上能重构的地方也会变得更合理。但这也会带来麻烦的地方，那就是得跟得上作者的节奏。举个例子，我一年前自己手搓的配置，现在已经有很多 deprecated 甚至 remove 了，具体体现在 log 里 warning 茫茫多。顺藤摸瓜到文档就发现这一年已经有了很大的改变，需要再次阅读再按照新的改/重搓。
@totoro625 #30 对，github 下的
@wu67 #8 singbox 确实有不少坑，我不会推荐给新手。我是之前鼓捣过所以学习成本低。另外我选择 singbox 一个重要原因是我也在 apple 生态里，singbox 的跨平台性我很看重。
@layxy #17 确实大，我开个抖音就用了 1.5G 内存，高德搜了一个地址又干一个多 G……
@MIUIOS 唉我这里选项很少，能上手的就谷歌三星。而谷歌硬件体验实在太下头也被排除了。
16 天前 回复了 LonnyWong 创建的主题 › 开源软件 › 发现有些人开源的格局很低，有嘲讽英语的，有嘲讽分享的… |
@LonnyWong #49 劝你一句，真没必要这么在意别人的看法。Github 的星星，别人回你的文字（包括我的）不值得你这么较真。
16 天前 回复了 LonnyWong 创建的主题 › 开源软件 › 发现有些人开源的格局很低，有嘲讽英语的，有嘲讽分享的… |
别发了，求你了。这么点儿事儿你比谁都急。
Select Language