自己搭建一个私域 openai 可行么？

[justincnn]

把自己的一些项目和知识放在里面，或者把感兴趣的数据不断喂投，慢慢的形成自己的，且保密的信息池

[xmumiffy]

可行啊 参考 https://github.com/openai/openai-cookbook/blob/main/examples/Question_answering_using_embeddings.ipynb

[zacharyjia]

首先基于 OpenAI 的 API 必然是不行的，不满足你的**保密**要求。最近三星已经出了几次 ChatGPT 的泄密事件了。

不考虑保密，可以用 1 楼的方法。

考虑保密的话，需要自己部署私有的开源 LLM ，比如清华的 ChatGLM ，Meta 的 llama 等。两种模式：一种是参考现有的模式，对每次提问去搜索相似的文本语段，作为上下文提供给 LLM ，然后它根据上下文和问题进行回答；另一种是用你自己的数据对它进行 fine-tune ，让你的知识嵌入到模型当中。

[iloveoovx]

去看看微软怎么解决保密问题的
毕竟 2B 解决方案保密需求是第一要求

[q307990588]

怎么一直喂？ gpt 最大的储存 token 不是有限的么，记住现在的，会把之前的遗忘吧

[Fenix666]

不考虑保密的话，用 fine-tune ，一楼的办法还是摆脱不了 token 限制，但 fine-tune 贵的一批

[avenger]

@Fenix666 fine-tune 测试了不可行，参考我的帖子

[Fenix666]

@avenger 对，embeddings 是成本最低办法，但缺点仍然很多，目前最明显的问题就是 1：token 限制，2：上下文对话里如果使用了代词之类的词，会出现匹配不准，这个我看 openai 论坛里有人提过，不知道怎么解决。