V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
ZhiKuSpace
V2EX  ›  分享创造

[支持 API 调用] 一键搭建专属于你的知识库大模型 AI 助手

  •  
  •   ZhiKuSpace · 2023-08-30 11:23:59 +08:00 · 1795 次点击
    这是一个创建于 456 天前的主题,其中的信息可能已经有所发展或是发生改变。

    一、背景

    1

    这几个月以来,随着大模型问答应用的落地,我们使用越来越深入,发现了现在大模型的几个问题:

    • 不能输入长篇内容,大都只能输入一两千字的文本

    • 大多数情况会编造回答,牛头不对马嘴

    • 回答的知识范围不可控

    大模型在专有知识问答上表现不佳,原因是模型没有见过或学习过这些知识,自然也给不出我们想要的结果。

    二、常用解决方案

    解决思路就是让模型看见或学习这些知识。常用有两种方式:

    • 模型训练:根据专有知识做一个训练数据集,然后用大模型在数据集上进行微调,让模型去学习这些知识

    • 外挂知识库:在问模型问题的时候,额外给他一些专有知识中的相关信息,让它从中找到正确的答案

    2

    第一种方式成本很高,所以我们基于第二种方式实现了基于外挂知识库的大模型专属 AI 问答助手 —— 智库( zhiku.space )。

    三、智库( zhiku.space )解决方案

    智库( zhiku.space )一键创建知识库专属大模型 AI 助手,支持个性化参数配置,让每个用户将会拥有属于自己的 AI 助手。

    同时开放 API 接口,提供 API 调用方式。开发人员可以根据 API 自定义封装,提升研发效率; API 支持 once-time 、real-time 、sse 三种数据获返回方式。

    8

    3.1 搭建步骤

    1. 创建知识库:不同的知识库,里面的数据是隔离的,互不影响

    2. 数据导入:支持 pdf 、word 、ppt 、Markdown 、txt 等多种文件类型;支持微信公众号、知乎、CSDN 、博客园、掘金等 URL 链接;还支持手动输入文本

    3. 个性化配置:支持选择不同大模型 AI ;支持调节 AI 助手推理比重;个性化设置助手头像昵称与 UI 背景;自定义浏览器标签页图标和域名

    4. 一键发布:一键生成基于此知识库的 AI 问答助手,复制链接一键分享多平台

    9

    10

    3.2 使用场景

    • 学生党职场人高效率 AI 助手

      专属个人知识库 AI 助手,快速检索和查找功能,符合个人学习工作习惯和偏好,提供个性化的智能分析和建议,帮助优化学习工作流程和决策,一秒读懂论文 paper ,获取最新的学术资讯和研究成果,帮助了解前沿知识和拓宽学术视野,个性化 UI 设置,学习工作效率提高神器

    • 公司企业定制化专属 AI 客服

      一键上传资料库,一键生成专属 AI 问答链接,个性化参数调节,定制化专属 AI 智能客服,一键复制多平台使用,减少人工客服成本,提高服务效率

    • 程序员开发者专属 API 接口

      开放 SDK 构建开发者自己的聊天机器人,自定义设置垂直领域知识库专属问答 AI 助手,将智能 AI 助手集成到自己的应用程序中,高效助力程序员开发者整合其他服务

    4


    11

    10 条回复    2023-08-31 09:30:40 +08:00
    gabkfivyfbst
        1
    gabkfivyfbst  
       2023-08-30 12:36:41 +08:00
    定价?
    gaobh
        2
    gaobh  
       2023-08-30 12:40:39 +08:00 via iPhone
    太贵了
    kerb15
        3
    kerb15  
       2023-08-30 14:09:37 +08:00
    能赚到钱吗
    ZhiKuSpace
        4
    ZhiKuSpace  
    OP
       2023-08-30 14:34:19 +08:00
    @gabkfivyfbst 官网里有页面介绍,主要是根据字数和问答次数收费
    ZhiKuSpace
        5
    ZhiKuSpace  
    OP
       2023-08-30 14:35:39 +08:00
    @gaobh 主要提供一种知识库的轻量级解决方案,不需要自己搭建,硬件和软件上能省很多成本,专注于业务上就可以了
    ZhiKuSpace
        6
    ZhiKuSpace  
    OP
       2023-08-30 14:37:29 +08:00
    @kerb15 哈哈😄 完全不赚钱,亏得只剩裤衩了~ 同行们赶紧换赛道
    kerb15
        7
    kerb15  
       2023-08-30 20:28:00 +08:00
    @ZhiKuSpace #6 主要靠推广吧
    mmdsun
        8
    mmdsun  
       2023-08-31 09:18:28 +08:00 via iPhone
    感谢分享。很早就准备自己写一个自用了,一直犹豫选啥向量搜索数据库,楼主有推荐的不?
    ZhiKuSpace
        9
    ZhiKuSpace  
    OP
       2023-08-31 09:27:56 +08:00
    @kerb15 是啊,推广、销售是直接相关的一个环节
    ZhiKuSpace
        10
    ZhiKuSpace  
    OP
       2023-08-31 09:30:40 +08:00   ❤️ 1
    @mmdsun Milvus 、Faiss 、Chroma 等这些都是可以的,我们项目用的是 Chroma ,目前感觉还可以
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5453 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 07:31 · PVG 15:31 · LAX 23:31 · JFK 02:31
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.