V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
wszgrcy
V2EX  ›  机器学习

问下 ai 大佬,ai 续写文章是什么原理?

  •  
  •   wszgrcy · 2022-01-11 09:26:50 +08:00 · 2340 次点击
    这是一个创建于 807 天前的主题,其中的信息可能已经有所发展或是发生改变。
    • 这几天刷视频看到了 ai 续写的文章
    • 之前虽然说不干这行吧,但是也看过一些教程
    • 基本上都是分类问题,判断问题,还从来没接触过这种自主写文章的
    • 当时在想,是不是通过上下文语境判断是哪个文字片段插入进去,但是发现好像插入的文本相关人物地点环境也对得上...所以有点陷入知识盲区了...
    • 不要求会(其他的人工智能我也不会写),但是只想搞懂原理,以后别被忽悠瘸了...
    9 条回复    2022-01-11 10:36:06 +08:00
    LeslieLeung
        1
    LeslieLeung  
       2022-01-11 09:32:50 +08:00 via iPhone   ❤️ 1
    不算特别懂,推荐看看 GAN (生成式对抗网络)的论文,能够模仿前面的写作风格的,跟图像那些的风格应该类似。
    语言模型( w2v 、BERT )本来就是预测接下来出现的文字的,能做到续写也蛮自然的。
    另外想知道续写怎么实现的去看续写相关的论文就好了啊..?
    wszgrcy
        2
    wszgrcy  
    OP
       2022-01-11 09:35:56 +08:00
    @LeslieLeung 因为隔行如隔山,所以才需要一位大佬给关键词让我接下来找到搜索方向[抱拳]
    Rivers7
        3
    Rivers7  
       2022-01-11 09:36:56 +08:00   ❤️ 1
    应该是属于自然语言处理的范畴吧
    princelai
        4
    princelai  
       2022-01-11 09:46:41 +08:00   ❤️ 1
    你先把 ngram 和隐马尔科夫模型弄懂了就知道是什么原理了
    paopjian
        5
    paopjian  
       2022-01-11 09:51:21 +08:00   ❤️ 1
    GPT2 开源了,可以去看下,文本生成任务
    Morriaty
        6
    Morriaty  
       2022-01-11 10:13:34 +08:00   ❤️ 2
    原理其实就是一个贝叶斯公式,已知上下文(条件),求最大概率目标文本段(条件概率),继而衍生出 Ngram / 马尔科夫 / word2vec / gpt 等等等等,搜下「 language model 」或者「 NLG 」
    Juszoe
        7
    Juszoe  
       2022-01-11 10:21:17 +08:00   ❤️ 1
    ai 续写大多是基于 GPT2 、GPT3 做的,基本原理就是给出一段文字,预测下一个词是什么。
    czfy
        8
    czfy  
       2022-01-11 10:25:14 +08:00   ❤️ 1
    关键词:

    GPT-3 (未开源,只能申请调用 API )
    GPT-2 (已开源)
    GPT 2 中文
    NLG
    自然语言生成
    ttgo
        9
    ttgo  
       2022-01-11 10:36:06 +08:00
    加强版的「成语接龙」。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   5462 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 08:15 · PVG 16:15 · LAX 01:15 · JFK 04:15
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.