V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
zisen
V2EX  ›  OpenAI

在知乎抓到一个 ai 疯狂地污染中文互联网

  •  9
     
  •   zisen · 346 天前 · 9351 次点击
    这是一个创建于 346 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我询问 bing ai 象鼻山是否有缆车,然后它告诉我有,并且给出了如下的回答

    然后我点进了它提供的知乎链接,发现了 ai 给出的错误回答

    看到回答日期之后我就发觉不对劲,然后观察回答的语气,在点开个人主页之后,确认了就是 ai

    可以发现这个 ai 账户在以极快的速度将未经核实的信息输出到中文互联网,并且误导了 bing ai ,以至于 bing 给出了错误的答案

    39 条回复    2023-07-01 16:55:48 +08:00
    revalue
        1
    revalue  
       346 天前   ❤️ 1
    好家伙。AI 打败 AI
    revalue
        2
    revalue  
       346 天前   ❤️ 13
    AI 给 AI 喂劣质信息,不断循环,人类有救了
    richardzhao12138
        3
    richardzhao12138  
       346 天前
    不止一个,刷知乎已经遇到好多个这种号了,举报了也没用
    est
        4
    est  
       346 天前   ❤️ 25
    这下你们知道为啥 gpt-3.5 和 gpt-4 都只采用截止到 2021-09 的互联网资料吧。

    很简单。那个时候已经有野生 gpt-3 在外边晃悠了。
    hellodigua
        5
    hellodigua  
       346 天前   ❤️ 1
    那你要是知道百度现在正在做的事情是给百家号全面接入 AI 生成你咋想,国内的互联网巨头开始带头生成 AI 新闻内容了
    rekulas
        6
    rekulas  
       346 天前
    好几年前 gpt2 开源就有人训练自己模型泛滥互联网赚钱了,那时候丝毫不卷,估计赚了不少

    现在还能分辨出来,openai 之前做了 ai 文本检测器但效果没达到预期,他们也认为随着 ai 的进化分辨 ai 内容将会越来越困难,不知道再过 5 年会是什么样
    razios
        7
    razios  
       346 天前 via iPhone
    知乎已经被 ai 污染成一坨了
    snw
        8
    snw  
       346 天前 via Android
    知乎已经很多 AI 了
    GeruzoniAnsasu
        9
    GeruzoniAnsasu  
       346 天前
    garbage in, garbage out...

    未来的 LLM 可别在进化成人之前就先过拟合成智障机器人了
    DOLLOR
        10
    DOLLOR  
       346 天前
    知乎上的技术问题已经基本上被 AI 占领了。
    autoxbc
        11
    autoxbc  
       346 天前
    @GeruzoniAnsasu #9 不会,进化是结果论英雄,智障机器人和智慧机器人放在一起自有高下,上帝不会犯错
    tf141
        12
    tf141  
       346 天前
    知乎还要拥抱 AI 呢,却不知道这种内容社区一旦被 AI 的低质内容占领基本就废了
    Jirajine
        13
    Jirajine  
       345 天前
    “内循环”对 AI 来说应该是注定的了
    strp
        14
    strp  
       345 天前   ❤️ 2
    到一定程度人类虽然可能还不会无条件的相信 AI ,但是会把更多的检索时间交给 AI ,相信 AI 有能力建立出判断垃圾信息的能力,而到时候 Big Corporats 会不会选择将此过滤器应用到面向大众的检索工具中会是一个很大的问题,这将意味着信息监管和茧房会越来越严重,如果一个人获取信息的渠道更高提升个人能力的难度也会更高,花费的时间也会更多,这也许会导致贫富差距越来越严重。但是如果以后的人都能建立起自己的 trust boundaries 的话,这个问题也许不会出现,就现在来看大不可能,我更担心的是以后会出现更多这种人:“It's Easier to Fool People Than It Is to Convince Them That They Have Been Fooled.”。
    dasferco
        15
    dasferco  
       345 天前 via Android   ❤️ 1
    1. 象鼻山只高出江面 55 米。
    2. AI 生成内容可以举报,扰乱社区秩序—AI 生成内容。
    3. 中文互联网的优质可靠的内容太少了。
    jenlors
        16
    jenlors  
       345 天前
    掘金已经开始制造垃圾了,搜到过好多次
    bhbhxy
        17
    bhbhxy  
       345 天前
    某度知道不是一堆答非所问的回复么,这个污染更严重吧,还有床上等你,妥妥的垃圾输出平台
    juded
        18
    juded  
       345 天前
    用魔法打败魔法~
    imicksoft
        19
    imicksoft  
       345 天前
    gbt 快更新,让用户设置黑名单,回答时不采纳那些网站的内容
    SmiteChow
        20
    SmiteChow  
       345 天前
    废话生成器而已,不要对这玩意抱有幻想。
    mscsky
        21
    mscsky  
       345 天前
    在前面加不要搜索网络指令
    googlefans
        22
    googlefans  
       345 天前
    @revalue 一切都在意料之中
    invalid522
        23
    invalid522  
       345 天前 via Android
    @dasferco 可以举报是一回事,但是逼乎本身已经在纵容 AI 内容泛滥了,有些明显是 AI 生成的“回答”权重还不低💊
    mmdsun
        24
    mmdsun  
       345 天前 via iPhone
    如果网络上全是 AI 的回答,那以后 AI 就没有数据训练了。

    必应有禁止联网搜索的指令。
    vileer
        25
    vileer  
       345 天前 via iPhone
    @richardzhao12138 有没有一种可能,这些 ai 就是官方搞得托
    Suclogger
        26
    Suclogger  
       344 天前
    关于这个担忧 3 个月前的讨论: /t/918457
    JensenQian
        27
    JensenQian  
       343 天前 via Android
    太抽象了,ai 悖论
    FirefoxChrome
        28
    FirefoxChrome  
       343 天前 via Android
    举报吧,知乎不允许这种
    aiqinxuancai
        29
    aiqinxuancai  
       343 天前
    知乎上好多了,看到请举报
    hendry
        30
    hendry  
       343 天前 via Android
    你们有没有注意到在 3-4 月份,chatgpt 和国内衍生品出来后,一大堆微博的 ai 评论,那些词语一看就知道是 ai 发出的,最近沉默了,不知道为何,大概在升级?
    hendry
        31
    hendry  
       343 天前 via Android
    @imicksoft 那么虚假账户将正常用户和相关内容纳入黑名单,是不是阻止了正常内容的输出。
    imicksoft
        32
    imicksoft  
       342 天前
    @hendry #31
    是阻止自己看不到,不是阻止别人。
    以前用百度搜索时有些插件是屏蔽 csdn 的,微博可以设置关键字减少看到某些人。这只针对自己不针对别人。网站平台想要真人就得自己审核,虚假过多就得封禁帐户,不然百度就是前车之鉴,活该被人唾弃。
    hendry
        33
    hendry  
       342 天前 via Android
    @imicksoft 哦是这个意思,赞同。
    JontyChen
        34
    JontyChen  
       342 天前
    知乎上现在太多广告了,全是各种引流的
    lambdaq
        35
    lambdaq  
       340 天前
    家人们谁懂啊,量子位拿着本帖洗了一篇稿。。。。https://mp.weixin.qq.com/s/TeuBeP_cKjF4y_PbR_j3nw
    zisen
        36
    zisen  
    OP
       340 天前 via iPhone
    @lambdaq 笑死我了😂,这下成为某网友了
    ritziiiiii
        37
    ritziiiiii  
       337 天前 via Android
    知乎的回答有收益吗?不过把号养好了确实有点收益。
    lurenlym
        38
    lurenlym  
       331 天前
    @lambdaq 哈哈哈哈哈哈哈哈,笑死了
    daveh
        39
    daveh  
       328 天前 via iPhone
    貌似已经修复了。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1112 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 445ms · UTC 18:42 · PVG 02:42 · LAX 11:42 · JFK 14:42
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.