V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
mumbler
V2EX  ›  OpenAI

gemma2 2B 一键整合包(2.3G),能力超过 gpt3.5, cpu 也能跑得飞快

  •  1
     
  •   mumbler · 42 天前 · 1179 次点击
    这是一个创建于 42 天前的主题,其中的信息可能已经有所发展或是发生改变。

    https://flashai.com.cn/model/gemma2_2b

    不用 GPU ,在 12 代 i7cpu 也能跑出 20+token/秒的速度

    无需任何配置,开箱即用

    支持 win10,win11 ,mac11+

    图形界面,不用自己安装 webgui

    自带 embedding 库,支持上传 pdf,docx,txt,md 创建知识库

    文档翻译工作流,一次翻译整本书

    知识树,从大模型压榨数据

    离线使用,大模型基础功能永久免费

    gemma2 2b

    ollama

    6 条回复    2024-08-07 22:48:46 +08:00
    asaworld
        1
    asaworld  
       42 天前 via iPhone
    看着不错,有没有老哥测试下
    zhs227
        2
    zhs227  
       42 天前
    mac 11.6.1 启动报错,大概就是执行模型加载错误了
    zhs227
        3
    zhs227  
       42 天前
    "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model gemma2:2b-instruct-q4_K_M -path "/Applications/FlashAI B2.app/Contents/Resources/embeddings"
    zsh: segmentation fault "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model -pat
    mumbler
        4
    mumbler  
    OP
       42 天前 via Android
    @zhs227 第一次运行有可能失败,重启一下试试
    zhs227
        5
    zhs227  
       42 天前
    启了无数次都是一样的。报 segmentation fault ,应该是哪里内存越界了。
    mumbler
        6
    mumbler  
    OP
       42 天前 via Android
    @zhs227 可以在 flashai.com.cn 主页扫二维码进交流群,帮你看看
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5820 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 02:06 · PVG 10:06 · LAX 19:06 · JFK 22:06
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.