V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
athomas
V2EX  ›  程序员

什么配置的电脑能把 OpenAI 的 Whisper 跑快一点

  •  
  •   athomas · 2023-02-17 10:52:33 +08:00 · 4343 次点击
    这是一个创建于 464 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我现在的 Macbook (具体型号如下)跑 Whisper 太慢了,20 分钟的视频都能跑上 1+小时(大模型)请问什么配置电脑能让它跑快点呢?新的 Macbook M2 会好很多吗?还是必须得上 Windows 带超强显卡的笔电?

    MacBook Pro 13-inch, 2020 Core i5 Graphics Intel Iris Plus Graphics 1536 MB Memory 16 GB 3733 MHz

    13 条回复    2023-02-17 16:20:47 +08:00
    WonderfulRush
        1
    WonderfulRush  
       2023-02-17 11:01:39 +08:00
    如果代码没有针对 mps(mac arm gpu 加速)的话, 最后还是用 cpu 跑,提升应该不会很大。所以配 n 卡可能得到的提升比较稳定。
    windyboy
        2
    windyboy  
       2023-02-17 11:04:19 +08:00
    显卡
    neopenx
        3
    neopenx  
       2023-02-17 11:11:42 +08:00
    MPS 默认跳过 intel 集显。所以你 100%是 CPU 在跑。
    你换 M2 还不如去租 GPU ,M2 pro 的 MPS 性能也就 1060 水平,跑 Transformer 惨不忍睹
    king888
        4
    king888  
       2023-02-17 11:14:39 +08:00
    要不试试云运算,paperspace ,按需付费
    Bromine0x23
        5
    Bromine0x23  
       2023-02-17 11:19:59 +08:00
    显卡拉满
    mercury233
        6
    mercury233  
       2023-02-17 11:21:58 +08:00
    我用的 3060 12G 跑日语同人音声,CPU 只占用两三个核,GPU 吃满,显存 11G 多,大概是 1.2-1.6 倍速(二十分钟音频十多分钟跑完),但有时遇到 BUG 就慢了
    lookStupiToForce
        7
    lookStupiToForce  
       2023-02-17 11:46:06 +08:00
    好东西,支持
    lookStupiToForce
        8
    lookStupiToForce  
       2023-02-17 11:46:31 +08:00
    @lookStupiToForce #7 回错贴了,无视掉我...
    yesvods
        9
    yesvods  
       2023-02-17 13:00:49 +08:00
    啥场景需要重度依赖 whisper ?
    Volekingsg
        10
    Volekingsg  
       2023-02-17 14:34:24 +08:00
    TabGre
        11
    TabGre  
       2023-02-17 14:58:29 +08:00 via iPhone
    没有啥好办法
    lin98
        12
    lin98  
       2023-02-17 15:48:34 +08:00
    @Volekingsg 这个快很多
    deesan
        13
    deesan  
       2023-02-17 16:20:47 +08:00
    该换 PC 和 N 卡了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2576 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 28ms · UTC 12:56 · PVG 20:56 · LAX 05:56 · JFK 08:56
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.