V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
sonnyclarity492
V2EX  ›  程序员

大佬们云服务器怎么选

  •  
  •   sonnyclarity492 · 170 天前 · 2994 次点击
    这是一个创建于 170 天前的主题,其中的信息可能已经有所发展或是发生改变。

    有以下几个要求:

    1. 满足普通的数据科学计算快速完成,至少要和桌面端持平
    2. 自己训练模型能较快完成
    3. 为大模型预留闲置算力
    4. 如果是境外主机,到大陆的网络质量不要太差
    5. 如果是大陆主机,带宽尽可能大

    其实 1 ,2 ,3 可能隐含着 CPU 需要好点,磁盘 IO 不要太差。搞数据科学内存要 8GB 起步了。

    各位大佬能不能提供一些云服务器厂商和产品的选择,我自己看了一下,大厂的价格其实蛮贵的,不知道具体如何选择。

    最后说说我的期望,实例我希望能一直正常运行,价格也不要太贵,理想价格是 100-200 元每月


    不太想自建服务器,不过我乐意了解如果自己去托管的话,一个月的花费是怎么样的。

    12 条回复    2024-05-15 07:48:15 +08:00
    ivmm
        1
    ivmm  
       170 天前
    其实如果不是非常重在线率的场景的话,

    7840H/8845H 的迷你主机,裸机 2500 上下的样子,自己配上 64G 内存 + 2T 的 SSD 基本上 4k 能落地,用个四年五年完全不是问题。

    200 每月,一年就是 2500 的费用买云服务器其实也就 2C8G 撑死了,存储还很小。

    当然了如果你的服务是要 24 小时跑,在线率要求高,要求数据安全稳定的,云服务器在这些方面碾压迷你主机。

    BTW ,我提供阿里云额外折上折优惠,详细请移步: https://www.v2ex.com/t/1020466
    wbrobot
        2
    wbrobot  
       170 天前
    @ivmm 小主机是怕断电吗?加个 UPS 不就行了. 数据安全的话,组 RAID
    totoro625
        3
    totoro625  
       170 天前
    200/月刚刚好够国内大厂最低配置,大厂流量费 20 元每 mbps
    高性能需求自己买台电脑丢自己家/实验室/公司/仓库,而不是买云服务

    托管费用按机器大小,耗电,及带宽计算
    常规机器只考虑机器大小,例如镇江机房:
    电信单线 托管 1U 20M 独享带宽,1ip 300 元 /月 付十送三; BGP 400/月 付十送二
    整机柜 5500/月
    电信单线 托管 1U 100M 独享带宽,1ip 800 元 /月
    honus
        4
    honus  
       170 天前
    托管就别想了 托管费用给你租一个同样配置的价格是相差不大的
    Donaldo
        5
    Donaldo  
       170 天前
    满足普通的数据科学计算快速完成,至少要和桌面端持平
    自己训练模型能较快完成
    为大模型预留闲置算力

    理想价格是 100-200 元每月

    上下冲突 不可能这么便宜
    sonnyclarity492
        6
    sonnyclarity492  
    OP
       170 天前
    感谢楼上各位,看起来这价格确实低了。准备先拿小机器练练手。
    xguanren
        7
    xguanren  
       170 天前
    一个月 200 给你说个省钱的话..去买 aws 白嫖账号吧 32v 16v 的账号 就当月抛慢慢换吧 要不然这个价格 买 vps 的话 买不到什么.或者就是一次性花个 1000 去买个新用户的账号. 应该能蹲到不错的 2 年 1 年的机器
    hefish
        8
    hefish  
       170 天前
    我也有类似的要求:
    1 、网速不需要太快
    2 、网速也不能太慢
    3 、配置不需要太高
    4 、配置也不能太低
    5 、价格不能太便宜
    6 、价格也不能太贵
    能满足这些的都是好主机。
    lovegoogle
        9
    lovegoogle  
       170 天前
    我看到第二条的时候,一个月 200 几乎不可能了。(大模型基本都要显卡,cpu 听说能做,但至少生产上没见过这么做的,除非你是 openai 那种调接口的)

    带 GPU 的服务器没见过一个月少于 200 的,基本都是一个月至少 1000+,而且还是低配显卡的那种。

    因为我租过...
    klion
        10
    klion  
       170 天前
    想和桌面端算力持平,每年需要上万
    kitazawa
        11
    kitazawa  
       169 天前
    国内网络好的话可以通过优化线路转发
    毕竟光是国内优化线路就要占一大笔开销
    后端 cpu 好点的话
    欧洲 Hetzner ,或者 netcup 的 vds

    Hetzner VPS € 16.18 / mo:
    Processor : AMD EPYC-Milan Processor
    CPU cores : 4 @ 2445.404 MHz
    RAM : 8 GiB
    Disk : 153 GiB

    Geekbench 6 Benchmark Test:
    Single Core | 1520
    Multi Core | 4825
    ————————————————————————
    RS 1000 G11 ( CPU 独享,新款是 amd 9634 )
    AMD EPYC™ 9634
    8 GB DDR5 RAM (ECC)
    4 dedicated cores
    256 GB NVMe SSD
    Snapshots (Copy-On-Write)
    Remote console etc...
    Details >
    from per month
    9.81€

    RS 2000 G11
    AMD EPYC™ 9634
    16 GB DDR5 RAM (ECC)
    8 dedicated cores
    512 GB NVMe SSD
    Snapshots (Copy-On-Write)
    Remote console etc
    Details >
    from per month
    16.89€

    旧款的 cpu 是 amd 7***,新款的 9634 评测我还没有搜到,不过肯定比以前 gb5 单核 1000 分要好
    ————————————————————————
    网络通过腾讯云、阿里云香港转发回国
    两款的硬盘 io 都不用担心

    这只是 VPS 我能推荐的大厂了,毕竟要考虑 CPU 性能最好还是欧美,比亚太便宜多了
    dayeye2006199
        12
    dayeye2006199  
       169 天前 via Android
    感觉不如 colab
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1134 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 22:57 · PVG 06:57 · LAX 15:57 · JFK 18:57
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.