V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
SlipStupig
V2EX  ›  程序员

关于 spark 持久化问题

  •  
  •   SlipStupig · 2016-07-18 02:24:05 +08:00 · 2039 次点击
    这是一个创建于 2865 天前的主题,其中的信息可能已经有所发展或是发生改变。
    本人打算做一个比价软件打算用 spark 做 ETL 工具,想请教一下,如果用 spark 进行长期存储商品历史价格数据数据可靠吗?(会不会出现性能下降或数据丢失等情况?)
    2 条回复    2016-07-18 10:43:37 +08:00
    vietor
        1
    vietor  
       2016-07-18 05:54:57 +08:00 via Android
    spark 只做运算不做存储。
    Todd_Leo
        2
    Todd_Leo  
       2016-07-18 10:43:37 +08:00
    可以存成 parquet file
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2787 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 27ms · UTC 11:56 · PVG 19:56 · LAX 04:56 · JFK 07:56
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.