V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
starry97
V2EX  ›  Spark

关于 Spark Task 的疑问

  •  
  •   starry97 · 2020-08-04 21:12:30 +08:00 · 2401 次点击
    这是一个创建于 1549 天前的主题,其中的信息可能已经有所发展或是发生改变。

    avatar

    关于上面那个图,ShuffleMapStage 中,有三个 RDD,每个 RDD 有三个分区 我看网上文章都是说一个分区对应一个 task,

    1.上面那个 ShuffleMapStage 中阶段里是否存在 9 个 Task 。

    2.但站在 pipeline 角度上看,应该只有三个 task,每个 RDD 的一个分区组合成一个 task 。

    上面两种说法,哪种是正确的呢,被搞糊涂了。谢谢!

    2 条回复    2020-08-05 10:04:45 +08:00
    Finch
        1
    Finch  
       2020-08-05 01:01:22 +08:00 via iPhone
    一般是多少个 partition 就有多少个 task 。
    如果是 9 个 task 就没有 DAG 的必要了。
    starry97
        2
    starry97  
    OP
       2020-08-05 10:04:45 +08:00
    @Finch 一般是多少个 partition 就有多少个 task 。 那 ShuffleMapStage 中有 9 个分区,那么就有 9 个 task 了?

    不过我现在知道了,是以 stage 最后 RDD 的分区数为例,还是感谢您!
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1243 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 23:16 · PVG 07:16 · LAX 16:16 · JFK 19:16
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.