0%

Spark公司内部培训

关键词: Spark架构, Spark优化

Spark公司内部培训

优化#

  • 可靠性 驱动节点(Driver)失效 -> checkpoint
  • ReduceByKey vs GroupByKey
    ReduceByKey 先reduce,再shuffle, 更高效。
    GroupByKey 先shuffle,再reduce。
  • foreachRDD、foreachPartition和foreach 3个Action
    与connection的关系