其他分享
首页 > 其他分享> > spark相关问题

spark相关问题

作者:互联网

1.transformation和action的区别

Transformation:代表的是转化操作就是我们的计算流程,返回是RDD[T],可以是一个链式的转化,并且是延迟触发的。 Action:代表是一个具体的行为,返回的值非RDD类型,可以一个object,或者是一个数值,也可以为Unit代表无返回值,并且action会立即触发job的执行。 Transformation的官方文档方法集合如下:
map filter flatMap mapPartitions mapPartitionsWithIndex sample union intersection distinct groupByKey reduceByKey aggregateByKey sortByKey join cogroup cartesian pipe coalesce repartition repartitionAndSortWithinPartitions   Action的官方文档方法集合如下:
reduce collect count first take takeSample takeOrdered saveAsTextFile saveAsSequenceFile saveAsObjectFile countByKey foreach    

cache和persist的区别

cache只有一个默认的缓存级别MEMORY_ONLY

cache调用了persist

persist可以根据情况设置其它的缓存级别

 

flatmap和map区别

map是把

  查看kafka某个topic kafka-run-class.sh kafka.tools.GetOffsetShell --broker-list hbak1:9092 --topic zb

标签:map,--,cache,kafka,问题,persist,相关,spark,Transformation
来源: https://www.cnblogs.com/cphmvp/p/14692397.html