编程语言
首页 > 编程语言> > Spark快速上手(6)Spark核心编程-RDD行动算子Action

Spark快速上手(6)Spark核心编程-RDD行动算子Action

作者:互联网

RDD(3)

RDD行动算子

所谓行动算子,就是触发Job执行的方法

reduce

函数签名
def reduce(f: (T, T) => T): T
函数说明
聚集RDD中的所有元素,先聚合分区内数据,再聚合分区间数据
e.g.
code:

def main(args: Array[String]): Unit = {
    val source: RDD[Int] = sc.makeRDD(List(1, 2, 3, 4))
    //    聚合数据
    val reduceResult: Int = source.reduce(_ + _)
    println(reduceResult)
  }

result:
10

collect

函数签名
def collect(): Array[T]
函数说明
在驱动程序中,以数组Array形式返回数据集中的所有元素
e.g.
code:

@Test
    def testCollect(): Unit = {
      //    收集数据到driver
      source.collect().foreach(println)
    }

count

函数签名
def count(): Long
函数说明
返回RDD中的元素的个数
e.g.
code:

 @Test
    def testCount(): Unit = {
      //    返回 RDD 中元素的个数
      println(source.count())
    }

first

函数签名
def first(): T
函数说明
返回RDD中的第一个元素
e.g.
code:

@Test
    def testFirst(): Unit ={
      //    返回 RDD 中的第一个元素
      println(source.first())
    }

标签:code,函数,source,RDD,Action,println,Spark,def
来源: https://www.cnblogs.com/unknownshangke/p/16454835.html