python – PySpark：使用过滤函数后取一列的平均值

我使用以下代码来获得薪水大于某个阈值的人的平均年龄.

dataframe.filter(df['salary'] > 100000).agg({"avg": "age"})

列的年龄是数字(浮点数),但我仍然收到此错误.

py4j.protocol.Py4JJavaError: An error occurred while calling o86.agg. 
: scala.MatchError: age (of class java.lang.String)

您是否知道在不使用groupBy函数和SQL查询的情况下获得avg等的任何其他方法.

解决方法:

聚合函数应该是值,列名称是键：

dataframe.filter(df['salary'] > 100000).agg({"age": "avg"})

或者你可以使用pyspark.sql.functions：

from pyspark.sql.functions import col, avg

dataframe.filter(df['salary'] > 100000).agg(avg(col("age")))

也可以使用CASE .. WHEN

from pyspark.sql.functions import when

dataframe.select(avg(when(df['salary'] > 100000, df['age'])))

标签：pyspark-sql,python,apache-spark,pyspark,apache-spark-sql
来源： https://codeday.me/bug/20191005/1857437.html