sparksql自定义函数

前言

Spark SQL UDF（也称为用户定义函数）是Spark SQL&DataFrame最有用的功能，它扩展了Spark内置功能。在本文中，我将解释什么是UDF？为什么我们需要它，以及如何使用Java、Scala示例在DataFrame和SQL上创建和使用它。

注意：UDF是最昂贵的操作，因此只有在必要时才使用它们。

什么是Spark UDF

UDF又称用户定义函数，如果你有使用SQL的经历，那么UDF对你来说并不是什么新鲜事，因为大多数传统的RDBMS数据库都支持用户定义函数。Spark UDF与这些类似。
在Spark中，你可以通过用你喜欢用于Spark的语言创建函数来创建UDF。例如，如果您将Spark与scala一起使用，您可以用scala语言创建一个UDF并用UDF()函数包装它，或者将其注册为UDF以分别在DataFrame和SQL上使用它。

为什么需要Spark UDF

UDF用于扩展框架的功能，并在几个DataFrame上重用此功能。例如，如果你想将句子中单词的每个第一个字母都转换为大写，则spark内置功能没有此功能，因此你可以将其创建为UDF，并根据需要在多个DataFrame上重用它。UDF一旦创建，就可以在几个DataFrame和SQL表达式上重复使用。
在创建任何UDF之前，请先进行研究，检查你想要的类似函数是否已在Spark SQL函数中可用。Spark SQL提供了几个预定义的通用函数，每个版本都会添加更多的新函数。因此，最好在自定义函数之前检查一下是否有现成