在資料科學Workspace中使用Spark存取資料

以下檔案包含如何使用Spark存取資料,以用於資料科學Workspace的範例。 如需使用JupyterLab Notebooks存取資料的資訊,請瀏覽JupyterLab Notebooks資料存取檔案。

快速入門

使用Spark需要效能最佳化,這些需要新增至SparkSession。 此外,您也可以設定configProperties以便稍後讀取和寫入資料集。

import com.adobe.platform.ml.config.ConfigProperties
import com.adobe.platform.query.QSOption
import org.apache.spark.sql.{DataFrame, SparkSession}

Class Helper {

 /**
   *
   * @param configProperties - Configuration Properties map
   * @param sparkSession     - SparkSession
   * @return                 - DataFrame which is loaded for training
   */

   def load_dataset(configProperties: ConfigProperties, sparkSession: SparkSession, taskId: String): DataFrame = {
            // Read the configs
            val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
            val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
            val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
            val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString

   }
}

讀取資料集

使用Spark時,您可以存取兩種讀取模式:互動式與批次式。

互動模式會建立與Query Service的Java Database Connectivity (JDBC)連線,並透過自動轉譯為DataFrame的一般JDBC ResultSet取得結果。 此模式的運作方式與內建Spark方法spark.read.jdbc()類似。 此模式僅適用於小型資料集。 如果您的資料集超過500萬列,建議您切換至批次模式。

批次模式使用Query Service的COPY命令在共用位置產生Parquet結果集。 然後可以進一步處理這些Parquet檔案。

在互動模式下讀取資料集的範例如下所示:

  // Read the configs
    val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
    val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
    val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
    val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString

 val dataSetId: String = configProperties.get(taskId).getOrElse("")

    // Load the dataset
    var df = sparkSession.read.format(PLATFORM_SDK_PQS_PACKAGE)
      .option(QSOption.userToken, userToken)
      .option(QSOption.imsOrg, orgId)
      .option(QSOption.apiKey, apiKey)
      .option(QSOption.mode, "interactive")
      .option(QSOption.datasetId, dataSetId)
      .option(QSOption.sandboxName, sandboxName)
      .load()
    df.show()
    df
  }

同樣地,您可以在下方看到以批次模式讀取資料集的範例:

val df = sparkSession.read.format(PLATFORM_SDK_PQS_PACKAGE)
      .option(QSOption.userToken, userToken)
      .option(QSOption.imsOrg, orgId)
      .option(QSOption.apiKey, apiKey)
      .option(QSOption.mode, "batch")
      .option(QSOption.datasetId, dataSetId)
      .option(QSOption.sandboxName, sandboxName)
      .load()
    df.show()
    df

從資料集中選取欄

df = df.select("column-a", "column-b").show()

DISTINCT子句

DISTINCT子句可讓您在列/欄層級擷取所有不同的值,從回應中移除所有重複的值。

以下顯示使用distinct()函式的範例:

df = df.select("column-a", "column-b").distinct().show()

WHERE子句

Spark SDK允許兩種篩選方法:使用SQL運算式或透過條件篩選。

您可以在下方看到使用這些篩選函式的範例:

SQL運算式

df.where("age > 15")

篩選條件

df.where("age" > 15 || "name" = "Steve")

ORDER BY子句

ORDER BY子句允許接收的結果以特定順序(升序或降序)依指定的資料行排序。 在Spark SDK中,這是使用sort()函式來完成。

以下顯示使用sort()函式的範例:

df = df.sort($"column1", $"column2".desc)

LIMIT子句

LIMIT子句可讓您限制從資料集接收的記錄數。

以下顯示使用limit()函式的範例:

df = df.limit(100)

寫入資料集

使用您的configProperties對應,您可以使用QSOption寫入Experience Platform的資料集。

val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString

    df.write.format(PLATFORM_SDK_PQS_PACKAGE)
      .option(QSOption.userToken, userToken)
      .option(QSOption.imsOrg, orgId)
      .option(QSOption.apiKey, apiKey)
      .option(QSOption.datasetId, scoringResultsDataSetId)
      .option(QSOption.sandboxName, sandboxName)
      .save()

後續步驟

Adobe Experience Platform資料科學Workspace提供Scala (Spark)配方範例,此範例使用上述程式碼範例來讀取和寫入資料。 如果您想進一步瞭解如何使用Spark存取您的資料,請檢閱資料科學Workspace Scala GitHub存放庫

recommendation-more-help
cc79fe26-64da-411e-a6b9-5b650f53e4e9