Acceso a los datos mediante Spark en Data Science Workspace
El siguiente documento contiene ejemplos sobre cómo acceder a los datos mediante Spark para utilizarlo en Data Science Workspace. Para obtener información sobre el acceso a los datos mediante los blocs de notas de JupyterLab, visite la documentación de acceso a los datos de los blocs de notas de JupyterLab.
Primeros pasos
Usar Spark requiere optimizaciones de rendimiento que deben agregarse a SparkSession. Además, también puede configurar configProperties para que más adelante lea y escriba en conjuntos de datos.
import com.adobe.platform.ml.config.ConfigProperties
import com.adobe.platform.query.QSOption
import org.apache.spark.sql.{DataFrame, SparkSession}
Class Helper {
/**
*
* @param configProperties - Configuration Properties map
* @param sparkSession - SparkSession
* @return - DataFrame which is loaded for training
*/
def load_dataset(configProperties: ConfigProperties, sparkSession: SparkSession, taskId: String): DataFrame = {
// Read the configs
val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString
}
}
Lectura de un conjunto de datos
Mientras utiliza Spark tiene acceso a dos modos de lectura: interactivo y por lotes.
El modo interactivo crea una conexión Java Database Connectivity (JDBC) con Query Service y obtiene resultados a través de un JDBC normal ResultSet que se traduce automáticamente a DataFrame. Este modo funciona de manera similar al método Spark integrado spark.read.jdbc(). Este modo solo está diseñado para conjuntos de datos pequeños. Si el conjunto de datos supera los 5 millones de filas, se recomienda cambiar al modo por lotes.
El modo por lotes utiliza el comando COPY de Query Service para generar conjuntos de resultados de Parquet en una ubicación compartida. Estos archivos de Parquet se pueden procesar posteriormente.
A continuación se puede ver un ejemplo de lectura de un conjunto de datos en modo interactivo:
// Read the configs
val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString
val dataSetId: String = configProperties.get(taskId).getOrElse("")
// Load the dataset
var df = sparkSession.read.format(PLATFORM_SDK_PQS_PACKAGE)
.option(QSOption.userToken, userToken)
.option(QSOption.imsOrg, orgId)
.option(QSOption.apiKey, apiKey)
.option(QSOption.mode, "interactive")
.option(QSOption.datasetId, dataSetId)
.option(QSOption.sandboxName, sandboxName)
.load()
df.show()
df
}
Del mismo modo, a continuación se puede ver un ejemplo de lectura de un conjunto de datos en modo por lotes:
val df = sparkSession.read.format(PLATFORM_SDK_PQS_PACKAGE)
.option(QSOption.userToken, userToken)
.option(QSOption.imsOrg, orgId)
.option(QSOption.apiKey, apiKey)
.option(QSOption.mode, "batch")
.option(QSOption.datasetId, dataSetId)
.option(QSOption.sandboxName, sandboxName)
.load()
df.show()
df
SELECCIONAR columnas del conjunto de datos
df = df.select("column-a", "column-b").show()
Cláusula DISTINCT
La cláusula DISTINCT permite recuperar todos los valores distintos en el nivel de fila/columna, eliminando todos los valores duplicados de la respuesta.
A continuación se muestra un ejemplo del uso de la función distinct():
df = df.select("column-a", "column-b").distinct().show()
Cláusula WHERE
El SDK Spark permite dos métodos de filtrado: usar una expresión SQL o filtrar mediante condiciones.
A continuación se muestra un ejemplo del uso de estas funciones de filtrado:
Expresión SQL
df.where("age > 15")
Filtrado de condiciones
df.where("age" > 15 || "name" = "Steve")
Cláusula ORDER BY
La cláusula ORDER BY permite ordenar los resultados recibidos por una columna especificada en un orden específico (ascendente o descendente). En el SDK Spark, esto se hace mediante la función sort().
A continuación se muestra un ejemplo del uso de la función sort():
df = df.sort($"column1", $"column2".desc)
Cláusula LIMIT
La cláusula LIMIT permite limitar el número de registros recibidos del conjunto de datos.
A continuación se muestra un ejemplo del uso de la función limit():
df = df.limit(100)
Escritura en un conjunto de datos
Con su asignación configProperties, puede escribir en un conjunto de datos en el Experience Platform mediante QSOption.
val userToken: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_TOKEN", "").toString
val orgId: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_ORG_ID", "").toString
val apiKey: String = sparkSession.sparkContext.getConf.get("ML_FRAMEWORK_IMS_CLIENT_ID", "").toString
val sandboxName: String = sparkSession.sparkContext.getConf.get("sandboxName", "").toString
df.write.format(PLATFORM_SDK_PQS_PACKAGE)
.option(QSOption.userToken, userToken)
.option(QSOption.imsOrg, orgId)
.option(QSOption.apiKey, apiKey)
.option(QSOption.datasetId, scoringResultsDataSetId)
.option(QSOption.sandboxName, sandboxName)
.save()
Pasos siguientes
Adobe Experience Platform Data Science Workspace proporciona una muestra de fórmula de Scala (Spark) que utiliza las muestras de código anteriores para leer y escribir datos. Si desea obtener más información sobre cómo usar Spark para acceder a sus datos, consulte el Repositorio de Data Science Workspace Scala de GitHub.