每個支援的內核都提供內置功能,允許您從筆記本內的資料集中讀取平台資料。 目前,Adobe Experience Platform Data Science Workspace的JupyterLab支援Python、R、PySpark和Scala的筆記型電腦。 但是,對分頁資料的支援僅限於Python和R筆記本。 本指南重點介紹如何使用JupyterLab筆記型電腦訪問資料。
在閱讀本指南之前,請先閱讀JupyterLab 使用指南,以取得JupyterLab及其在資料科學工作區中角色的高階簡介。
對於PySpark和Scala筆記本,如果您收到錯誤,並且原因是「遠程RPC客戶端斷開關聯」。 這通常表示驅動程式或執行器記憶體不足。 嘗試切換至"batch" mode以解決此錯誤。
以下資訊定義可讀取的資料量上限、使用的資料類型,以及讀取資料所花費的估計時間範圍。
對於Python和R ,使用配置為40GB RAM的筆記型電腦伺服器作為基準。 對於PySpark和Scala,以下概述的基準使用了以64GB RAM、8個內核、2個DBU(最多4個工作人員)配置的資料庫群集。
使用的ExperienceEvent架構資料的大小不同,從1000(1K)列開始,最多可達10億(1B)列。 請注意,對於PySpark和Spark量度,XDM資料的日期範圍是10天。
臨機架構資料是使用Query Service「以選取方式建立表格」(CTAS)預先處理。 這些資料的大小也從1,000列(1K)開始,最多10億列(1B)。
使用PySpark和Scala筆記型電腦讀取資料集時,您可以選擇使用互動模式或批次模式來讀取資料集。 互動式可快速產生結果,而批次模式則適用於大型資料集。
XDM ExperienceEvent架構: 在不到22分鐘內,您最多應該能讀取200萬行(磁碟上約6.1 GB的資料)的XDM資料。新增其他列可能會導致錯誤。
行數 | 1K | 10K | 10萬 | 1M | 2M |
---|---|---|---|---|---|
磁碟大小(MB) | 十八點七三 | 187.5 | 308 | 3000 | 六〇五〇年 |
SDK(以秒為單位) | 20.3 | 86.8 | 63 | 659 | 一三一五年 |
臨機模式: 在不到14分鐘內,您最多可讀取500萬列(磁碟上約5.6 GB資料)的非XDM(臨機)資料。新增其他列可能會導致錯誤。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M | 5M |
---|---|---|---|---|---|---|---|
磁碟大小(MB) | 一點二一 | 十一點七二 | 115 | 一一二零年 | 二二五零年 | 三三八零 | 五六三零年 |
SDK(以秒為單位) | 七點二七 | 九點零四 | 27.3 | 180 | 346 | 487 | 819 |
XDM ExperienceEvent架構: 在13分鐘內,您最多可讀取100萬列XDM資料(磁碟上的3GB資料)。
行數 | 1K | 10K | 10萬 | 1M |
---|---|---|---|---|
磁碟大小(MB) | 十八點七三 | 187.5 | 308 | 3000 |
R內核(以秒為單位) | 14.03 | 69.6 | 86.8 | 775 |
臨機模式: 您大約10分鐘內最多可讀取300萬列臨機資料(磁碟上293MB資料)。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M |
---|---|---|---|---|---|---|
磁碟大小(MB) | 0.082 | 0.612 | 9.0 | 91 | 188 | 293 |
R SDK(秒) | 7.7 | 四點五八 | 35.9 | 233 | 470.5 | 603 |
XDM ExperienceEvent架構:在 互動式模式中,您應能在約20分鐘內讀取XDM資料的最多500萬列(磁碟上約13.42GB資料)。互動式模式最多只支援5百萬列。 如果您想要讀取較大的資料集,建議您切換到批處理模式。 在批處理模式下,您應能在大約14小時內讀取XDM資料的最多5億行(磁碟上約1.31TB資料)。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M | 5M | 10M | 50M | 1億 | 5億 |
---|---|---|---|---|---|---|---|---|---|---|---|
磁碟大小 | 2.93MB | 4.38MB | 29.02 | 2.69 GB | 5.39 GB | 8.09 GB | 13.42 GB | 26.82 GB | 134.24 GB | 268.39 GB | 1.31TB |
SDK(互動模式) | 33秒 | 32.4秒 | 55.1秒 | 253.5秒 | 489.2秒 | 729.6秒 | 1206.8秒 | - | - | - | - |
SDK(批次模式) | 815.8秒 | 492.8秒 | 379.1秒 | 637.4秒 | 624.5秒 | 869.2秒 | 1104.1秒 | 1786年代 | 5387.2秒 | 10624.6秒 | 小行星50547 |
臨機架構:在 互動式模式中,您最多可在3分鐘內讀取500萬列非XDM資料(磁碟上約5.36GB資料)。在批處理模式下,您應能在大約18分鐘內讀取非XDM資料的10億行(磁碟上約1.05TB資料)。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M | 5M | 10M | 50M | 1億 | 5億 | 1B |
---|---|---|---|---|---|---|---|---|---|---|---|---|
磁碟大小 | 1.12MB | 11.24MB | 109.48MB | 2.69 GB | 2.14 GB | 3.21 GB | 5.36 GB | 10.71 GB | 53.58 GB | 107.52 GB | 535.88 GB | 1.05TB |
SDK互動模式(以秒為單位) | 28.2秒 | 18.6秒 | 20.8秒 | 20.9秒 | 23.8秒 | 21.7秒 | 24.7秒 | - | - | - | - | - |
SDK批次模式(以秒為單位) | 428.8秒 | 578.8秒 | 641.4秒 | 538.5秒 | 630.9s | 467.3秒 | 411 | 675年代 | 702s | 719.2秒 | 1022.1秒 | 1122.3秒 |
XDM ExperienceEvent架構:在 互動式模式中,您應能在約18分鐘內讀取XDM資料的最多500萬列(磁碟上約13.42GB資料)。互動式模式最多只支援5百萬列。 如果您想要讀取較大的資料集,建議您切換到批處理模式。 在批處理模式下,您應能在大約14小時內讀取XDM資料的最多5億行(磁碟上約1.31TB資料)。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M | 5M | 10M | 50M | 1億 | 5億 |
---|---|---|---|---|---|---|---|---|---|---|---|
磁碟大小 | 2.93MB | 4.38MB | 29.02 | 2.69 GB | 5.39 GB | 8.09 GB | 13.42 GB | 26.82 GB | 134.24 GB | 268.39 GB | 1.31TB |
SDK互動模式(以秒為單位) | 37.9秒 | 22.7秒 | 45.6秒 | 231.7秒 | 444.7s | 660.6秒 | 1100年代 | - | - | - | - |
SDK批次模式(以秒為單位) | 374.4秒 | 398.5秒 | 527s | 487.9s | 588.9s | 829年代 | 939.1秒 | 1441年代 | 5473.2秒 | 10118.8 | 49207.6 |
臨機模式: 在互動模式下,您最多可在3分鐘內讀取500萬列非XDM資料(磁碟上約5.36GB資料)。在批處理模式下,您應能在大約16分鐘內讀取非XDM資料的10億行(磁碟上約1.05TB資料)。
行數 | 1K | 10K | 10萬 | 1M | 2M | 3M | 5M | 10M | 50M | 1億 | 5億 | 1B |
---|---|---|---|---|---|---|---|---|---|---|---|---|
磁碟大小 | 1.12MB | 11.24MB | 109.48MB | 2.69 GB | 2.14 GB | 3.21 GB | 5.36 GB | 10.71 GB | 53.58 GB | 107.52 GB | 535.88 GB | 1.05TB |
SDK互動模式(以秒為單位) | 35.7秒 | 31秒 | 19.5秒 | 25.3秒 | 23秒 | 33.2秒 | 25.5秒 | - | - | - | - | - |
SDK批次模式(以秒為單位) | 448.8秒 | 459.7秒 | 519年代 | 475.8秒 | 599.9s | 347.6秒 | 407.8秒 | 397年代 | 518.8秒 | 487.9s | 760.2秒 | 975.4秒 |
Python 筆記型電腦允許您在訪問資料集時分頁資料。下面顯示有分頁和無分頁讀取資料的范常式式碼。 有關可用啟動程式Python筆記型電腦的詳細資訊,請訪問JupyterLab使用手冊中的JupyterLab Launcher部分。
下面的Python文檔概述了以下概念:
不分頁:
執行下列程式碼會讀取整個資料集。 如果執行成功,則資料將保存為變數df
引用的Apcotis資料幀。
# Python
from platform_sdk.dataset_reader import DatasetReader
dataset_reader = DatasetReader(get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df = dataset_reader.read()
df.head()
使用分頁:
執行下列程式碼會讀取指定資料集的資料。 通過分別通過函式limit()
和offset()
限制和偏移資料來實現分頁。 限制資料是指要讀取的資料點數上限,而偏移指在讀取資料之前要跳過的資料點數。 如果讀取操作成功執行,則資料將被保存為變數df
引用的Apcotis資料幀。
# Python
from platform_sdk.dataset_reader import DatasetReader
dataset_reader = DatasetReader(get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df = dataset_reader.limit(100).offset(10).read()
要寫入JupyterLab筆記本中的資料集,請在JupyterLab的左側導航中選擇「資料」表徵圖頁籤(在下面突出顯示)。 將顯示Datasets和Schemas目錄。 選擇Datasets並按一下右鍵,然後從要使用的資料集上的下拉菜單中選擇Write Data in Notebook選項。 可執行代碼條目出現在筆記本底部。
或者,您也可以複製並貼上下列程式碼儲存格。 同時更換{DATASET_ID}
和{PANDA_DATAFRAME}
。
from platform_sdk.models import Dataset
from platform_sdk.dataset_writer import DatasetWriter
dataset = Dataset(get_platform_sdk_client_context()).get_by_id(dataset_id="{DATASET_ID}")
dataset_writer = DatasetWriter(get_platform_sdk_client_context(), dataset)
write_tracker = dataset_writer.write({PANDA_DATAFRAME}, file_format='json')
JupyterLab on Platform 可讓您在筆記型電腦中使 Python 用SQL透過 Adobe Experience Platform Query Service存取資料。通過Query Service訪問資料對於處理大型資料集非常有用,因為它的運行時間很長。 請注意,使用Query Service查詢資料的處理時間限制為10分鐘。
在JupyterLab中使用Query Service之前,請確定您對Query Service SQL語法有正確的理解。
使用Query Service查詢資料需要提供目標資料集的名稱。 您可以使用資料總管尋找所需的資料集,以產生必要的程式碼儲存格。 按一下右鍵資料集清單,然後按一下在筆記本中查詢資料在筆記本中生成兩個代碼單元格。 下面將更詳細地列出這兩個儲存格。
要在JupyterLab中使用Query Service,您必須首先在工作的Python筆記本和Query Service之間建立連接。 這可以通過執行第一生成單元來實現。
qs_connect()
在第二個生成的單元格中,第一行必須在SQL查詢之前定義。 預設情況下,生成的單元格定義一個可選變數(df0
),該變數將查詢結果保存為Pactices資料幀。
該 -c QS_CONNECTION
參數是強制參數,並指示內核執行SQL查詢 Query Service。有關其他引數的清單,請參見附錄。
%%read_sql df0 -c QS_CONNECTION
SELECT *
FROM name_of_the_dataset
LIMIT 10
/* Querying table "name_of_the_dataset" (datasetId: {DATASET_ID})*/
Python變數可在SQL查詢中直接參考,方法是使用字串格式語法,並將變數包住大括弧({}
),如下列範例所示:
table_name = 'name_of_the_dataset'
table_columns = ','.join(['col_1','col_2','col_3'])
%%read_sql demo -c QS_CONNECTION
SELECT {table_columns}
FROM {table_name}
要訪問和過濾Python筆記本中的ExperienceEvent資料集,必須提供資料集的ID({DATASET_ID}
)以及使用邏輯運算子定義特定時間範圍的過濾規則。 定義時間範圍時,會忽略任何指定的分頁,並考慮整個資料集。
篩選運算子的清單說明如下:
eq()
: Equal togt()
: Greater thange()
: Greater than or equal tolt()
: Less thanle()
: Less than or equal toAnd()
:邏輯AND運算子Or()
:邏輯OR運算子下列儲存格會將ExperienceEvent資料集篩選為2019年1月1日至2019年12月31日止期間僅存在的資料。
# Python
from platform_sdk.dataset_reader import DatasetReader
dataset_reader = DatasetReader(get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df = dataset_reader.\
where(dataset_reader["timestamp"].gt("2019-01-01 00:00:00").\
And(dataset_reader["timestamp"].lt("2019-12-31 23:59:59"))\
).read()
R筆記型電腦允許您在訪問資料集時分頁資料。 下面顯示有分頁和無分頁讀取資料的范常式式碼。 有關可用啟動器R筆記型電腦的詳細資訊,請訪問JupyterLab使用手冊中的JupyterLab Launcher部分。
以下R檔案概述下列概念:
不分頁:
執行下列程式碼會讀取整個資料集。 如果執行成功,則資料將保存為變數df0
引用的Apcotis資料幀。
# R
library(reticulate)
use_python("/usr/local/bin/ipython")
psdk <- import("platform_sdk")
datetime <- import("datetime", convert = FALSE)
py_run_file("~/.ipython/profile_default/startup/platform_sdk_context.py")
DatasetReader <- psdk$dataset_reader$DatasetReader
dataset_reader <- DatasetReader(py$get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df0 <- dataset_reader$read()
head(df0)
使用分頁:
執行下列程式碼會讀取指定資料集的資料。 通過分別通過函式limit()
和offset()
限制和偏移資料來實現分頁。 限制資料是指要讀取的資料點數上限,而偏移指在讀取資料之前要跳過的資料點數。 如果讀取操作成功執行,則資料將被保存為變數df0
引用的Apcotis資料幀。
# R
library(reticulate)
use_python("/usr/local/bin/ipython")
psdk <- import("platform_sdk")
datetime <- import("datetime", convert = FALSE)
py_run_file("~/.ipython/profile_default/startup/platform_sdk_context.py")
DatasetReader <- psdk$dataset_reader$DatasetReader
dataset_reader <- DatasetReader(py$get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df0 <- dataset_reader$limit(100L)$offset(10L)$read()
要寫入JupyterLab筆記本中的資料集,請在JupyterLab的左側導航中選擇「資料」表徵圖頁籤(在下面突出顯示)。 將顯示Datasets和Schemas目錄。 選擇Datasets並按一下右鍵,然後從要使用的資料集上的下拉菜單中選擇Write Data in Notebook選項。 可執行代碼條目出現在筆記本底部。
或者,您也可以複製並貼上下列程式碼儲存格:
psdk <- import("platform_sdk")
dataset <- psdk$models$Dataset(py$get_platform_sdk_client_context())$get_by_id(dataset_id="{DATASET_ID}")
dataset_writer <- psdk$dataset_writer$DatasetWriter(py$get_platform_sdk_client_context(), dataset)
write_tracker <- dataset_writer$write(df, file_format='json')
要訪問和過濾R筆記本中的ExperienceEvent資料集,必須提供資料集的ID({DATASET_ID}
)以及使用邏輯運算子定義特定時間範圍的過濾規則。 定義時間範圍時,會忽略任何指定的分頁,並考慮整個資料集。
篩選運算子的清單說明如下:
eq()
:等於gt()
:大於ge()
:大於或等於lt()
:小於le()
:小於或等於And()
:邏輯AND運算子Or()
:邏輯OR運算子下列儲存格會將ExperienceEvent資料集篩選為2019年1月1日至2019年12月31日止期間僅存在的資料。
# R
library(reticulate)
use_python("/usr/local/bin/ipython")
psdk <- import("platform_sdk")
datetime <- import("datetime", convert = FALSE)
py_run_file("~/.ipython/profile_default/startup/platform_sdk_context.py")
client_context <- py$PLATFORM_SDK_CLIENT_CONTEXT
DatasetReader <- psdk$dataset_reader$DatasetReader
dataset_reader <- DatasetReader(py$get_platform_sdk_client_context(), dataset_id="{DATASET_ID}")
df0 <- dataset_reader$
where(dataset_reader["timestamp"]$gt("2019-01-01 00:00:00")$
And(dataset_reader["timestamp"]$lt("2019-12-31 23:59:59"))
)$read()
下方的PySpark檔案概述下列概念:
所有Spark 2.4筆記型電腦都要求您使用以下簡短字母組合代碼初始化會話。
from pyspark.sql import SparkSession
spark = SparkSession.builder.getOrCreate()
隨著Spark 2.4的推出,%dataset
自訂魔術已提供給PySpark 3(Spark 2.4)筆記型電腦使用。 有關IPython內核中可用魔術命令的詳細資訊,請訪問IPython魔術文檔。
使用狀況
%dataset {action} --datasetId {id} --dataFrame {df}`
說明
用於從PySpark筆記本(Python 3內核)讀取或寫入資料集的自定義Data Science Workspace魔術命令。
名稱 | 說明 | 必填 |
---|---|---|
{action} |
要在資料集上執行的動作類型。 有兩個動作是「讀取」或「寫入」。 | 是 |
--datasetId {id} |
用於提供要讀取或寫入的資料集的ID。 | 是 |
--dataFrame {df} |
熊貓資料框。
|
是 |
--mode |
其他參數會變更資料的讀取方式。 允許的參數為「批次」和「互動」。 依預設,模式會設為「互動」。 建議在讀取大量資料時使用「批次」模式。 | 無 |
查看筆記本資料限制部分中的PySpark表,以確定mode
是否應設定為interactive
或batch
。
範例
%dataset read --datasetId 5e68141134492718af974841 --dataFrame pd0
%dataset write --datasetId 5e68141134492718af974842 --dataFrame pd0
您可以使用下列方法,在JupyterLab購買中自動產生上述範例:
在JupyterLab的左側導覽中,選取「資料」圖示標籤(反白顯示如下)。 將顯示Datasets和Schemas目錄。 選擇Datasets並按一下右鍵,然後從要使用的資料集上的下拉菜單中選擇Write Data in Notebook選項。 可執行代碼條目出現在筆記本底部。
要使用PySpark 3建立本地資料幀,請使用SQL查詢。 例如:
date_aggregation.createOrReplaceTempView("temp_df")
df = spark.sql('''
SELECT *
FROM sparkdf
''')
local_df
df = spark.sql('''
SELECT *
FROM sparkdf
LIMIT limit
''')
sample_df = df.sample(fraction)
您也可以指定選用的種子樣本,例如布林值withReplacement、雙分數或長種子。
在PySpark筆記型電腦中存取和篩選ExperienceEvent資料集時,您必須提供資料集識別({DATASET_ID}
)、貴組織的IMS識別,以及定義特定時間範圍的篩選規則。 篩選時間範圍是使用函式spark.sql()
來定義的,其中函式參數是SQL查詢字串。
下列儲存格會將ExperienceEvent資料集篩選為2019年1月1日至2019年12月31日結束期間僅存在的資料。
# PySpark 3 (Spark 2.4)
from pyspark.sql import SparkSession
spark = SparkSession.builder.getOrCreate()
%dataset read --datasetId {DATASET_ID} --dataFrame df
df.createOrReplaceTempView("event")
timepd = spark.sql("""
SELECT *
FROM event
WHERE timestamp > CAST('2019-01-01 00:00:00.0' AS TIMESTAMP)
AND timestamp < CAST('2019-12-31 23:59:59.9' AS TIMESTAMP)
""")
timepd.show()
以下檔案包含下列概念的範例:
所有Scala筆記型電腦都要求您使用以下簡短字母組合代碼初始化會話:
import org.apache.spark.sql.{ SparkSession }
val spark = SparkSession
.builder()
.master("local")
.getOrCreate()
在Scala中,您可匯入clientContext
以取得並傳回平台值,如此就不需要定義變數,例如var userToken
。 在以下的Scala範例中,clientContext
用於取得並傳回讀取資料集所需的所有必要值。
import org.apache.spark.sql.{Dataset, SparkSession}
import com.adobe.platform.token.ClientContext
val spark = SparkSession.builder().master("local").config("spark.sql.warehouse.dir", "/").getOrCreate()
val clientContext = ClientContext.getClientContext()
val df1 = spark.read.format("com.adobe.platform.query")
.option("user-token", clientContext.getUserToken())
.option("ims-org", clientContext.getOrgId())
.option("api-key", clientContext.getApiKey())
.option("service-token", clientContext.getServiceToken())
.option("sandbox-name", clientContext.getSandboxName())
.option("mode", "interactive")
.option("dataset-id", "5e68141134492718af974844")
.load()
df1.printSchema()
df1.show(10)
元素 | 說明 |
---|---|
df1 | 一個變數,它表示用於讀取和寫入資料的Pactys資料幀。 |
user-token | 使用clientContext.getUserToken() 自動擷取的使用者Token。 |
service-token | 使用clientContext.getServiceToken() 自動擷取的服務Token。 |
ims-org | 使用clientContext.getOrgId() 自動擷取的IMS組織ID。 |
api-key | 使用clientContext.getApiKey() 自動擷取的API金鑰。 |
查看筆記本資料限制部分中的Scala表,以確定mode
是否應設定為interactive
或batch
。
您可以在JupyterLab購買中使用下列方法自動產生上述範例:
在JupyterLab的左側導覽中,選取「資料」圖示標籤(反白顯示如下)。 將顯示Datasets和Schemas目錄。 選擇Datasets並按一下右鍵,然後從要使用的資料集上的下拉菜單中選擇Explore Data in Notebook選項。 可執行代碼條目出現在筆記本底部。
和
在Scala中,您可匯入clientContext
以取得並傳回平台值,如此就不需要定義變數,例如var userToken
。 在下面的Scala示例中,clientContext
用於定義並返回寫入資料集所需的所有值。
import org.apache.spark.sql.{Dataset, SparkSession}
import com.adobe.platform.token.ClientContext
val spark = SparkSession.builder().master("local").config("spark.sql.warehouse.dir", "/").getOrCreate()
val clientContext = ClientContext.getClientContext()
df1.write.format("com.adobe.platform.query")
.option("user-token", clientContext.getUserToken())
.option("service-token", clientContext.getServiceToken())
.option("ims-org", clientContext.getOrgId())
.option("api-key", clientContext.getApiKey())
.option("sandbox-name", clientContext.getSandboxName())
.option("mode", "interactive")
.option("dataset-id", "5e68141134492718af974844")
.save()
元素 | 描述 |
---|---|
df1 | 一個變數,它表示用於讀取和寫入資料的Pactys資料幀。 |
user-token | 使用clientContext.getUserToken() 自動擷取的使用者Token。 |
service-token | 使用clientContext.getServiceToken() 自動擷取的服務Token。 |
ims-org | 使用clientContext.getOrgId() 自動擷取的IMS組織ID。 |
api-key | 使用clientContext.getApiKey() 自動擷取的API金鑰。 |
查看筆記本資料限制部分中的Scala表,以確定mode
是否應設定為interactive
或batch
。
要使用Scala建立本地資料幀,需要SQL查詢。 例如:
sparkdf.createOrReplaceTempView("sparkdf")
val localdf = spark.sql("SELECT * FROM sparkdf LIMIT 1)
存取和篩選Scala筆記型電腦中的ExperienceEvent資料集時,您必須提供資料集識別({DATASET_ID}
)、貴組織的IMS識別,以及定義特定時間範圍的篩選規則。 篩選時間範圍是使用函式spark.sql()
來定義的,其中函式參數是SQL查詢字串。
下列儲存格會將ExperienceEvent資料集篩選為2019年1月1日至2019年12月31日結束期間僅存在的資料。
// Spark (Spark 2.4)
// Turn off extra logging
import org.apache.log4j.{Level, Logger}
Logger.getLogger("org").setLevel(Level.OFF)
Logger.getLogger("com").setLevel(Level.OFF)
import org.apache.spark.sql.{Dataset, SparkSession}
val spark = org.apache.spark.sql.SparkSession.builder().appName("Notebook")
.master("local")
.getOrCreate()
// Stage Exploratory
val dataSetId: String = "{DATASET_ID}"
val orgId: String = sys.env("IMS_ORG_ID")
val clientId: String = sys.env("PYDASDK_IMS_CLIENT_ID")
val userToken: String = sys.env("PYDASDK_IMS_USER_TOKEN")
val serviceToken: String = sys.env("PYDASDK_IMS_SERVICE_TOKEN")
val mode: String = "batch"
var df = spark.read.format("com.adobe.platform.query")
.option("user-token", userToken)
.option("ims-org", orgId)
.option("api-key", clientId)
.option("mode", mode)
.option("dataset-id", dataSetId)
.option("service-token", serviceToken)
.load()
df.createOrReplaceTempView("event")
val timedf = spark.sql("""
SELECT *
FROM event
WHERE timestamp > CAST('2019-01-01 00:00:00.0' AS TIMESTAMP)
AND timestamp < CAST('2019-12-31 23:59:59.9' AS TIMESTAMP)
""")
timedf.show()
本文檔介紹了使用JupyterLab筆記型電腦訪問資料集的一般指南。 有關查詢資料集的更深入示例,請訪問JupyterLab筆記型電腦中的查詢服務文檔。 有關如何瀏覽和直觀顯示資料集的詳細資訊,請訪問上的文檔,使用筆記本分析資料。
此表概述了可用於Query Service的可選SQL標誌。
旗標 | 說明 |
---|---|
-h , --help |
顯示幫助消息並退出。 |
-n 的 --notify |
切換選項以通知查詢結果。 |
-a 的 --async |
使用此標誌可非同步執行查詢,並可在查詢執行時釋放內核。 在將查詢結果指派給變數時請務必小心,因為如果查詢未完成,變數可能未定義。 |
-d 的 --display |
使用此標幟可防止顯示結果。 |