在數據科學工作環境中使用 Python 訪問數據
NOTE
Data Science Workspace已無法購買。
本檔案旨在供先前有權使用Data Science Workspace的現有客戶使用。
以下檔案包含有關如何使用Python存取資料以用於資料科學Workspace的範例。 如需使用JupyterLab Notebooks存取資料的資訊,請瀏覽JupyterLab Notebooks資料存取檔案。
讀取資料集
設定環境變數並完成安裝後,您現在可以將資料集讀入pandas dataframe中。
import pandas as pd
from .utils import get_client_context
from platform_sdk.dataset_reader import DatasetReader
def load(config_properties):
client_context = get_client_context(config_properties)
dataset_reader = DatasetReader(client_context, config_properties['DATASET_ID'])
df = dataset_reader.read()
從資料集中選取欄
df = dataset_reader.select(['column-a','column-b']).read()
取得分割資訊:
client_context = get_client_context(config_properties)
dataset = Dataset(client_context).get_by_id({DATASET_ID})
partitions = dataset.get_partitions_info()
區別條款
DISTINCT 子句允許您獲取行/列級別的所有非重複值,從回應中刪除所有重複值。
下面可以看到使用該 distinct()
函數的範例:
df = dataset_reader.select(['column-a']).distinct().read()
WHERE子句
您可以在Python中使用某些運運算元,協助篩選資料集。
NOTE
用於篩選的函式區分大小寫。
eq() = '='
gt() = '>'
ge() = '>='
lt() = '<'
le() = '<='
And = and operator
Or = or operator
您可以在下方看到使用這些篩選函式的範例:
df = dataset_reader.where(experience_ds['timestamp'].gt(87879779797).And(experience_ds['timestamp'].lt(87879779797)).Or(experience_ds['a'].eq(123)))
ORDER BY子句
ORDER BY子句允許接收的結果以特定順序(升序或降序)依指定的資料行排序。 這是使用sort()
函式完成的。
下面可以看到使用該 sort()
函數的範例:
df = dataset_reader.sort([('column_1', 'asc'), ('column_2', 'desc')])
限制條款
LIMIT 子句允許您限制從資料集接收的記錄數。
下面可以看到使用該 limit()
函數的範例:
df = dataset_reader.limit(100).read()
抵銷條款
OFFSET子句可讓您從頭開始略過資料列,以開始從後面傳回資料列。 在搭配LIMIT的情況下,這可用來疊代區塊中的列。
以下顯示使用offset()
函式的範例:
df = dataset_reader.offset(100).read()
寫入資料集
若要寫入資料集,您必須提供熊貓資料流至資料集。
正在寫入熊貓資料流
client_context = get_client_context(config_properties)
# To fetch existing dataset
dataset = Dataset(client_context).get_by_id({DATASET_ID})
dataset_writer = DatasetWriter(client_context, dataset)
write_tracker = dataset_writer.write(<your_dataFrame>, file_format='json')
Userspace目錄(檢查點)
對於運行時間較長的作業,可能需要商店中間步驟。 在此實例按讚,您可以讀取和寫入用戶空間。
NOTE
不****存儲數據的路徑。您必須商店其各自數據的對應路徑。
寫入用戶空間
client_context = get_client_context(config_properties)
user_helper = UserSpaceHelper(client_context)
user_helper.write(data_frame=<data_frame>, path=<path_to_directory>, ref_dataset_id=<ref_dataset_id>)
從使用者空間讀取
client_context = get_client_context(config_properties)
user_helper = UserSpaceHelper(client_context)
my_df = user_helper.read(path=<path_to_directory>, ref_dataset_id=<ref_dataset_id>)
後續步驟
Adobe Experience Platform Data Science Workspace提供的配方範例會使用上述程式碼範例來讀取和寫入資料。 如果您想進一步瞭解如何使用Python存取您的資料,請檢閱資料科學Workspace Python GitHub存放庫。
recommendation-more-help
cc79fe26-64da-411e-a6b9-5b650f53e4e9