Zugriff auf Daten mit Python in Data Science Workspace
Das folgende Dokument enthält Beispiele für den Zugriff auf Daten mit Python zur Verwendung in Data Science Workspace. Informationen zum Zugriff auf Daten mit JupyterLab-Notebooks finden Sie im Datenzugriff auf JupyterLab Notebooks Dokumentation.
Datensatz lesen
Nachdem Sie die Umgebungsvariablen festgelegt und die Installation abgeschlossen haben, kann Ihr Datensatz jetzt in den pandas-Dataframe gelesen werden.
import pandas as pd
from .utils import get_client_context
from platform_sdk.dataset_reader import DatasetReader
def load(config_properties):
client_context = get_client_context(config_properties)
dataset_reader = DatasetReader(client_context, config_properties['DATASET_ID'])
df = dataset_reader.read()
Spalten aus Datensatz auswählen
df = dataset_reader.select(['column-a','column-b']).read()
Partitionierungsinformationen abrufen:
client_context = get_client_context(config_properties)
dataset = Dataset(client_context).get_by_id({DATASET_ID})
partitions = dataset.get_partitions_info()
DISTINCT-Klausel
Mit der DISTINCT-Klausel können Sie alle eindeutigen Werte auf Zeilen-/Spaltenebene abrufen und alle doppelten Werte aus der Antwort entfernen.
Ein Beispiel für die Verwendung der distinct()
-Funktion finden Sie unten:
df = dataset_reader.select(['column-a']).distinct().read()
WHERE-Klausel
Sie können bestimmte Operatoren in Python verwenden, um Ihren Datensatz zu filtern.
eq() = '='
gt() = '>'
ge() = '>='
lt() = '<'
le() = '<='
And = and operator
Or = or operator
Nachfolgend finden Sie ein Beispiel für die Verwendung dieser Filterfunktionen:
df = dataset_reader.where(experience_ds['timestamp'].gt(87879779797).And(experience_ds['timestamp'].lt(87879779797)).Or(experience_ds['a'].eq(123)))
ORDER BY-Klausel
Die "ORDER BY"-Klausel ermöglicht die Sortierung der empfangenen Ergebnisse nach einer bestimmten Spalte in einer bestimmten Reihenfolge (aufsteigend oder absteigend). Dies geschieht mithilfe der sort()
-Funktion.
Ein Beispiel für die Verwendung der sort()
-Funktion finden Sie unten:
df = dataset_reader.sort([('column_1', 'asc'), ('column_2', 'desc')])
LIMIT-Klausel
Die LIMIT-Klausel ermöglicht es Ihnen, die Anzahl der vom Datensatz empfangenen Datensätze zu begrenzen.
Ein Beispiel für die Verwendung der limit()
-Funktion finden Sie unten:
df = dataset_reader.limit(100).read()
OFFSET-Klausel
Mit der OFFSET-Klausel können Sie Zeilen von Anfang an überspringen, um Zeilen von einem späteren Zeitpunkt an zurückzugeben. In Kombination mit LIMIT kann dies zum Iterieren von Zeilen in Blöcken verwendet werden.
Ein Beispiel für die Verwendung der offset()
-Funktion finden Sie unten:
df = dataset_reader.offset(100).read()
Schreiben eines Datensatzes
Um in einen Datensatz zu schreiben, müssen Sie den pandas-Dataframe in Ihren Datensatz einfügen.
Schreiben des pandas-Dataframes
client_context = get_client_context(config_properties)
# To fetch existing dataset
dataset = Dataset(client_context).get_by_id({DATASET_ID})
dataset_writer = DatasetWriter(client_context, dataset)
write_tracker = dataset_writer.write(<your_dataFrame>, file_format='json')
Benutzeroberflächenverzeichnis (Checkpoint)
Für Aufträge, die länger ausgeführt werden, müssen Sie möglicherweise Zwischenschritte speichern. In solchen Fällen können Sie in einen Benutzerbereich lesen und schreiben.
Schreiben in den Benutzerbereich
client_context = get_client_context(config_properties)
user_helper = UserSpaceHelper(client_context)
user_helper.write(data_frame=<data_frame>, path=<path_to_directory>, ref_dataset_id=<ref_dataset_id>)
Aus dem Benutzerbereich lesen
client_context = get_client_context(config_properties)
user_helper = UserSpaceHelper(client_context)
my_df = user_helper.read(path=<path_to_directory>, ref_dataset_id=<ref_dataset_id>)
Nächste Schritte
Adobe Experience Platform Data Science Workspace bietet ein Rezept-Beispiel, das die oben genannten Codebeispiele zum Lesen und Schreiben von Daten verwendet. Wenn Sie mehr darüber erfahren möchten, wie Sie mit Python auf Ihre Daten zugreifen können, lesen Sie bitte den Abschnitt Data Science Workspace Python GitHub-Repository.