Configuration d’un flux de données pour ingérer des données par lots à partir d’une source de stockage dans le cloud dans l’interface utilisateur
Ce tutoriel décrit les étapes de configuration d’un flux de données pour importer des données par lots de votre source de stockage dans le cloud vers Adobe Experience Platform.
Commencer
Ce tutoriel nécessite une compréhension du fonctionnement des composants suivants d’Adobe Experience Platform :
-
Experience Data Model (XDM) Système : Cadre normalisé selon lequel Experience Platform organise les données d’expérience client.
- Principes de base de la composition des schémas : découvrez les blocs de création de base des schémas XDM, y compris les principes clés et les bonnes pratiques en matière de composition de schémas.
- Tutoriel sur l’éditeur de schémas : découvrez comment créer des schémas personnalisés à l’aide de l’interface utilisateur de l’éditeur de schémas.
-
Real-Time Customer Profile : fournit un profil de consommateur unifié en temps réel, basé sur des données agrégées provenant de plusieurs sources.
Formats de fichiers pris en charge
Les sources de stockage dans le cloud pour les données par lots prennent en charge les formats de fichiers suivants pour l’ingestion :
- Valeurs séparées par des délimiteurs (DSV) : toute valeur d’un seul caractère peut être utilisée comme délimiteur pour les fichiers de données au format DSV.
- JavaScript Object Notation (JSON) : les fichiers de données au format JSON doivent être compatibles avec XDM.
- Apache Parquet : les fichiers de données au format parquet doivent être compatibles avec XDM.
- Fichiers compressés : les fichiers JSON et délimités peuvent être compressés sous la forme :
bzip2,gzip,deflate,zipDeflate,tarGzipettar.
Ajouter des données
Après avoir créé votre compte de stockage dans le cloud, l’étape Ajouter des données s’affiche. Vous pouvez ainsi explorer la hiérarchie des fichiers de stockage dans le cloud et sélectionner le dossier ou le fichier spécifique à importer dans Platform.
- La partie gauche de l’interface est un navigateur de répertoires qui affiche la hiérarchie des fichiers de stockage dans le cloud.
- La partie droite de l'interface permet de prévisualiser jusqu'à 100 lignes de données à partir d'un dossier ou d'un fichier compatible.
Sélectionnez le dossier racine pour accéder à la hiérarchie des dossiers. À partir de là, vous pouvez sélectionner un seul dossier pour ingérer tous les fichiers du dossier de manière récursive. Lors de l’ingestion d’un dossier entier, vous devez vous assurer que tous les fichiers de ce dossier partagent le même format de données et le même schéma.
Une fois que vous avez sélectionné un dossier, l’interface appropriée se met à jour pour obtenir un aperçu du contenu et de la structure du premier fichier du dossier sélectionné.
Au cours de cette étape, vous pouvez effectuer plusieurs configurations sur vos données avant de continuer. Sélectionnez tout d’abord Format des données , puis le format de données approprié pour votre fichier dans le panneau déroulant qui s’affiche.
Le tableau suivant affiche les formats de données appropriés pour les types de fichiers pris en charge :
Sélectionner un délimiteur de colonne
Après avoir configuré le format des données, vous pouvez définir un délimiteur de colonne lors de l’ingestion de fichiers délimités. Sélectionnez l’option Délimiteur , puis un délimiteur dans le menu déroulant. Le menu affiche les options de délimiteurs les plus fréquemment utilisées, y compris une virgule (,), un onglet (\t) et une barre verticale (|).
Si vous préférez utiliser un délimiteur personnalisé, sélectionnez Personnalisé et saisissez un délimiteur à un seul caractère de votre choix dans la barre de saisie contextuelle.
Ingestion de fichiers compressés
Vous pouvez également ingérer des fichiers JSON compressés ou délimités en spécifiant leur type de compression.
À l’étape Select data, sélectionnez un fichier compressé à ingérer, puis sélectionnez son type de fichier approprié et indiquez s’il est compatible XDM ou non. Sélectionnez ensuite Type de compression et sélectionnez le type de fichier compressé approprié pour vos données source.
Pour importer un fichier spécifique dans Platform, sélectionnez un dossier, puis le fichier à ingérer. Au cours de cette étape, vous pouvez également prévisualiser le contenu d’autres fichiers d’un dossier donné à l’aide de l’icône d’aperçu située en regard d’un nom de fichier.
Lorsque vous avez terminé, sélectionnez Suivant.
Fournir des détails sur le flux de données
La page Détails du flux de données vous permet de choisir si vous souhaitez utiliser un jeu de données existant ou un nouveau jeu de données. Au cours de ce processus, vous pouvez également configurer vos données à ingérer dans Profile et activer des paramètres tels que Diagnostic d’erreur, Ingestion partielle et Alertes.
Utiliser un jeu de données existant
Pour ingérer vos données dans un jeu de données existant, sélectionnez Jeu de données existant. Vous pouvez soit récupérer un jeu de données existant à l’aide de l’option de Recherche avancée, soit faire défiler la liste des jeux de données existants dans le menu déroulant. Une fois que vous avez sélectionné un jeu de données, indiquez un nom et une description pour votre flux de données.
Utiliser un nouveau jeu de données
Pour procéder à lʼingestion dans un nouveau jeu de données, sélectionnez Nouveau jeu de données, puis saisissez un nom pour le jeu de données de sortie et une description facultative. Sélectionnez ensuite un schéma à mapper à l’aide de l’option Recherche avancée ou en faisant défiler la liste des schémas existants dans le menu déroulant. Une fois que vous avez sélectionné un schéma, saisissez un nom et une description pour votre flux de données.
Activation des diagnostics de profil et d’erreur
Ensuite, sélectionnez la bascule Jeu de données de profil pour activer votre jeu de données pour Profile. Cela vous permet de créer une vue holistique des attributs et des comportements d’une entité. Les données de tous les jeux de données activés pour Profile seront incluses dans Profile et les modifications sont appliquées lorsque vous enregistrez votre flux de données.
Le diagnostic d’erreur permet de générer un message d’erreur détaillé pour tout enregistrement erroné survenant dans votre flux de données, tandis que l’ingestion partielle vous permet d’ingérer des données contenant des erreurs, jusqu’à un certain seuil que vous définissez manuellement. Pour plus d’informations, consultez la présentation de l’ingestion par lots partiels.
Activer les alertes
Vous pouvez activer les alertes pour recevoir des notifications sur le statut de votre flux de données. Sélectionnez une alerte dans la liste et abonnez-vous à des notifications concernant le statut de votre flux de données. Pour plus d’informations sur les alertes, consultez le guide sur l’abonnement aux alertes des sources dans l’interface utilisateur.
Lorsque vous avez terminé de renseigner votre flux de données, sélectionnez Suivant.
Mappage des champs de données à un schéma XDM
L’interface de mappage fournit un outil complet pour mapper les champs sources de votre schéma source aux champs XDM cibles correspondants dans le schéma cible.
Platform fournit des recommandations intelligentes pour les champs mappés automatiquement en fonction du schéma ou du jeu de données cible que vous avez sélectionné. Vous pouvez ajuster manuellement les règles de mappage en fonction de vos cas d’utilisation. Selon vos besoins, vous pouvez choisir de mapper directement des champs ou d’utiliser des fonctions de préparation de données pour transformer les données sources afin d’obtenir des valeurs informatisées ou calculées. Pour obtenir des instructions complètes sur l’utilisation de l’interface du mappeur et des champs calculés, consultez le guide de l’interface utilisateur de la préparation des données.
Une fois le mappage de vos données source réussi, sélectionnez Suivant.
Planification des exécutions d’ingestion
L’étape Planification s’affiche, ce qui vous permet de configurer un planning d’ingestion pour ingérer automatiquement les données source sélectionnées à l’aide des mappages configurés. Par défaut, la planification est définie sur Once. Pour régler la fréquence d'ingestion, sélectionnez Fréquence, puis sélectionnez une option dans le menu déroulant.
Si vous définissez la fréquence d’ingestion sur Minute, Hour, Day ou Week, vous devez définir un intervalle pour établir une période définie entre chaque ingestion. Par exemple, une fréquence d’ingestion définie sur Day et un intervalle défini sur 15 signifie que votre flux de données est planifié pour ingérer des données tous les 15 jours.
Au cours de cette étape, vous pouvez également activer le renvoi et définir une colonne pour l’ingestion incrémentielle de données. Le renvoi est utilisé pour ingérer des données historiques, tandis que la colonne que vous définissez pour l’ingestion incrémentielle permet de différencier les nouvelles données des données existantes.
Consultez le tableau ci-dessous pour plus d’informations sur les configurations de planification.
Configurez la fréquence pour indiquer la fréquence d’exécution du flux de données. Vous pouvez définir votre fréquence sur :
- Une fois : définissez votre fréquence sur
oncepour créer une ingestion unique. Les configurations de l’intervalle et du renvoi ne sont pas disponibles lors de la création d’un flux de données d’ingestion unique. Par défaut, la fréquence de planification est définie sur une seule fois. - Minute : définissez votre fréquence sur
minutepour planifier votre flux de données de sorte qu’il ingère des données par minute. - Heure : définissez votre fréquence sur
hourpour planifier votre flux de données pour ingérer des données par heure. - Jour : définissez votre fréquence sur
daypour planifier votre flux de données de sorte qu’il ingère des données quotidiennement. - Semaine : définissez votre fréquence sur
weekpour planifier votre flux de données de sorte qu’il ingère des données sur une base hebdomadaire.
Une fois que vous avez sélectionné une fréquence, vous pouvez configurer le paramètre d’intervalle afin de définir la période entre chaque ingestion. Par exemple, si vous définissez votre fréquence sur "jour" et configurez l’intervalle sur 15, votre flux de données s’exécute tous les 15 jours. Vous ne pouvez pas définir l’intervalle sur zéro. La valeur minimale de l’intervalle accepté pour chaque fréquence est la suivante :
- Une fois : n/a
- Minute : 15
- Heure : 1
- Jour : 1
- Semaine : 1
Une fois la configuration de votre planning d'ingestion terminée, sélectionnez Suivant.
Vérifier le flux de données
L’écran de Révision s’affiche, vous permettant dʼexaminer votre nouveau flux de données avant sa création. Les détails sont regroupés dans les catégories suivantes :
- Connexion : affiche le type de source, le chemin d’accès correspondant au fichier source choisi et le nombre de colonnes au sein de ce fichier source.
- Attribuer des champs de jeu de données et de mappage : affiche le jeu de données dans lequel les données sources sont ingérées, y compris le schéma auquel le jeu de données se conforme.
- Planification : indique la période, la fréquence et l’intervalle actifs du planning d’ingestion.
Une fois que vous avez examiné votre flux de données, cliquez sur Terminer et laissez un certain temps pour créer le flux de données.
Étapes suivantes
En suivant ce tutoriel, vous avez créé un flux de données pour importer des données d’un espace de stockage cloud externe et vous avez obtenu des informations sur la surveillance des jeux de données. Pour en savoir plus sur la création de flux de données, vous pouvez compléter votre apprentissage en regardant la vidéo ci-dessous. En outre, les données entrantes peuvent désormais être utilisées par les services Platform en aval tels que Real-Time Customer Profile et Data Science Workspace. Consultez les documents suivants pour plus d’informations :
Annexe
Les sections suivantes apportent des informations supplémentaires sur l’utilisation des connecteurs source.
Surveiller votre flux de données
Une fois votre flux de données créé, vous pouvez surveiller les données qui sont ingérées par celui-ci pour afficher des informations sur les taux d’ingestion, la réussite et les erreurs. Pour plus d’informations sur la façon de surveiller les flux de données, consultez le tutoriel sur la surveillance des comptes et des flux de données dans l’interface utilisateur.
Mettre à jour votre flux de données
Pour mettre à jour les configurations de la planification, du mappage et des informations générales de vos flux de données, consultez le tutoriel sur la mise à jour des flux de données de sources dans l’interface utilisateur
Supprimer le flux de données
Vous pouvez supprimer les flux de données qui ne sont plus nécessaires ou qui ont été créés de manière incorrecte à l’aide de la fonction Supprimer, disponible dans l’espace de travail Flux de données. Pour plus d’informations sur la suppression des flux de données, consultez le tutoriel sur la suppression des flux de données dans l’interface utilisateur.