Configuration d’un flux de données pour ingérer des données par lots à partir d’une source de stockage dans le cloud dans l’interface utilisateur

Ce tutoriel décrit les étapes de configuration d’un flux de données pour importer des données par lots de votre source de stockage dans le cloud vers Adobe Experience Platform.

Commencer

NOTE
Pour créer un flux de données permettant d’importer des données par lots à partir d’un espace de stockage dans le cloud, vous devez déjà avoir accès à une source de stockage dans le cloud authentifiée. Si vous n’y avez pas accès, accédez à la présentation des sources pour obtenir la liste des sources de stockage dans le cloud avec lesquelles vous pouvez créer un compte.

Ce tutoriel nécessite une compréhension du fonctionnement des composants suivants d’Adobe Experience Platform :

Formats de fichiers pris en charge

Les sources de stockage dans le cloud pour les données par lots prennent en charge les formats de fichiers suivants pour l’ingestion :

  • Valeurs séparées par des délimiteurs (DSV) : toute valeur d’un seul caractère peut être utilisée comme délimiteur pour les fichiers de données au format DSV.
  • JavaScript Object Notation (JSON) : les fichiers de données au format JSON doivent être compatibles avec XDM.
  • Apache Parquet : les fichiers de données au format parquet doivent être compatibles avec XDM.
  • Fichiers compressés : les fichiers JSON et délimités peuvent être compressés sous la forme : bzip2, gzip, deflate, zipDeflate, tarGzip et tar.

Ajouter des données

Après avoir créé votre compte de stockage dans le cloud, l’étape Ajouter des données s’affiche. Vous pouvez ainsi explorer la hiérarchie des fichiers de stockage dans le cloud et sélectionner le dossier ou le fichier spécifique à importer dans Platform.

  • La partie gauche de l’interface est un navigateur de répertoires qui affiche la hiérarchie des fichiers de stockage dans le cloud.
  • La partie droite de l'interface permet de prévisualiser jusqu'à 100 lignes de données à partir d'un dossier ou d'un fichier compatible.

Sélectionnez le dossier racine pour accéder à la hiérarchie des dossiers. À partir de là, vous pouvez sélectionner un seul dossier pour ingérer tous les fichiers du dossier de manière récursive. Lors de l’ingestion d’un dossier entier, vous devez vous assurer que tous les fichiers de ce dossier partagent le même format de données et le même schéma.

Une fois que vous avez sélectionné un dossier, l’interface appropriée se met à jour pour obtenir un aperçu du contenu et de la structure du premier fichier du dossier sélectionné.

Au cours de cette étape, vous pouvez effectuer plusieurs configurations sur vos données avant de continuer. Sélectionnez tout d’abord Format des données , puis le format de données approprié pour votre fichier dans le panneau déroulant qui s’affiche.

Le tableau suivant affiche les formats de données appropriés pour les types de fichiers pris en charge :

Type de fichier
Format des données
CSV
Délimité
JSON
JSON
Parquet
XDM Parquet

Sélectionner un délimiteur de colonne

Après avoir configuré le format des données, vous pouvez définir un délimiteur de colonne lors de l’ingestion de fichiers délimités. Sélectionnez l’option Délimiteur , puis un délimiteur dans le menu déroulant. Le menu affiche les options de délimiteurs les plus fréquemment utilisées, y compris une virgule (,), un onglet (\t) et une barre verticale (|).

Si vous préférez utiliser un délimiteur personnalisé, sélectionnez Personnalisé et saisissez un délimiteur à un seul caractère de votre choix dans la barre de saisie contextuelle.

Ingestion de fichiers compressés

Vous pouvez également ingérer des fichiers JSON compressés ou délimités en spécifiant leur type de compression.

À l’étape ​ Select data, sélectionnez un fichier compressé à ingérer, puis sélectionnez son type de fichier approprié et indiquez s’il est compatible XDM ou non. Sélectionnez ensuite Type de compression et sélectionnez le type de fichier compressé approprié pour vos données source.

Pour importer un fichier spécifique dans Platform, sélectionnez un dossier, puis le fichier à ingérer. Au cours de cette étape, vous pouvez également prévisualiser le contenu d’autres fichiers d’un dossier donné à l’aide de l’icône d’aperçu située en regard d’un nom de fichier.

Lorsque vous avez terminé, sélectionnez Suivant.

Fournir des détails sur le flux de données

La page Détails du flux de données vous permet de choisir si vous souhaitez utiliser un jeu de données existant ou un nouveau jeu de données. Au cours de ce processus, vous pouvez également configurer vos données à ingérer dans Profile et activer des paramètres tels que Diagnostic d’erreur, Ingestion partielle et Alertes.

Utiliser un jeu de données existant

Pour ingérer vos données dans un jeu de données existant, sélectionnez Jeu de données existant. Vous pouvez soit récupérer un jeu de données existant à l’aide de l’option de Recherche avancée, soit faire défiler la liste des jeux de données existants dans le menu déroulant. Une fois que vous avez sélectionné un jeu de données, indiquez un nom et une description pour votre flux de données.

Utiliser un nouveau jeu de données

Pour procéder à lʼingestion dans un nouveau jeu de données, sélectionnez Nouveau jeu de données, puis saisissez un nom pour le jeu de données de sortie et une description facultative. Sélectionnez ensuite un schéma à mapper à l’aide de l’option Recherche avancée ou en faisant défiler la liste des schémas existants dans le menu déroulant. Une fois que vous avez sélectionné un schéma, saisissez un nom et une description pour votre flux de données.

Activation des diagnostics de profil et d’erreur

Ensuite, sélectionnez la bascule Jeu de données de profil pour activer votre jeu de données pour Profile. Cela vous permet de créer une vue holistique des attributs et des comportements d’une entité. Les données de tous les jeux de données activés pour Profile seront incluses dans Profile et les modifications sont appliquées lorsque vous enregistrez votre flux de données.

Le diagnostic d’erreur permet de générer un message d’erreur détaillé pour tout enregistrement erroné survenant dans votre flux de données, tandis que l’ingestion partielle vous permet d’ingérer des données contenant des erreurs, jusqu’à un certain seuil que vous définissez manuellement. Pour plus d’informations, consultez la présentation de l’ingestion par lots partiels.

Activer les alertes

Vous pouvez activer les alertes pour recevoir des notifications sur le statut de votre flux de données. Sélectionnez une alerte dans la liste et abonnez-vous à des notifications concernant le statut de votre flux de données. Pour plus d’informations sur les alertes, consultez le guide sur l’abonnement aux alertes des sources dans l’interface utilisateur.

Lorsque vous avez terminé de renseigner votre flux de données, sélectionnez Suivant.

Mappage des champs de données à un schéma XDM

L’interface de mappage fournit un outil complet pour mapper les champs sources de votre schéma source aux champs XDM cibles correspondants dans le schéma cible.

Platform fournit des recommandations intelligentes pour les champs mappés automatiquement en fonction du schéma ou du jeu de données cible que vous avez sélectionné. Vous pouvez ajuster manuellement les règles de mappage en fonction de vos cas d’utilisation. Selon vos besoins, vous pouvez choisir de mapper directement des champs ou d’utiliser des fonctions de préparation de données pour transformer les données sources afin d’obtenir des valeurs informatisées ou calculées. Pour obtenir des instructions complètes sur l’utilisation de l’interface du mappeur et des champs calculés, consultez le guide de l’interface utilisateur de la préparation des données.

Une fois le mappage de vos données source réussi, sélectionnez Suivant.

Planification des exécutions d’ingestion

IMPORTANT
Il est vivement recommandé de planifier votre flux de données pour une ingestion unique lors de l’utilisation de la source FTP.

L’étape Planification s’affiche, ce qui vous permet de configurer un planning d’ingestion pour ingérer automatiquement les données source sélectionnées à l’aide des mappages configurés. Par défaut, la planification est définie sur Once. Pour régler la fréquence d'ingestion, sélectionnez Fréquence, puis sélectionnez une option dans le menu déroulant.

TIP
L’intervalle et le renvoi ne sont pas visibles lors d’une ingestion unique.

scheduling

Si vous définissez la fréquence d’ingestion sur Minute, Hour, Day ou Week, vous devez définir un intervalle pour établir une période définie entre chaque ingestion. Par exemple, une fréquence d’ingestion définie sur Day et un intervalle défini sur 15 signifie que votre flux de données est planifié pour ingérer des données tous les 15 jours.

Au cours de cette étape, vous pouvez également activer le renvoi et définir une colonne pour l’ingestion incrémentielle de données. Le renvoi est utilisé pour ingérer des données historiques, tandis que la colonne que vous définissez pour l’ingestion incrémentielle permet de différencier les nouvelles données des données existantes.

Consultez le tableau ci-dessous pour plus d’informations sur les configurations de planification.

Configuration de la planification
Description
Fréquence

Configurez la fréquence pour indiquer la fréquence d’exécution du flux de données. Vous pouvez définir votre fréquence sur :

  • Une fois : définissez votre fréquence sur once pour créer une ingestion unique. Les configurations de l’intervalle et du renvoi ne sont pas disponibles lors de la création d’un flux de données d’ingestion unique. Par défaut, la fréquence de planification est définie sur une seule fois.
  • Minute : définissez votre fréquence sur minute pour planifier votre flux de données de sorte qu’il ingère des données par minute.
  • Heure : définissez votre fréquence sur hour pour planifier votre flux de données pour ingérer des données par heure.
  • Jour : définissez votre fréquence sur day pour planifier votre flux de données de sorte qu’il ingère des données quotidiennement.
  • Semaine : définissez votre fréquence sur week pour planifier votre flux de données de sorte qu’il ingère des données sur une base hebdomadaire.
Intervalle

Une fois que vous avez sélectionné une fréquence, vous pouvez configurer le paramètre d’intervalle afin de définir la période entre chaque ingestion. Par exemple, si vous définissez votre fréquence sur "jour" et configurez l’intervalle sur 15, votre flux de données s’exécute tous les 15 jours. Vous ne pouvez pas définir l’intervalle sur zéro. La valeur minimale de l’intervalle accepté pour chaque fréquence est la suivante :

  • Une fois : n/a
  • Minute : 15
  • Heure : 1
  • Jour : 1
  • Semaine : 1
Heure de début
Horodatage de l’exécution projetée, présenté dans le fuseau horaire UTC.
Renvoyer
Le renvoi détermine les données ingérées initialement. Si le renvoi est activé, tous les fichiers actuels du chemin spécifié seront ingérés lors de la première ingestion planifiée. Si le renvoi est désactivé, seuls les fichiers chargés entre la première exécution de l’ingestion et l’heure de début seront ingérés. Les fichiers chargés avant l’heure de début ne seront pas ingérés.
NOTE
Pour l’ingestion par lots, chaque flux de données qui s’ensuit sélectionne les fichiers à ingérer à partir de votre source en fonction de la date et heure de leur dernière modification. Cela signifie que les flux de données par lot sélectionnent les fichiers de la source qui sont nouveaux ou qui ont été modifiés depuis la dernière exécution du flux. En outre, vous devez vous assurer qu’il existe une période suffisante entre le chargement de fichiers et l’exécution d’un flux planifié, car les fichiers qui ne sont pas entièrement chargés sur votre compte de stockage dans le cloud avant l’heure d’exécution planifiée du flux peuvent ne pas être sélectionnés pour ingestion.

Une fois la configuration de votre planning d'ingestion terminée, sélectionnez Suivant.

Vérifier le flux de données

L’écran de Révision s’affiche, vous permettant dʼexaminer votre nouveau flux de données avant sa création. Les détails sont regroupés dans les catégories suivantes :

  • Connexion  : affiche le type de source, le chemin d’accès correspondant au fichier source choisi et le nombre de colonnes au sein de ce fichier source.
  • Attribuer des champs de jeu de données et de mappage  : affiche le jeu de données dans lequel les données sources sont ingérées, y compris le schéma auquel le jeu de données se conforme.
  • Planification : indique la période, la fréquence et l’intervalle actifs du planning d’ingestion.

Une fois que vous avez examiné votre flux de données, cliquez sur Terminer et laissez un certain temps pour créer le flux de données.

Étapes suivantes

En suivant ce tutoriel, vous avez créé un flux de données pour importer des données d’un espace de stockage cloud externe et vous avez obtenu des informations sur la surveillance des jeux de données. Pour en savoir plus sur la création de flux de données, vous pouvez compléter votre apprentissage en regardant la vidéo ci-dessous. En outre, les données entrantes peuvent désormais être utilisées par les services Platform en aval tels que Real-Time Customer Profile et Data Science Workspace. Consultez les documents suivants pour plus d’informations :

WARNING
Lʼinterface utilisateur de Platform affichée dans la vidéo suivante est obsolète. Consultez la documentation pour découvrir les dernières captures dʼécran et fonctionnalités de lʼinterface utilisateur.

Annexe

Les sections suivantes apportent des informations supplémentaires sur l’utilisation des connecteurs source.

Surveiller votre flux de données

Une fois votre flux de données créé, vous pouvez surveiller les données qui sont ingérées par celui-ci pour afficher des informations sur les taux d’ingestion, la réussite et les erreurs. Pour plus d’informations sur la façon de surveiller les flux de données, consultez le tutoriel sur la surveillance des comptes et des flux de données dans l’interface utilisateur.

Mettre à jour votre flux de données

Pour mettre à jour les configurations de la planification, du mappage et des informations générales de vos flux de données, consultez le tutoriel sur la mise à jour des flux de données de sources dans l’interface utilisateur

Supprimer le flux de données

Vous pouvez supprimer les flux de données qui ne sont plus nécessaires ou qui ont été créés de manière incorrecte à l’aide de la fonction Supprimer, disponible dans l’espace de travail Flux de données. Pour plus d’informations sur la suppression des flux de données, consultez le tutoriel sur la suppression des flux de données dans l’interface utilisateur.

recommendation-more-help
337b99bb-92fb-42ae-b6b7-c7042161d089