Présentation
La source S3 récupère des fichiers de données depuis un bucket Amazon S3 ou tout service de stockage compatible S3 (par ex. MinIO, DigitalOcean Spaces, OVH Object Storage). Utilisez-la lorsque vos données sont stockées sous forme de fichiers dans S3 et que vous souhaitez les importer dans Reelevant pour la personnalisation.Configuration
Champs obligatoires
Champs optionnels
Services compatibles S3
La source S3 fonctionne avec tout service implémentant l’API S3. Définissezendpoint sur l’URL de votre fournisseur :
| Fournisseur | Exemple d’endpoint |
||-----------------|
| AWS S3 | https://s3.amazonaws.com (par défaut) |
| MinIO | https://minio.example.com |
| DigitalOcean Spaces | https://nyc3.digitaloceanspaces.com |
| OVH Object Storage | https://s3.gra.io.cloud.ovh.net |
| Scaleway | https://s3.fr-par.scw.cloud |
Formats de fichiers pris en charge
S3 détecte automatiquement le format du fichier. Les formats suivants sont pris en charge :Les fichiers compressés (
.gz, .zip) sont automatiquement décompressés avant le parsing.Déchiffrement PGP
La source S3 prend en charge les fichiers chiffrés PGP. LorsquepgpPrivateKey est configuré, les fichiers sont déchiffrés de manière transparente avant la décompression et le parsing.
Les fichiers chiffrés armored (
.asc) et binary (.pgp, .gpg) sont pris en charge.
Consultez le guide de déchiffrement PGP pour plus de détails sur la génération de clés, les formats pris en charge et la gestion des erreurs.
Chemins wildcards
Vous pouvez utiliser un wildcard (*) dans le chemin du fichier pour correspondre à plusieurs fichiers. Cela est utile lorsque :
- Un nouveau fichier est exporté périodiquement avec un nom différent (par ex.
exports/products_20240101.csv,exports/products_20240102.csv) - Les données sont réparties sur plusieurs fichiers dans le même répertoire
exports/products_*.csv— correspond à tous les fichiers CSV commençant parproducts_dans le préfixeexports/data/*.json— correspond à tous les fichiers JSON sous le préfixedata/
Modes de traitement des fichiers
Lors de l’utilisation de chemins wildcards, vous pouvez configurer la manière dont les fichiers sont sélectionnés via le champprocessType :
Fonctionnement
- Reelevant s’authentifie auprès de S3 avec la clé d’accès et la clé secrète fournies.
- Le bucket et le chemin spécifiés sont accédés. Si un wildcard est utilisé, les objets correspondants sont listés.
- Les fichiers sont téléchargés, décompressés si nécessaire, et parsés selon le format détecté.
- Les champs sont extraits et rendus disponibles pour le mapping.
- Lors des synchronisations suivantes, les fichiers sont rerécupérés selon le mode de traitement configuré.