0

J'utilise Kinesis firehose pour traiter les données en redshift et j'essaie les formats Json et Csv.Kinesis Firehose charge les données csv dans Redshift

Le format JSON fonctionne bien pour moi et les données sont chargées dans la table redshift.

COPIE DE COMMANDE UTILISÉ POUR JSON:

COPIE DE products_json 's3: // foldername /' 'aws_iam_role = ACCRÉDITATION arn: aws: rôle iam ::: /' MANIFESTE JSON 'auto';

des commandes CLI pour mettre enregistrement:

aws firehose mettre record --delivery-stream-name csvtoredshiftstreamingjson --record = 'Data = "{\" ProductID \ ": 1, \" productname \ ": \" phone \ ", \" productprice \ ": \" 2.30 \ "}" '

Toutefois, lorsque j'utilise CSV, les données sont présentes dans S3 mais ne sont pas chargées dans redshift.

COPIE DE COMMANDE UTILISÉ POUR CSV:

COPIE DE products_csv 's3: // foldername /' 'aws_iam_role = ACCRÉDITATION arn: aws: rôle iam ::: /' MANIFESTE csv;

des commandes CLI pour mettre CSV Record:

aws firehose mettre record --delivery-stream-name csvtoredshiftstream --record = 'Data = "1, Téléphone, 2.30"'

Le les enregistrements sont traités en S3 mais pas en redshift. La table STL_LOAD_ERRORS n'a également aucun enregistrement.

S'il vous plaît laissez-moi savoir s'il me manque quelque chose.

Merci.

+0

Avez-vous vu [la page en cours d'état AWS] (https://status.aws.amazon.com/) - tout est un peu un gâchis, mais commence à Reviens. – stdunbar

+0

Merci pour vos commentaires, c'est vrai, mais le problème que j'ai signalé est persistant de la semaine dernière, je crois qu'il me manque quelque chose. –

Répondre

0

j'ai pu surmonter ce problème en fournissant un accès firehose à redshift en débloquant la Ips suivante dans Redshift

52.70.63.192/27 pour des États-Unis (N. Virginia) 52.89.255.224/27 pour US West (Oregon) 52.19.239.192/27 pour UE (Irlande)

Ces adresses IP sont utilisées par firehose pour communiquer avec Redshift.

Merci & Cordialement, Srivignesh KN