2017-08-10 3 views
0

J'ai un cas d'utilisation où les périphériques sur le véhicule doivent envoyer des fichiers binaires plats à un serveur cloud, les traiter au fur et à mesure qu'ils arrivent et stockent les données dans Hbase . Je me demande quels frameworks d'ingestion de données supportent le téléchargement de fichiers binaires plats à partir d'un périphérique distant et quel framework de traitement de données doit être utilisé pour analyser ces fichiers et stocker des données dans HBase. Veuillez suggérer un design qui conviendrait à mon application.Ingest fichier de données à plat de périphérique périphérique à HDFS et processus

Répondre

0

Jetez un coup d'œil à la plateforme Confluent https://www.confluent.io/product/connectors/. Vous pouvez distribuer toutes vos données via kafka, les traiter si vous avez besoin de flux kafka et stocker les résultats dans HBase avec des connecteurs kafka.

+0

Merci. Mon appareil est déjà en train de poster un fichier journal bin via des API REST. Est-ce que Kafka peut consommer directement à partir des API REST sans apporter de modifications à l'appareil? – Keerthi

+1

@Keerthi AFAIK vous pouvez essayer d'utiliser le proxy Kafka REST, peut-être qu'il peut vous aider. Sinon, vous pouvez toujours écrire votre propre service REST qui écrira à Kafka via le producteur Kafka. – leshkin