J'ai un cas d'utilisation où les périphériques sur le véhicule doivent envoyer des fichiers binaires plats à un serveur cloud, les traiter au fur et à mesure qu'ils arrivent et stockent les données dans Hbase . Je me demande quels frameworks d'ingestion de données supportent le téléchargement de fichiers binaires plats à partir d'un périphérique distant et quel framework de traitement de données doit être utilisé pour analyser ces fichiers et stocker des données dans HBase. Veuillez suggérer un design qui conviendrait à mon application.Ingest fichier de données à plat de périphérique périphérique à HDFS et processus
0
A
Répondre
0
Jetez un coup d'œil à la plateforme Confluent https://www.confluent.io/product/connectors/. Vous pouvez distribuer toutes vos données via kafka, les traiter si vous avez besoin de flux kafka et stocker les résultats dans HBase avec des connecteurs kafka.
Merci. Mon appareil est déjà en train de poster un fichier journal bin via des API REST. Est-ce que Kafka peut consommer directement à partir des API REST sans apporter de modifications à l'appareil? – Keerthi
@Keerthi AFAIK vous pouvez essayer d'utiliser le proxy Kafka REST, peut-être qu'il peut vous aider. Sinon, vous pouvez toujours écrire votre propre service REST qui écrira à Kafka via le producteur Kafka. – leshkin