Comment charger le point de contrôle et l'inférence avec C++ pour tensorflow?

Question

J'ai tensorflow avec api python et a obtenu ces fichiers de modèle checkpoint:

model.ckpt-17763.data-00000-of-00001 
model.ckpt-17763.index 
model.ckpt-17763.meta 

Mais je veux un C/C++ bibliothèque partagée (.so fichier) lors de l'intégration dans la production. J'ai donc besoin de charger ces fichiers de modèle et d'inférence avec du code C++ et compiler vers une bibliothèque partagée. Y a-t-il un tutoriel ou un exemple pour cela?

Answer 1

Vous pouvez écrire du code C++ pour charger et utiliser votre graphique avec les instructions données here.

Vous pouvez utiliser les fichiers here pour créer un projet Cmake avec tensorflow en dehors du référentiel TF et compiler votre bibliothèque.

Cependant, vous aurez toujours besoin des fichiers .ckpt à côté de votre .so, je ne sais pas comment les interposer à l'intérieur. Il y a beaucoup de questions à propos de SO, et quelques tutoriels (voir les deux cités en this answer) mais comme tensorflow évolue rapidement, ils deviennent rapidement obsolètes, et c'est toujours un peu difficile de le faire. travailler correctement (totalement réalisable, et devenir plus facile, cependant).