Table des matières:

Comment servez-vous un modèle TensorFlow ?
Comment servez-vous un modèle TensorFlow ?

Vidéo: Comment servez-vous un modèle TensorFlow ?

Vidéo: Comment servez-vous un modèle TensorFlow ?
Vidéo: Coder un simple réseau de neurone - Se former à Tensorflow 2.0 #5 2024, Novembre
Anonim

Afin de servir un modèle Tensorflow , exportez simplement un SavedModel depuis votre Tensorflow programme. SavedModel est un format de sérialisation hermétique, récupérable et indépendant du langage qui permet aux systèmes et outils de niveau supérieur de produire, consommer et transformer Modèles TensorFlow.

Par conséquent, comment exécuter un modèle TensorFlow ?

Voici les étapes que nous allons effectuer:

  1. Faites un modèle stupide comme exemple, entraînez-le et stockez-le.
  2. Récupérez les variables dont vous avez besoin dans votre modèle stocké.
  3. Construisez les informations sur le tenseur à partir d'eux.
  4. Créez la signature du modèle.
  5. Créez et enregistrez un générateur de modèles.
  6. Téléchargez une image Docker sur laquelle TensorFlow est déjà compilé.

De plus, que propose TensorFlow ? TensorFlow Servir est une solution flexible et performante portion système pour les modèles d'apprentissage automatique, conçu pour les environnements de production. TensorFlow Servir fournit une intégration prête à l'emploi avec TensorFlow modèles, mais peut être facilement étendu à servir d'autres types de modèles et de données.

À ce sujet, comment le service TensorFlow fonctionne-t-il ?

TensorFlow Servir nous permet de sélectionner quelle version d'un modèle, ou "servable" nous voulons utiliser lorsque nous faisons des demandes d'inférence. Chaque version sera exportée vers un sous-répertoire différent sous le chemin donné.

Qu'est-ce qu'un serveur modèle ?

Serveur modèle pour Apache MXNet (MMS) est un composant open source conçu pour simplifier la tâche de déploiement de l'apprentissage en profondeur des modèles pour l'inférence à grande échelle. Déploiement des modèles car l'inférence n'est pas une tâche triviale.

Conseillé: