Model Warm-Up


Révision datée du 21 novembre 2024 à 17:35 par Arianne (discussion | contributions)
(diff) ← Version précédente | Voir la version actuelle (diff) | Version suivante → (diff)

en construction

Définition

Lors de la phase de déploiement d'un modèle qui a été préalablement entraîné, l'échauffement du modèle consiste à exécuter un petit nombre de requêtes d'inférence à un modèle pour initialiser tous ses composants. 

Compléments

Il est important d'observer si le temps de réponse moyen diminue jusqu'à la valeur de latence attendue en production à mesure que l'échauffement progresse.

Français

Échauffement du modèle

Échauffement à l'inférence

Anglais

Model Warm-up

Source

À trouver

Contributeurs: Arianne