Génération image-à-texte
Définition
Les modèles génératifs image-texte sont des modèles multimodaux appartenant à la catégorie des modèles génératifs. Ils prennent des images ainsi que des textes en entrée pour ensuite générer des textes en sortie. Ils peuvent accomplir de nombreuses tâches liées au langage visuel, telles que le sous-titrage d'images ou la réponse à des questions visuelles. L'apprentissage contrastif est couramment utilisé pour leur préentraînement.
Voir aussi modèle génératif et modèle multimodal
Compléments
Les modèles de langue visuels ont également commencé à incorporer des instructions et apprentissage par renforcement et rétroaction humaine (ARRH) afin d'améliorer les capacités de dialogue multimodal et d'aligner les résultats sur les réponses souhaitées.
Français
génération image-à-texte
génération image-texte
Anglais
vision-language model
vision language model
visual language model
VLM
Vision-language model are multimodal models belonging to generative models that take image and text inputs, and generate text outputs. They can accomplish various vision-language tasks suchs as image captioning and visual question answering. In their pretraining, contrastive learning is commonly used.
Vision-language models have also begun to incorporate instruction-fine-tuning and Reinforcement Learning from Human Feedback (RLHF) in vision-language models to improve multimodal chat capabilities and align outputs with desired responses.
Sources
