Modèle de langue visuel


en construction

Définition

Les XXXXXXX sont des modèles multimodaux et ils appartiennent à la catégorie des modèles génératifs. Ils prennent des images et des textes en entrée pour ensuite générer des textes en sortie et ils peuvent accomplir de nombreuses tâches liées au langage visuel, telles que le sous-titrage d'images ou la réponse à des questions visuelles. L'apprentissage contrastif est couramment utilisé pour leur préentraînement.

Voir aussi modèle génératif et modèle multimodal

compléments

à faire

Français

XXXXXX

Anglais

Vision-Language Model

Vision Language Model

Visual Language Model

VLM

Vision-language model are multimodal models belonging to generative models that take image and text inputs, and generate text outputs. They can accomplish various vision-language tasks suchs as image captioning and visual question answering. In their pretraining, contrastive learning is commonly used.

Vision-language models have also begun to incorporate instruction-fine-tuning and Reinforcement Learning from Human Feedback (RLHF) in vision-language models to improve multimodal chat capabilities and align outputs with desired responses.

Sources

Source : arxiv

Source : huggingface

Source : huggingface

Contributeurs: Arianne , wiki