Récupération multimodale
en construction
Définition
Basée sur l'apprentissage de représentations, cette tâche récupère des items provenant de différentes modalités (image, texte, vidéo et audio) à l'aide d'une requête de n'importe quelle modalité et elle exploite également la complémentarité et la cohérence entre ces données hétérogènes. Elle facilite ainsi la correspondance sémantique, elle aide les modèles de langue à combiner habilement les informations textuelles et visuelles ainsi qu'à générer du contenu enrichi par des images.
Voir aussi génération texte-à-image, modèle de langue et grand modèle de langues
Français
XXXXXX
Anglais
Cross-Modal Retrieval
CMR
Based on representation learning, this task retrieves items across different modalities (image, text, video and audio) using a query from any one modality, and it also leverages complementary and consistency between heterogenous data. It facilitates semantic matching and helps language models to combine adeptly textual and visual information.
Source
